지식 기반 섹션 ▾

내비게이션

▸ 여기서 시작하세요 역할별

카테고리

도구 37
용어집 12

도구

LangChain + Gonka AI — 저렴한 AI 애플리케이션

LangChain은 Python 및 JavaScript에서 AI 애플리케이션을 구축하기 위한 가장 인기 있는 프레임워크입니다. RAG 파이프라인, 체인(chains), 에이전트, 문서 처리 등 LangChain은 이 모든 것에 대한 추상화를 제공합니다.

LangChain은 ChatOpenAI 클래스를 통해 OpenAI 호환 API를 기본적으로 지원합니다. 즉, JoinGonka Gateway는 추가 패키지나 설정 없이 3줄의 코드로 통합됩니다.

결과: OpenAI에서 $2.50-15가 드는 RAG 시스템, 챗봇 또는 AI 에이전트를 토큰 100만 개당 $0.0047에 운영할 수 있습니다.

빠른 시작: 3줄 코드

Gonka에 LangChain을 연결하는 최소 예제:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-당신의-키",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("RAG가 무엇인지 설명해줘")
print(response.content)

이게 전부입니다. 단 세 줄의 코드로 귀하의 LangChain 프로젝트가 탈중앙화 네트워크 Gonka를 통해 저렴하게 작동합니다.

의존성 설치:

pip install langchain langchain-openai

권장 사항: max_tokens=8192를 명시적으로 지정하십시오. 이것은 네트워크의 모든 모델에 대한 JoinGonka Gateway의 출력 한도입니다. 네트워크 모델의 컨텍스트 윈도우는 200K 토큰이므로, RAG 파이프라인에서 chunk_size 설정 시 이를 고려하십시오.

예제: Gonka를 사용한 RAG 파이프라인

RAG (Retrieval-Augmented Generation)는 AI 애플리케이션에서 가장 인기 있는 패턴입니다. 문서를 업로드하고, 청크로 나누고, 임베딩을 생성한 후 관련 조각을 검색하여 컨텍스트와 함께 답변을 생성합니다.

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. Gonka를 통한 LLM
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. 문서 로드 및 인덱싱
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. 벡터 저장소 (로컬, 무료)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG 체인
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. 질의
result = qa.invoke("이 문서의 내용은 무엇인가요?")
print(result["result"])

비용: RAG 파이프라인 요청(검색 + 생성) 1회당 약 2,000~5,000 토큰의 LLM이 소모됩니다. Gonka를 사용하면 $0.00001~0.000024가 소모되는 반면, OpenAI를 사용하면 $0.005~0.05가 소요됩니다. 차이는 1,300배입니다.

하루에 수천 건의 요청을 처리하는 프로덕션 환경에서는 매달 수만 달러를 절약할 수 있습니다.

예제: 도구 호출을 포함한 AI 에이전트

LangChain을 사용하면 도구(tools)를 사용하는 에이전트를 만들 수 있습니다. Kimi K2.6은 네이티브 툴 호출을 지원하므로 텍스트 답변을 파싱하지 않고도 에이전트가 안정적으로 작동합니다.

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """수학식을 계산합니다."""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """인터넷에서 정보를 검색합니다."""
    return f"검색 결과: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "당신은 유용한 어시스턴트입니다."),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14는 무엇인가요?"})
print(result["output"])

에이전트가 calculator를 호출하고 결과를 받아 답변을 생성합니다. 전체 사이클 비용은 Gonka를 통해 약 $0.00005입니다. OpenAI는 $0.01-0.05입니다. 수천 명의 사용자가 있는 시스템에서는 수만 달러의 차이가 납니다.

LangChain + Gonka = 저렴한 비용의 프로덕션 준비 완료 AI 애플리케이션. RAG, 에이전트, 체인을 ChatOpenAI와 3줄의 코드로 구현. 비용은 토큰 100만 개당 $0.0047, 기본 tool calling 및 streaming 지원.
← Aider + Gonka AI — AI 페어 프로그래밍 n8n + Gonka AI — 저렴한 AI로 자동화 →

더 자세히 알고 싶으세요?

다른 섹션을 탐색하거나 지금 GNK를 얻기 시작하세요.

무료 토큰 받기 →