지식 기반 섹션 ▾

내비게이션

▸ 여기서 시작하세요 역할별

카테고리

도구 32
용어집 12

도구

LangChain + Gonka AI — 저렴한 AI 애플리케이션

LangChain은 Python 및 JavaScript에서 AI 애플리케이션을 구축하기 위한 가장 인기 있는 프레임워크입니다. RAG 파이프라인, 체인, 에이전트, 문서 처리 등 LangChain은 이 모든 기능을 추상화하여 제공합니다.

LangChain은 ChatOpenAI 클래스를 통해 OpenAI 호환 API를 네이티브로 지원합니다. 즉, JoinGonka Gateway를 추가 패키지나 설정 없이 단 3줄의 코드로 통합할 수 있습니다.

결과: RAG 시스템, 챗봇 또는 AI 에이전트가 OpenAI의 비용인 $2.50-15 대신 $0.003/1M 토큰으로 작동합니다.

빠른 시작: 3줄 코드

Gonka에 LangChain을 연결하는 최소 예제:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-당신의-키",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("RAG가 무엇인지 설명해줘")
print(response.content)

이게 전부입니다. 단 세 줄의 코드로 귀하의 LangChain 프로젝트가 탈중앙화 네트워크 Gonka를 통해 저렴하게 작동합니다.

의존성 설치:

pip install langchain langchain-openai

권장 사항: max_tokens=8192를 명시적으로 지정하십시오. 이것은 네트워크의 모든 모델에 대한 JoinGonka Gateway의 출력 한도입니다. 네트워크 모델의 컨텍스트 윈도우는 200K 토큰이므로, RAG 파이프라인에서 chunk_size 설정 시 이를 고려하십시오.

예제: Gonka를 사용한 RAG 파이프라인

RAG (Retrieval-Augmented Generation)는 AI 애플리케이션에서 가장 인기 있는 패턴입니다. 문서를 로드하고, 청크로 나누고, 임베딩을 생성하고, 관련 조각을 검색하여 맥락에 맞는 답변을 생성합니다.

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. Gonka를 통한 LLM
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. 문서 로드 및 인덱싱
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. 벡터 저장소 (로컬, 무료)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG 체인
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. 질의
result = qa.invoke("이 문서는 무엇에 관한 것인가요?")
print(result["result"])

비용: 하나의 RAG 파이프라인 쿼리(검색 + 생성)는 약 2-5K LLM 토큰을 사용합니다. Gonka를 사용하면 $0.00001-0.000024입니다. OpenAI를 사용하면 $0.005-0.05입니다. 차이는 2,000배입니다.

하루에 수천 건의 요청을 처리하는 프로덕션 시스템의 경우, 월 수만 달러를 절약할 수 있습니다.

예제: 도구 호출을 포함한 AI 에이전트

LangChain을 사용하면 도구(tools)를 사용하는 에이전트를 만들 수 있습니다. Kimi K2.6은 네이티브 툴 호출을 지원하므로 텍스트 답변을 파싱하지 않고도 에이전트가 안정적으로 작동합니다.

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """수학식을 계산합니다."""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """인터넷에서 정보를 검색합니다."""
    return f"검색 결과: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "당신은 유용한 어시스턴트입니다."),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14는 무엇인가요?"})
print(result["output"])

에이전트가 calculator를 호출하고 결과를 받아 답변을 생성합니다. 전체 사이클 비용은 Gonka를 통해 약 $0.00005입니다. OpenAI는 $0.01-0.05입니다. 수천 명의 사용자가 있는 시스템에서는 수만 달러의 차이가 납니다.

LangChain + Gonka = 저렴한 비용의 프로덕션 레벨 AI 애플리케이션. RAG, 에이전트, 체인 등 모든 기능을 ChatOpenAI 3줄 코드로 구현. $0.003/1M 토큰의 비용, 네이티브 툴 호출 및 스트리밍 지원.
← Aider + Gonka AI — AI 페어 프로그래밍 n8n + Gonka AI — 저렴한 AI로 자동화 →

더 자세히 알고 싶으세요?

다른 섹션을 탐색하거나 지금 GNK를 얻기 시작하세요.

10M 무료 토큰 받기 →