知识库章节 ▾

导航

▸ 从这里开始 按角色

类别

工具 37
词汇表 12

工具

LangChain + Gonka AI — 便宜的 AI 应用程序

LangChain 是用于构建 Python 和 JavaScript AI 应用程序的最流行框架。RAG 流水线、链 (chains)、代理 (agents)、文档处理 — LangChain 为这一切提供了抽象。

LangChain 通过 ChatOpenAI 类原生支持 OpenAI 兼容 API。这意味着 JoinGonka Gateway 只需 3 行代码即可集成 — 无需额外的包或配置。

结果：一个 RAG 系统、聊天机器人或 AI 代理，只需 $0.0047/1M token，而不是 OpenAI 的 $2.50-15。

快速入门：3 行代码

极简示例 — 将 LangChain 连接到 Gonka：

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("解释什么是 RAG")
print(response.content)

就这样。只需三行代码，您的 LangChain 项目即可通过 去中心化 Gonka 网络 以极低成本运行。

安装依赖：

pip install langchain langchain-openai

建议：明确指定 max_tokens=8192 — 这是通过 JoinGonka Gateway 对所有网络模型的输出限制。网络模型的上下文窗口为 200K tokens — 在 RAG 配置 chunk_size 时请注意这一点。

示例：使用 Gonka 的 RAG 管道

RAG (Retrieval-Augmented Generation) 是 AI 应用中最流行的模式。您加载文档，将其分成小块，创建 embedding，搜索相关片段，并生成带有上下文的回答。

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. 通过 Gonka 使用 LLM
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. 加载和索引文档
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. 向量存储（本地，免费）
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG 链
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. 查询
result = qa.invoke("这份文档是关于什么的？")
print(result["result"])

成本：一个 RAG 流水线请求（检索 + 生成）使用约 2-5K LLM tokens。通过 Gonka，成本为 $0.00001-0.000024。通过 OpenAI，成本为 $0.005-0.05。差距高达 1,300 倍。

对于每天处理数千个请求的生产系统，每月可节省数万美元的成本。

示例：带工具调用的 AI 代理

LangChain 允许你创建带有工具 (tools) 的智能体。Kimi K2.6 支持原生工具调用 (tool calling) —— 智能体运行更稳定，无需解析文本回复。

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-你的密钥",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """计算数学表达式。"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """在互联网上搜索信息。"""
    return f"搜索结果: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一个乐于助人的助手。"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 等于多少？"})
print(result["output"])

智能体调用 calculator，获取结果并生成回答。整个周期通过 Gonka 成本仅约 $0.00005。如果使用 OpenAI 则需要 $0.01-0.05。对于拥有数千用户的系统，这会导致数万美元的成本差距。

LangChain + Gonka = 以极低成本实现生产就绪的 AI 应用程序。RAG、代理、链 — 全部通过 ChatOpenAI 的 3 行代码实现。成本 — $0.0047/1M token，支持原生 tool calling 和 streaming。
← Aider + Gonka AI — 与 AI 结对编程 n8n + Gonka AI — 通过便宜的 AI 实现自动化 →

想了解更多？

探索其他章节或立即开始赚取 GNK。

获取免费代币 →