知识库章节 ▾

导航

▸ 从这里开始 按角色

类别

工具 32
词汇表 12

工具

LangChain + Gonka AI — 便宜的 AI 应用程序

LangChain 是 Python 和 JavaScript 中构建 AI 应用最流行的框架。RAG 流水线、链式处理 (chains)、智能体 (agents) 和文档处理 —— LangChain 为所有这些提供了统一的抽象。

LangChain 通过 ChatOpenAI 类原生支持 OpenAI 兼容 API。这意味着 JoinGonka Gateway 可以仅用 3 行代码集成，无需安装额外包或进行复杂配置。

结果：构建 RAG 系统、聊天机器人或 AI 智能体，每 1M Token 成本仅为 $0.003，而 OpenAI 则需 $2.50-15。

快速入门：3 行代码

极简示例 — 将 LangChain 连接到 Gonka：

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("解释什么是 RAG")
print(response.content)

就这样。只需三行代码，您的 LangChain 项目即可通过 去中心化 Gonka 网络 以极低成本运行。

安装依赖：

pip install langchain langchain-openai

建议：明确指定 max_tokens=8192 — 这是通过 JoinGonka Gateway 对所有网络模型的输出限制。网络模型的上下文窗口为 200K tokens — 在 RAG 配置 chunk_size 时请注意这一点。

示例：使用 Gonka 的 RAG 管道

RAG (Retrieval-Augmented Generation) 是目前 AI 应用中最流行的模式。上传文档、切分块 (chunks)、创建向量嵌入、搜索相关片段并结合上下文生成回答。

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. 通过 Gonka 调用 LLM
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-你的密钥",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. 文档加载与索引
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. 向量存储 (本地、免费)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG 链
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. 查询
result = qa.invoke("关于这个文档讲了什么？")
print(result["result"])

成本：单次 RAG 流水线请求（检索 + 生成）约使用 2-5K LLM Token。通过 Gonka 计算，费用为 $0.00001-0.000024。而使用 OpenAI 则为 $0.005-0.05。差距高达 2000 倍。

对于每天处理数千次请求的生产系统，每月可节省数万美元的成本。

示例：带工具调用的 AI 代理

LangChain 允许你创建带有工具 (tools) 的智能体。Kimi K2.6 支持原生工具调用 (tool calling) —— 智能体运行更稳定，无需解析文本回复。

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-你的密钥",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """计算数学表达式。"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """在互联网上搜索信息。"""
    return f"搜索结果: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一个乐于助人的助手。"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 等于多少？"})
print(result["output"])

智能体调用 calculator，获取结果并生成回答。整个周期通过 Gonka 成本仅约 $0.00005。如果使用 OpenAI 则需要 $0.01-0.05。对于拥有数千用户的系统，这会导致数万美元的成本差距。

LangChain + Gonka = 以极低成本构建生产级 AI 应用。RAG、智能体、链式调用 —— 一切都可通过 ChatOpenAI 在 3 行代码内完成。成本仅 $0.003/1M Token，且支持原生工具调用和流式传输。
← Aider + Gonka AI — 与 AI 结对编程 n8n + Gonka AI — 通过便宜的 AI 实现自动化 →

想了解更多？

探索其他章节或立即开始赚取 GNK。

获取免费的 10M token →