知識ベースのセクション ▾

ナビゲーション

▸ ここから始める 役割別

カテゴリー

ツール 52
用語集 12

ツール

LangChain + Gonka AI — ごくわずかなコストの AI アプリケーション

LangChainは、PythonおよびJavaScriptでAIアプリケーションを構築するための最も人気のあるフレームワークです。RAGパイプライン、チェーン(chains)、エージェント、ドキュメント処理など、LangChainはこれらすべてを抽象化して提供します。

LangChainはChatOpenAIクラスを通じてOpenAI互換APIをネイティブにサポートしています。つまり、JoinGonka Gatewayは追加のパッケージや設定なしで、3行のコードで統合可能です。

結果:OpenAIで$2.50-15かかるところを、トークン100万あたり$0.0069で動作するRAGシステム、チャットボット、またはAIエージェントが実現します。

クイックスタート: 3行のコード

最小限の例——LangChainをGonkaに接続する:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("Explain what RAG is")
print(response.content)

これだけです。たった3行で、あなたのLangChainプロジェクトが分散型ネットワークGonkaを通じて、ごくわずかなコストで動作します。

依存関係のインストール:

pip install langchain langchain-openai

推奨:max_tokens=8192を明示的に指定してください。これがJoinGonka Gateway経由のMiniMax M2.7とGLM-5.3 Flashの出力上限です(DeepSeek V4 Flashは最大32768)。コンテキストウィンドウはMiniMax M2.7が200Kトークン(DeepSeek V4 Flashは380K、GLM-5.3 Flashは390K)です。RAGパイプラインでchunk_sizeを設定する際はこれを考慮してください。

例: Gonka との RAG パイプライン

RAG(Retrieval-Augmented Generation)は、AIアプリケーションで最もよく使われるパターンです。ドキュメントを読み込み、チャンクに分割し、埋め込みを生成し、関連する断片を検索して、コンテキスト付きの回答を生成します。

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. LLM via Gonka
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. Load and index documents
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. Vector store (local, free)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG chain
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. Query
result = qa.invoke("What is this document about?")
print(result["result"])

コスト:RAGパイプラインの1リクエスト(retrieval + generation)は約2〜5KトークンのLLMを使用します。Gonka経由なら$0.00001〜0.000024。OpenAI経由なら$0.005〜0.05。その差は1,300倍です。

1日に数千件のリクエストを処理する本番システムでは、月に数万ドルの節約になります。

例: ツールコーリングを持つ AI エージェント

LangChainを使えば、ツールを備えたエージェントを構築できます。ネットワーク上のモデルはネイティブのtool callingに対応しているため、テキスト応答のパース不要で、エージェントは確実に動作します。

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """Evaluates a math expression."""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """Searches the web for information."""
    return f"Search results for: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "You are a helpful assistant."),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "What is 2**10 * 3.14?"})
print(result["output"])

エージェントはcalculatorを呼び出し、結果を受け取って回答を組み立てます。このサイクル全体がGonka経由なら約$0.00005。OpenAI経由なら$0.01〜0.05。数千人のユーザーを抱えるシステムでは、数万ドルの差になります。

LangChain + Gonka = 低コストで本番環境対応のAIアプリケーション。RAG、エージェント、チェーンをChatOpenAIを使って3行のコードで実装。コストはトークン100万あたり$0.0069、ネイティブのtool calling、streamingにも対応。

もっと知りたいですか?

他のセクションを探索するか、Gonkaを今すぐ獲得し始めましょう。

無料トークンを獲得 →