知識ベースのセクション ▾

ナビゲーション

▸ ここから始める 役割別

カテゴリー

ツール 52
用語集 12

ツール

LangChain + Gonka AI — ごくわずかなコストの AI アプリケーション

LangChainは、PythonおよびJavaScriptでAIアプリケーションを構築するための最も人気のあるフレームワークです。RAGパイプライン、チェーン(chains)、エージェント、ドキュメント処理など、LangChainはこれらすべてを抽象化して提供します。

LangChainはChatOpenAIクラスを通じてOpenAI互換APIをネイティブにサポートしています。つまり、JoinGonka Gatewayは追加のパッケージや設定なしで、3行のコードで統合可能です。

結果:OpenAIで$2.50-15かかるところを、トークン100万あたり$0.0069で動作するRAGシステム、チャットボット、またはAIエージェントが実現します。

クイックスタート: 3行のコード

最小限の例 — LangChainをGonkaに接続します:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("Explain what RAG is")
print(response.content)

これだけです。3行で、あなたのLangChainプロジェクトが分散型ネットワークGonkaを通じて格安で動作します。

依存関係のインストール:

pip install langchain langchain-openai

# for the RAG and agent examples below
pip install langchain-classic langchain-community langchain-text-splitters faiss-cpu sentence-transformers

例のインポートはLangChain 1.x向けです(バージョン1.4で検証済み):従来のチェーンとAgentExecutorはlangchain-classicパッケージに、テキスト分割はlangchain-text-splittersに移動しました。

推奨:max_tokens=8192を明示的に指定してください — これがJoinGonka Gateway経由のMiniMax M2.7とGLM-5.3 Flashの出力上限です(DeepSeek V4 Flashは最大32768)。コンテキストウィンドウはMiniMax M2.7が200Kトークン(DeepSeek V4 Flashは380K、GLM-5.3 Flashは390K)— RAGパイプラインのchunk_sizeを設定する際はこれを考慮してください。

例: Gonka との RAG パイプライン

RAG(Retrieval-Augmented Generation)はAIアプリケーションで最も人気のあるパターンです。ドキュメントを読み込み、チャンクに分割し、埋め込みを作成し、関連する断片を検索して、コンテキスト付きの回答を生成します。

from langchain_openai import ChatOpenAI
from langchain_text_splitters import RecursiveCharacterTextSplitter
from langchain_classic.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. LLM via Gonka
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. Load and index documents
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. Vector store (local, free)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG chain
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. Query
result = qa.invoke("What is this document about?")
print(result["result"])

コスト:RAGパイプラインの1リクエスト(retrieval + generation)は約2〜5KのLLMトークンを使用します。Gonka経由なら$0.00001〜0.000024。OpenAI経由なら$0.005〜0.05。その差は1,300倍です。

1日に数千のリクエストを処理するproductionシステムでは、節約額は月に数万ドルに達します。

例: ツールコーリングを持つ AI エージェント

LangChainではツールを持つエージェントを構築できます。Gonkaネットワークのモデルはネイティブのtool callingに対応しているため、テキスト応答のパース不要でエージェントが安定して動作します。

from langchain_openai import ChatOpenAI
from langchain_classic.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain_core.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """Evaluates a math expression."""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """Searches the web for information."""
    return f"Search results for: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "You are a helpful assistant."),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "What is 2**10 * 3.14?"})
print(result["output"])

エージェントはcalculatorを呼び出し、結果を取得して回答を生成します。このサイクル全体がGonka経由なら約$0.00005。OpenAI経由なら$0.01~0.05。数千人規模のユーザーを抱えるシステムでは、この差は数万ドルに達します。

LangChain + Gonka = 低コストで本番環境対応のAIアプリケーション。RAG、エージェント、チェーンをChatOpenAIを使って3行のコードで実装。コストはトークン100万あたり$0.0069、ネイティブのtool calling、streamingにも対応。

もっと知りたいですか?

他のセクションを探索するか、Gonkaを今すぐ獲得し始めましょう。

無料トークンを獲得 →