知識ベースのセクション ▾

ナビゲーション

▸ ここから始める 役割別

カテゴリー

ツール 37
用語集 12

ツール

LangChain + Gonka AI — ごくわずかなコストの AI アプリケーション

LangChainは、PythonおよびJavaScriptでAIアプリケーションを構築するための最も人気のあるフレームワークです。RAGパイプライン、チェーン(chains)、エージェント、ドキュメント処理など、LangChainはこれらすべてを抽象化して提供します。

LangChainはChatOpenAIクラスを通じてOpenAI互換APIをネイティブにサポートしています。つまり、JoinGonka Gatewayは追加のパッケージや設定なしで、3行のコードで統合可能です。

結果:OpenAIで$2.50-15かかるところを、トークン100万あたり$0.0047で動作するRAGシステム、チャットボット、またはAIエージェントが実現します。

クイックスタート: 3行のコード

GonkaにLangChainを接続するための最小の例:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-あなたのキー",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("RAGとは何か説明して")
print(response.content)

以上です。わずか3行のコードで、LangChainプロジェクトが分散型ネットワークGonkaを通じて低コストで動作します。

依存関係のインストール:

pip install langchain langchain-openai

推奨事項: max_tokens=8192 を明示的に指定してください。これはネットワーク上の全モデルにおけるJoinGonka Gatewayの出力上限です。ネットワークモデルのコンテキストウィンドウは200Kトークンであるため、RAGパイプラインで chunk_size を設定する際はこれに留意してください。

例: Gonka との RAG パイプライン

RAG (Retrieval-Augmented Generation) は、現在最も人気のあるAIアプリケーションパターンです。ドキュメントをアップロードし、チャンクに分割し、埋め込みを作成し、関連するフラグメントを検索して、コンテキスト付きで回答を生成します。

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. Gonka経由のLLM
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. ドキュメントの読み込みとインデックス作成
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. ベクターストア(ローカル、無料)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAGチェーン
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. クエリ
result = qa.invoke("このドキュメントの内容は何ですか?")
print(result["result"])

コストについて:1回のRAGパイプラインリクエスト(検索+生成)には約2,000〜5,000トークンのLLM消費が必要です。Gonka経由では$0.00001〜$0.000024ですが、OpenAI経由では$0.005〜$0.05かかります。差は1,300倍です。

1日に数千件のリクエストを処理する本番環境では、月間で数万ドルの節約になります。

例: ツールコーリングを持つ AI エージェント

LangChainではエージェントにツール(tools)を持たせることができます。Kimi K2.6はネイティブなツール呼び出しをサポートしているため、テキストレスポンスを解析する手間なく、エージェントが確実に稼働します。

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """数学式を計算します。"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """インターネットで情報を検索します。"""
    return f"検索結果: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "あなたは役に立つアシスタントです。"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 はいくつですか?"})
print(result["output"])

エージェントは calculator を呼び出し、結果を取得して回答を生成します。このサイクル全体がGonka経由で約$0.00005です。OpenAI経由では$0.01-0.05となります。数千人のユーザーを持つシステムでは、数万ドルの差になります。

LangChain + Gonka = 低コストで本番環境対応のAIアプリケーション。RAG、エージェント、チェーンをChatOpenAIを使って3行のコードで実装。コストはトークン100万あたり$0.0047、ネイティブのtool calling、streamingにも対応。

もっと知りたいですか?

他のセクションを探索するか、Gonkaを今すぐ獲得し始めましょう。

無料トークンを獲得 →