ส่วนของฐานความรู้ ▾

การนำทาง

▸ เริ่มต้นที่นี่ ตามบทบาท

หมวดหมู่

เครื่องมือ 37
อภิธานศัพท์ 12

เครื่องมือ

LangChain + Gonka AI - แอปพลิเคชัน AI ในราคาที่ถูกมาก

LangChain เป็นเฟรมเวิร์กยอดนิยมที่สุดสำหรับการสร้างแอปพลิเคชัน AI ด้วย Python และ JavaScript ไม่ว่าจะเป็น RAG pipelines, chains, agents หรือการจัดการเอกสาร LangChain มอบ abstractions สำหรับทุกงานเหล่านี้

LangChain รองรับ OpenAI-compatible API โดยตรงผ่านคลาส ChatOpenAI ซึ่งหมายความว่า JoinGonka Gateway สามารถรวมเข้ากับโค้ดได้เพียง 3 บรรทัด โดยไม่ต้องใช้แพ็กเกจหรือการตั้งค่าเพิ่มเติม

ผลลัพธ์: ระบบ RAG, แชทบอท หรือ AI agent ที่ทำงานในราคา $0.0047/1M tokens แทนที่จะเป็น $2.50-15 ของ OpenAI

เริ่มต้นอย่างรวดเร็ว: 3 บรรทัดของโค้ด

ตัวอย่างขั้นต่ำสำหรับการเชื่อมต่อ LangChain กับ Gonka:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("อธิบายว่า RAG คืออะไร")
print(response.content)

เรียบร้อยแล้ว เพียงสามบรรทัด โปรเจกต์ LangChain ของคุณก็ทำงานผ่าน เครือข่ายแบบกระจายศูนย์ Gonka ได้ในราคาประหยัด

การติดตั้ง Dependencies:

pip install langchain langchain-openai

คำแนะนำ: ควรระบุ max_tokens=8192 ให้ชัดเจน ซึ่งเป็นขีดจำกัดผลลัพธ์ผ่าน JoinGonka Gateway สำหรับทุกโมเดลในเครือข่าย และสำหรับหน้าต่างบริบทของโมเดลซึ่งอยู่ที่ 200K โทเค็น ให้คำนึงถึงเรื่องนี้เมื่อปรับแต่ง chunk_size ใน RAG-pipelines

ตัวอย่าง: RAG-pipeline กับ Gonka

RAG (Retrieval-Augmented Generation) คือรูปแบบยอดนิยมสำหรับแอปพลิเคชัน AI โดยคุณโหลดเอกสาร แบ่งเป็นส่วน (chunks) สร้าง embedding ค้นหาส่วนที่เกี่ยวข้อง และสร้างคำตอบพร้อมบริบท

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. LLM ผ่าน Gonka
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. โหลดและทำดัชนีเอกสาร
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. Vector storage (ในเครื่อง, ฟรี)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG chain
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. คำถาม
result = qa.invoke("เอกสารนี้เกี่ยวกับอะไร?")
print(result["result"])

ค่าใช้จ่าย: หนึ่งคำขอของ RAG pipeline (retrieval + generation) ใช้โทเค็น LLM ประมาณ 2-5K ผ่าน Gonka ราคาอยู่ที่ $0.00001-0.000024 หากผ่าน OpenAI ราคาคือ $0.005-0.05 ความแตกต่างคือ 1,300 เท่า

สำหรับระบบ production ที่รองรับการขอข้อมูลนับพันครั้งต่อวัน การประหยัดค่าใช้จ่ายจะอยู่ที่หลายหมื่นดอลลาร์ต่อเดือน

ตัวอย่าง: เอเจนต์ AI กับ tool calling

LangChain ช่วยให้คุณสร้างเอเจนต์พร้อมเครื่องมือ (tools) ได้ Kimi K2.6 รองรับการเรียกใช้ tool ตามธรรมชาติ (native tool calling) ทำให้เอเจนต์ทำงานได้อย่างน่าเชื่อถือโดยไม่ต้องพึ่งพาการแยกวิเคราะห์คำตอบที่เป็นข้อความ

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """คำนวณนิพจน์ทางคณิตศาสตร์"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """ค้นหาข้อมูลบนอินเทอร์เน็ต"""
    return f"ผลการค้นหาสำหรับ: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "คุณคือผู้ช่วยที่แสนดี"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 ได้เท่าไหร่?"})
print(result["output"])

เอเจนต์จะเรียกใช้วิธี calculator เพื่อรับผลลัพธ์และสร้างคำตอบ ลูปการทำงานทั้งหมดนี้มีราคาเพียงประมาณ $0.00005 ผ่าน Gonka ในขณะที่ OpenAI จะอยู่ที่ $0.01-0.05 สำหรับระบบที่มีผู้ใช้งานหลายพันคน ความแตกต่างนี้อาจหมายถึงเงินหลายหมื่นดอลลาร์

LangChain + Gonka = แอปพลิเคชัน AI ที่พร้อมใช้งานจริงในราคาประหยัด RAG, agents, chains ทั้งหมดผ่านโค้ด 3 บรรทัดด้วย ChatOpenAI ราคา $0.0047/1M tokens, รองรับ tool calling และ streaming โดยกำเนิด
← Aider + Gonka AI - การเขียนโปรแกรมคู่กับ AI n8n + Gonka AI - การทำงานอัตโนมัติด้วย AI ราคาถูก →

ต้องการเรียนรู้เพิ่มเติมหรือไม่?

สำรวจส่วนอื่นๆ หรือเริ่มรับ GNK ทันที

รับโทเค็นฟรี →