ส่วนของฐานความรู้ ▾

การนำทาง

▸ เริ่มต้นที่นี่ ตามบทบาท

หมวดหมู่

เครื่องมือ 32
อภิธานศัพท์ 12

เครื่องมือ

LangChain + Gonka AI - แอปพลิเคชัน AI ในราคาที่ถูกมาก

LangChain คือเฟรมเวิร์กที่ได้รับความนิยมสูงสุดในการสร้างแอปพลิเคชัน AI ด้วย Python และ JavaScript ไม่ว่าจะเป็น RAG pipeline, chains, agents หรือการจัดการเอกสาร LangChain มี abstraction ที่พร้อมใช้งานสำหรับงานเหล่านี้ทั้งหมด

LangChain รองรับ OpenAI-compatible API ตามธรรมชาติผ่านคลาส ChatOpenAI นั่นหมายความว่า JoinGonka Gateway สามารถรวมเข้ากับโค้ดของคุณได้ใน 3 บรรทัดโดยไม่ต้องมีแพ็กเกจหรือการตั้งค่าเพิ่มเติม

ผลลัพธ์คือ: ระบบ RAG, แชทบอท หรือ AI agent ที่ทำงานด้วยราคา $0.003 ต่อ 1M token แทนที่จะเป็น $2.50-15 ของ OpenAI

เริ่มต้นอย่างรวดเร็ว: 3 บรรทัดของโค้ด

ตัวอย่างขั้นต่ำสำหรับการเชื่อมต่อ LangChain กับ Gonka:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="MiniMaxAI/MiniMax-M2.7",
)

response = llm.invoke("อธิบายว่า RAG คืออะไร")
print(response.content)

เรียบร้อยแล้ว เพียงสามบรรทัด โปรเจกต์ LangChain ของคุณก็ทำงานผ่าน เครือข่ายแบบกระจายศูนย์ Gonka ได้ในราคาประหยัด

การติดตั้ง Dependencies:

pip install langchain langchain-openai

คำแนะนำ: ควรระบุ max_tokens=8192 ให้ชัดเจน ซึ่งเป็นขีดจำกัดผลลัพธ์ผ่าน JoinGonka Gateway สำหรับทุกโมเดลในเครือข่าย และสำหรับหน้าต่างบริบทของโมเดลซึ่งอยู่ที่ 200K โทเค็น ให้คำนึงถึงเรื่องนี้เมื่อปรับแต่ง chunk_size ใน RAG-pipelines

ตัวอย่าง: RAG-pipeline กับ Gonka

RAG (Retrieval-Augmented Generation) คือรูปแบบแอปพลิเคชัน AI ที่ได้รับความนิยมสูงสุด คุณเพียงโหลดเอกสาร แบ่งเป็น chunk สร้าง embedding ค้นหาส่วนที่เกี่ยวข้อง และสร้างคำตอบที่มีบริบท

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. LLM ผ่าน Gonka
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
    streaming=True,
)

# 2. โหลดและสร้างดัชนีเอกสาร
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. Vector storage (ในเครื่อง, ฟรี)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG-chain
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. การสอบถาม
result = qa.invoke("เอกสารนี้เกี่ยวกับอะไร?")
print(result["result"])

ราคา: การสอบถาม RAG pipeline หนึ่งครั้ง (retrieval + generation) จะใช้ LLM token ประมาณ 2-5K ผ่าน Gonka ราคาจะอยู่ที่ $0.00001-0.000024 ในขณะที่ OpenAI จะอยู่ที่ $0.005-0.05 ซึ่งต่างกันถึง 2,000 เท่า

สำหรับระบบ production ที่รองรับการสอบถามหลายพันรายการต่อวัน ความประหยัดอาจสูงถึงหลักหมื่นดอลลาร์ต่อเดือน

ตัวอย่าง: เอเจนต์ AI กับ tool calling

LangChain ช่วยให้คุณสร้างเอเจนต์พร้อมเครื่องมือ (tools) ได้ Kimi K2.6 รองรับการเรียกใช้ tool ตามธรรมชาติ (native tool calling) ทำให้เอเจนต์ทำงานได้อย่างน่าเชื่อถือโดยไม่ต้องพึ่งพาการแยกวิเคราะห์คำตอบที่เป็นข้อความ

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-ваш-ключ",
    model="MiniMaxAI/MiniMax-M2.7",
)

@tool
def calculator(expression: str) -> str:
    """คำนวณนิพจน์ทางคณิตศาสตร์"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """ค้นหาข้อมูลบนอินเทอร์เน็ต"""
    return f"ผลการค้นหาสำหรับ: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "คุณคือผู้ช่วยที่แสนดี"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 ได้เท่าไหร่?"})
print(result["output"])

เอเจนต์จะเรียกใช้วิธี calculator เพื่อรับผลลัพธ์และสร้างคำตอบ ลูปการทำงานทั้งหมดนี้มีราคาเพียงประมาณ $0.00005 ผ่าน Gonka ในขณะที่ OpenAI จะอยู่ที่ $0.01-0.05 สำหรับระบบที่มีผู้ใช้งานหลายพันคน ความแตกต่างนี้อาจหมายถึงเงินหลายหมื่นดอลลาร์

LangChain + Gonka = แอปพลิเคชัน AI ระดับ production ในราคาที่ประหยัดมาก ทั้ง RAG, เอเจนต์, chains ทุกอย่างผ่านโค้ด 3 บรรทัดด้วย ChatOpenAI ราคา $0.003 ต่อ 1M token พร้อมรองรับ native tool calling และ streaming
← Aider + Gonka AI - การเขียนโปรแกรมคู่กับ AI n8n + Gonka AI - การทำงานอัตโนมัติด้วย AI ราคาถูก →

ต้องการเรียนรู้เพิ่มเติมหรือไม่?

สำรวจส่วนอื่นๆ หรือเริ่มรับ GNK ทันที

รับ 10M โทเค็นฟรี →