LangChain + Gonka AI - แอปพลิเคชัน AI ในราคาที่ถูกมาก

ตัวอย่างที่น้อยที่สุด – การเชื่อมต่อ LangChain กับ Gonka:

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
)

response = llm.invoke("Explain what RAG is")
print(response.content)

นั่นคือทั้งหมด สามบรรทัด – และโครงการ LangChain ของคุณทำงานผ่าน เครือข่าย Gonka ที่กระจายอำนาจ ในราคาถูกมาก

การติดตั้งการพึ่งพา:

pip install langchain langchain-openai

ข้อแนะนำ: ระบุ max_tokens=2048 อย่างชัดเจน – นี่คือสูงสุดผ่าน JoinGonka Gateway หน้าต่างบริบทของ Qwen3-235B – 128K โทเค็น – โปรดคำนึงถึงสิ่งนี้เมื่อกำหนดค่า chunk_size ในไปป์ไลน์ RAG

RAG (Retrieval-Augmented Generation) เป็นรูปแบบที่ได้รับความนิยมมากที่สุดของแอปพลิเคชัน AI คุณโหลดเอกสาร, แบ่งเป็นก้อน, สร้าง embedding, ค้นหาส่วนที่เกี่ยวข้อง และสร้างคำตอบพร้อมบริบท

from langchain_openai import ChatOpenAI
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.chains import RetrievalQA
from langchain_community.vectorstores import FAISS
from langchain_community.embeddings import HuggingFaceEmbeddings
from langchain_community.document_loaders import TextLoader

# 1. LLM ผ่าน Gonka
llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    streaming=True,
)

# 2. การโหลดและการจัดทำดัชนีเอกสาร
loader = TextLoader("docs/my_document.txt")
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=1000)
chunks = splitter.split_documents(docs)

# 3. ที่เก็บเวกเตอร์ (ในเครื่อง ฟรี)
embeddings = HuggingFaceEmbeddings()
vectorstore = FAISS.from_documents(chunks, embeddings)

# 4. RAG-chain
qa = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=vectorstore.as_retriever(),
)

# 5. คำขอ
result = qa.invoke("เอกสารนี้เกี่ยวกับอะไร?")
print(result["result"])

ต้นทุน: การเรียกใช้ RAG-pipeline หนึ่งครั้ง (retrieval + generation) ใช้โทเค็น LLM ประมาณ 2-5K ผ่าน Gonka นี่คือ $0.000002-0.000005 ผ่าน OpenAI - $0.005-0.05 ความแตกต่าง - 10,000x

สำหรับระบบการผลิตที่ประมวลผลคำขอนับพันต่อวัน การประหยัดมีมูลค่าหลายหมื่นดอลลาร์ต่อเดือน

LangChain ช่วยให้สร้างเอเจนต์ด้วยเครื่องมือ (tools) ได้ Qwen3-235B รองรับ tool calling แบบเนทีฟ - เอเจนต์ทำงานได้อย่างน่าเชื่อถือ โดยไม่ต้องแยกวิเคราะห์คำตอบที่เป็นข้อความ

from langchain_openai import ChatOpenAI
from langchain.agents import create_openai_tools_agent, AgentExecutor
from langchain.tools import tool
from langchain.prompts import ChatPromptTemplate

llm = ChatOpenAI(
    base_url="https://gate.joingonka.ai/v1",
    api_key="jg-your-key",
    model="Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
)

@tool
def calculator(expression: str) -> str:
    """คำนวณนิพจน์ทางคณิตศาสตร์"""
    return str(eval(expression))

@tool
def search_web(query: str) -> str:
    """ค้นหาข้อมูลบนอินเทอร์เน็ต"""
    return f"ผลการค้นหาสำหรับ: {query}"

prompt = ChatPromptTemplate.from_messages([
    ("system", "คุณคือผู้ช่วยที่เป็นประโยชน์"),
    ("human", "{input}"),
    ("placeholder", "{agent_scratchpad}"),
])

agent = create_openai_tools_agent(llm, [calculator, search_web], prompt)
executor = AgentExecutor(agent=agent, tools=[calculator, search_web])

result = executor.invoke({"input": "2**10 * 3.14 ได้เท่าไหร่?"})
print(result["output"])

เอเจนต์เรียกใช้ calculator, ได้รับผลลัพธ์ และสร้างคำตอบ รอบทั้งหมดมีราคาประมาณ $0.00001 ผ่าน Gonka ผ่าน OpenAI - $0.01-0.05 สำหรับระบบที่มีผู้ใช้หลายพันคน นี่คือความแตกต่างหลายหมื่นดอลลาร์