PydanticAI + Gonka — เอเจนต์ AI แบบมีไทป์ราคาถูก

เริ่มจากรับคีย์ก่อน: ลงทะเบียนที่ gate.joingonka.ai/register — เรามอบ 10M tokens ฟรี เมื่อลงทะเบียน — และสร้างคีย์ jg-xxx ใน Dashboard → API Keys

การติดตั้ง:

pip install pydantic-ai
# หรือเลือกเวอร์ชันเบาที่มีเฉพาะ OpenAI-dependencies:
# pip install "pydantic-ai-slim[openai]"

ตัวอย่างระดับเริ่มต้น — เอเจนต์ที่ผ่าน Gonka โดย PydanticAI จะกำหนด custom endpoint ผ่าน OpenAIProvider(base_url=..., api_key=...) ซึ่งถูกส่งต่อไปยัง OpenAIChatModel:

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-คีย์ของคุณ",
    ),
)

agent = Agent(model)

result = agent.run_sync("อธิบายว่า PoUW คืออะไรในสองประโยค")
print(result.output)

แค่นี้ก็เสร็จสิ้น — PydanticAI-agent ของคุณทำงานผ่าน เครือข่ายแบบกระจายศูนย์ Gonka (decentralized Gonka network) ในราคาประหยัด เมธอด run_sync เหมาะสำหรับสคริปต์; สำหรับ async-code ให้ใช้ await agent.run(...)

พารามิเตอร์ของโมเดล: context window ของโมเดลในเครือข่ายคือ 200K tokens (200000) และความยาวสูงสุดของการตอบกลับผ่าน Gateway คือสูงสุด 8192 tokens คุณสามารถจำกัด output ได้ผ่านการตั้งค่าโมเดล (OpenAIChatModelSettings(max_tokens=8192)) นอกจากนี้ยังมี moonshotai/Kimi-K2.6 และ MiniMaxAI/MiniMax-M2.7 (พร้อมเอาต์พุตสูงสุด 8192 tokens แต่ละตัว) — เพียงแค่เปลี่ยนชื่อโมเดลในอาร์กิวเมนต์แรกของ OpenAIChatModel

เหตุผลหลักในการเลือก PydanticAI คือ structured output แทนที่จะ Parse ข้อความตอบกลับด้วย regex คุณสามารถอธิบายผลลัพธ์เป็น Pydantic-model และส่งเข้าไปในพารามิเตอร์ output_type ได้เลย เฟรมเวิร์กจะใช้ฟีเจอร์ tool calling ของโมเดลเพื่อบังคับให้คืนค่าข้อมูลตาม schema ที่กำหนด ตรวจสอบความถูกต้อง (validate) และส่งคืนเป็น object ผ่าน result.output

from pydantic import BaseModel
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-คีย์ของคุณ",
    ),
)


class Profile(BaseModel):
    name: str
    role: str
    skills: list[str]


agent = Agent(model, output_type=Profile)

result = agent.run_sync(
    "สกัดข้อมูล: Anna เป็น backend-developer รู้จัก Python, Go และ Postgres"
)
print(result.output)
# name='Anna' role='backend-developer' skills=['Python', 'Go', 'Postgres']
print(result.output.skills)  # ['Python', 'Go', 'Postgres'] — เป็น list[str] แล้ว ไม่ใช่ข้อความ

วิธีนี้ได้ผลเพราะโมเดล Gonka ทั้งสองตัว (Kimi K2.6 และ MiniMax M2.7) รองรับ native tool calling — PydanticAI อาศัยสิ่งนี้ในการส่งคืนโครงสร้าง JSON ที่ถูกต้อง แทนที่คุณจะได้รับ string ที่ต้องจัดการเอง คุณจะได้ Python object ที่มี type ชัดเจน เหมาะอย่างยิ่งสำหรับการสกัดข้อมูล, การจำแนกประเภท (classification), การกรอกแบบฟอร์ม และ RAG-pipelines ที่ต้องการผลลัพธ์ในรูปแบบที่เข้มงวดเพื่อดำเนินการต่อในโค้ด

PydanticAI เป็นเฟรมเวิร์กสำหรับ agents และ pipelines ที่ทำงานอย่างต่อเนื่อง: ดึงข้อมูล, เรียกใช้เครื่องมือ, จัดการกระแสข้อมูล ซึ่งในจุดนี้ค่า tokens คือตัวกำหนดว่าโปรเจกต์จะยังเป็นเพียง prototype หรือขึ้นสู่ production ได้จริง ลองเปรียบเทียบภาระการใช้งานทั่วไป:

ความแตกต่างนั้นสูงถึงหลายร้อยและหลายพันเท่า สำหรับขั้นตอน prototype คุณสามารถนำ 10M tokens ฟรีไปใช้รันการทำงานของ agent ได้หลายร้อยครั้ง ส่วนในระดับ production ที่ต้องรองรับหลายแสนคำถามต่อวัน การประหยัดค่าใช้จ่ายหลักหมื่นดอลลาร์ต่อเดือนสามารถทำได้เพียงแค่เปลี่ยน base_url ในโค้ดเดิมของคุณเท่านั้น

กุญแจ jg-xxx เพียงตัวเดียวและยอดเงินในบัญชีเดียวสามารถใช้งานได้ทั้งรูปแบบ OpenAI (/v1) และรูปแบบ Anthropic (/v1/messages) แต่สำหรับ PydanticAI คุณสามารถใช้ endpoint ที่รองรับ OpenAI ตามที่ระบุไว้ข้างต้นได้ทันที

ความสามารถหลักอย่างที่สองของ PydanticAI คือเครื่องมือ (tools) คุณสามารถลงทะเบียนฟังก์ชันด้วย decorator @agent.tool_plain (ไม่มี context) หรือ @agent.tool (เข้าถึง RunContext และ dependency injection) โมเดลจะตัดสินใจเองว่าจะเรียกใช้เครื่องมือเมื่อใด ได้รับผลลัพธ์ และประมวลผลต่อ:

import random
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)

agent = Agent(
    model,
    instructions="คุณคือผู้ช่วย ใช้เครื่องมือเมื่อจำเป็น",
)


@agent.tool_plain
def roll_dice() -> str:
    """ทอยลูกเต๋าหกหน้าและส่งคืนผลลัพธ์"""
    return str(random.randint(1, 6))


@agent.tool_plain
def calculator(expression: str) -> str:
    """คำนวณนิพจน์ทางคณิตศาสตร์"""
    return str(eval(expression))


result = agent.run_sync("ทอยลูกเต๋าและคูณผลลัพธ์ด้วย 7")
print(result.output)

เนื่องจาก tool calling บน Gonka เป็นแบบ native การเรียกเครื่องมือจึงมีความเสถียร ไม่ต้องอาศัยการแยกวิเคราะห์ (parsing) ข้อความที่เปราะบาง วงจรทั้งหมด (prompt → tool call → final answer) มีค่าใช้จ่ายประมาณ $0.00007 ผ่าน Gonka เมื่อเทียบกับ $0.04–0.22 ของ OpenAI/Anthropic

เลือกรุ่นไหนดี: moonshotai/Kimi-K2.6 — เก่งเรื่องการเขียนโค้ดและการใช้เหตุผลที่ซับซ้อน รองรับ output ถึง 8192, MiniMaxAI/MiniMax-M2.7 — สำหรับการสนทนาที่ยาวและงานที่สมดุล รองรับ output ถึง 8192 ทั้งสองรุ่นพร้อมใช้งานทันทีด้วยคีย์เดียวกัน เพียงแค่เปลี่ยนชื่อรุ่นเท่านั้น เครื่องมือที่มีแนวคิดใกล้เคียงกัน: LangChain สำหรับ chain และ RAG, LlamaIndex สำหรับการจัดทำดัชนีข้อมูล