PydanticAI + گونکا — ٹائپ شدہ AI-ایجنٹ صرف چند روپے میں

پہلے ایک کلید حاصل کریں: gate.joingonka.ai/register پر رجسٹر کریں — رجسٹریشن پر ہم 3M مفت ٹوکنز دیتے ہیں — اور Dashboard → API Keys میں جا کر jg-xxx کلید بنائیں۔

انسٹال:

pip install pydantic-ai
# or the slim variant with only the OpenAI dependencies:
# pip install "pydantic-ai-slim[openai]"

سب سے چھوٹی مثال — Gonka کے ذریعے ایک ایجنٹ۔ PydanticAI ایک کسٹم endpoint OpenAIProvider(base_url=..., api_key=...) کے ذریعے سیٹ کرتا ہے، جو OpenAIChatModel کو دیا جاتا ہے:

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)

agent = Agent(model)

result = agent.run_sync("Explain in two sentences what PoUW is")
print(result.output)

بس اتنا ہی — آپ کا PydanticAI ایجنٹ Gonka کے غیر مرکزی نیٹ ورک کے ذریعے بہت معمولی لاگت میں کام کر رہا ہے۔ run_sync طریقہ اسکرپٹس کے لیے آسان ہے؛ async کوڈ کے لیے await agent.run(...) موجود ہے۔

ماڈل کے پیرامیٹرز: MiniMax M2.7 کی context window 180K ٹوکنز (180000)، DeepSeek V4 Flash کی 380K، GLM-5.3 Flash کی 390K؛ Gateway کے ذریعے جواب کی زیادہ سے زیادہ لمبائی MiniMax اور GLM-5.3 Flash میں 8192 ٹوکنز تک، DeepSeek میں 32768 تک۔ ماڈل کی سیٹنگز کے ذریعے آؤٹ پٹ محدود کیا جا سکتا ہے (OpenAIChatModelSettings(max_tokens=8192))۔ دستیاب ہیں: MiniMaxAI/MiniMax-M2.7، deepseek-ai/DeepSeek-V4-Flash-0731 اور zai-org/GLM-5.3-Flash — صرف OpenAIChatModel کی پہلی دلیل میں ماڈل کا نام بدلنا کافی ہے۔

PydanticAI منتخب کرنے کی بنیادی وجہ structured output ہے۔ جواب کے متن کو regex سے پارس کرنے کے بجائے، آپ نتیجے کو ایک Pydantic ماڈل کے طور پر بیان کرتے ہیں اور اسے output_type پیرامیٹر میں دیتے ہیں۔ فریم ورک ماڈل کے tool calling کا استعمال کرتا ہے تاکہ وہ ڈیٹا کو بالکل اسکیما کے مطابق واپس کرے، اسے validate کرتا ہے اور result.output کے ذریعے تیار آبجیکٹ دیتا ہے۔

from pydantic import BaseModel
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)


class Profile(BaseModel):
    name: str
    role: str
    skills: list[str]


agent = Agent(model, output_type=Profile)

result = agent.run_sync(
    "Extract the data: Anna is a backend developer who knows Python, Go and Postgres"
)
print(result.output)
# name='Anna' role='backend developer' skills=['Python', 'Go', 'Postgres']
print(result.output.skills)  # ['Python', 'Go', 'Postgres'] — already a list[str], not text

یہ اس لیے کام کرتا ہے کہ Gonka کے تینوں ماڈلز (MiniMax M2.7، DeepSeek V4 Flash اور GLM-5.3 Flash) مقامی tool calling کو سپورٹ کرتے ہیں — PydanticAI درست JSON ڈھانچہ واپس کرنے کے لیے اسی پر انحصار کرتا ہے۔ آؤٹ پٹ میں آپ کو ایک ٹائپ شدہ Python آبجیکٹ ملتا ہے، نہ کہ کوئی سٹرنگ جسے دستی طور پر پارس کرنا پڑے۔ یہ ڈیٹا نکالنے، درجہ بندی، فارم بھرنے اور RAG پائپ لائنز کے لیے بہترین ہے، جہاں نتیجہ سخت فارمیٹ میں کوڈ کے ذریعے آگے بھیجنا ہوتا ہے۔

PydanticAI ایجنٹس اور پائپ لائنز کے لیے ایک فریم ورک ہے جو مسلسل کام کرتے ہیں: ڈیٹا نکالنا، ٹولز کال کرنا، اور درخواستیں پروسیس کرنا۔ یہاں ٹوکن کی قیمت یہ طے کرتی ہے کہ آیا پروجیکٹ صرف پروٹوٹائپ رہے گا یا پروڈکشن میں جائے گا۔ آئیے کچھ عام لوڈز کا موازنہ کریں:

فرق سینکڑوں یا ہزاروں گنا ہے۔ ایک پروٹوٹائپ کے لیے اس کا مطلب ہے کہ 3M مفت ٹوکنز ایجنٹ کے پہلے رنز کے لیے کافی ہیں۔ روزانہ لاکھوں درخواستیں سنبھالنے والے پروڈکشن کے لیے، بچت مہینے میں ہزاروں ڈالر ہوتی ہے — PydanticAI کا کوڈ وہی رہتا ہے، صرف base_url تبدیل کرنا پڑتا ہے۔

ایک jg-xxx کلید اور ایک بیلنس OpenAI-فارمیٹ (/v1) اور Anthropic-فارمیٹ (/v1/messages) دونوں کے لیے کام کرتا ہے — لیکن PydanticAI کے لیے اوپر دکھایا گیا OpenAI-موافق endpoint کافی ہے۔

PydanticAI کی دوسری اہم خصوصیت — ٹولز۔ کسی فنکشن کو @agent.tool_plain ڈیکوریٹر سے (context کے بغیر) یا @agent.tool سے (RunContext اور dependency injection تک رسائی کے ساتھ) رجسٹر کیا جا سکتا ہے۔ ماڈل خود فیصلہ کرتا ہے کہ ٹول کب کال کرنا ہے، نتیجہ وصول کرتا ہے اور استدلال جاری رکھتا ہے:

import random
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)

agent = Agent(
    model,
    instructions="You are an assistant. Use the tools when needed.",
)


@agent.tool_plain
def roll_dice() -> str:
    """Rolls a six-sided die and returns the result."""
    return str(random.randint(1, 6))


@agent.tool_plain
def calculator(expression: str) -> str:
    """Evaluates a math expression."""
    return str(eval(expression))


result = agent.run_sync("Roll the die and multiply the result by 7")
print(result.output)

چونکہ Gonka میں tool calling مقامی ہے، ٹولز قابلِ اعتماد طریقے سے کال ہوتے ہیں — متنی جوابات کی نازک پارسنگ کے بغیر۔ پورا چکر (درخواست → tool کال → حتمی جواب) Gonka کے ذریعے تقریباً $0.00007 کا پڑتا ہے، جبکہ OpenAI/Anthropic میں $0.04–0.22۔

کون سا ماڈل منتخب کریں: MiniMaxAI/MiniMax-M2.7 — طویل مکالمات اور متوازن کاموں کے لیے، آؤٹ پٹ 8192 تک۔ deepseek-ai/DeepSeek-V4-Flash-0731 — نیٹ ورک کے طویل ترین contexts میں سے ایک (380K) اور سستے بڑے prompts، آؤٹ پٹ 32768 تک۔ zai-org/GLM-5.3-Flash — پیچیدہ استدلال کے لیے reasoning ماڈل اور نیٹ ورک کا طویل ترین context (390K)، آؤٹ پٹ 8192 تک؛ استدلال max_tokens کا کچھ حصہ کھاتا ہے، اسے اضافی گنجائش کے ساتھ سیٹ کریں (کم از کم 600)۔ تینوں ایک ہی کلید سے ابھی دستیاب ہیں — صرف ماڈل کی لائن بدلتی ہے۔ اسی نوعیت کے ٹولز: chains اور RAG کے لیے LangChain، ڈیٹا انڈیکسنگ کے لیے LlamaIndex۔