PydanticAI + گونکا — ٹائپ شدہ AI-ایجنٹ صرف چند روپے میں

پہلے کلید حاصل کریں: gate.joingonka.ai/register پر رجسٹر ہوں — رجسٹریشن پر ہم 10M مفت ٹوکنز دیتے ہیں — اور ڈیش بورڈ → API Keys میں jg-xxx کلید بنائیں۔

انسٹالیشن:

pip install pydantic-ai
# یا صرف OpenAI انحصار کے ساتھ ہلکا ورژن:
# pip install "pydantic-ai-slim[openai]"

کم از کم مثال — گونکا کے ذریعے ایجنٹ۔ PydanticAI OpenAIProvider(base_url=..., api_key=...) کے ذریعے ایک حسب ضرورت اینڈ پوائنٹ مقرر کرتا ہے، جسے OpenAIChatModel میں منتقل کیا جاتا ہے:

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-آپ کی کلید",
    ),
)

agent = Agent(model)

result = agent.run_sync("دو جملوں میں بتائیں کہ PoUW کیا ہے")
print(result.output)

یہ سب — آپ کا PydanticAI-ایجنٹ ناظم Gonka نیٹ ورک کے ذریعے صرف چند روپے میں کام کرتا ہے۔ run_sync طریقہ اسکرپٹس کے لیے آسان ہے؛ async-کوڈ کے لیے await agent.run(...) ہے۔

ماڈل کے پیرامیٹرز: Qwen3-235B کا سیاق و سباق 128K ٹوکنز (131072)، گیٹ وے کے ذریعے زیادہ سے زیادہ جواب کی لمبائی — 8192 ٹوکنز تک۔ آؤٹ پٹ کو ماڈل کی ترتیبات کے ذریعے محدود کیا جا سکتا ہے (OpenAIChatModelSettings(max_tokens=8192))۔ moonshotai/Kimi-K2.6 (3072 ٹوکنز تک آؤٹ پٹ) اور MiniMaxAI/MiniMax-M2.7 (4096 تک) بھی دستیاب ہیں — صرف OpenAIChatModel کے پہلے آرگیومینٹ میں ماڈل کا نام تبدیل کریں۔

PydanticAI کو منتخب کرنے کی اہم وجہ — structured output ہے۔ جواب کے متن کو ریگولر ایکسپریشن سے پارس کرنے کے بجائے، آپ نتیجہ کو ایک Pydantic-ماڈل کے طور پر بیان کرتے ہیں اور اسے output_type پیرامیٹر میں منتقل کرتے ہیں۔ فریم ورک ماڈل کے ٹول کالنگ کو استعمال کرتا ہے تاکہ اسے ڈیٹا کو بالکل اسکیم کے مطابق واپس کرنے پر مجبور کیا جا سکے، اسے توثیق کرتا ہے اور result.output کے ذریعے تیار شدہ آبجیکٹ واپس کرتا ہے۔

from pydantic import BaseModel
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-آپ کی کلید",
    ),
)


class Profile(BaseModel):
    name: str
    role: str
    skills: list[str]


agent = Agent(model, output_type=Profile)

result = agent.run_sync(
    "ڈیٹا نکالیں: انا ایک بیک اینڈ ڈویلپر ہے، پائتھن، گو اور پوسٹگریس جانتی ہے"
)
print(result.output)
# name='انا' role='بیک اینڈ ڈویلپر' skills=['پائتھن', 'گو', 'پوسٹگریس']
print(result.output.skills) # ['پائتھن', 'گو', 'پوسٹگریس'] — پہلے سے ہی list[str] ہے، ٹیکسٹ نہیں

یہ کام کرتا ہے کیونکہ Qwen3-235B (اور گونکا کے دیگر دو ماڈلز) مقامی ٹول کالنگ کو سپورٹ کرتے ہیں — PydanticAI اس پر انحصار کرتا ہے تاکہ ایک درست JSON ڈھانچہ واپس کرے۔ آؤٹ پٹ پر آپ کو ایک ٹائپ شدہ پائتھون آبجیکٹ ملتا ہے، نہ کہ ایک سٹرنگ جسے دستی طور پر پارس کرنے کی ضرورت ہو۔ ڈیٹا نکالنے، درجہ بندی، فارم بھرنے اور RAG-پائپ لائنز کے لیے مثالی ہے، جہاں نتیجہ کو سخت فارمیٹ میں کوڈ میں آگے بڑھنا ضروری ہے۔

PydanticAI — ایجنٹوں اور پائپ لائنز کے لیے ایک فریم ورک ہے جو مسلسل کام کرتے ہیں: ڈیٹا نکالتے ہیں، ٹولز کو کال کرتے ہیں، درخواستوں کے بہاؤ کو پروسیس کرتے ہیں۔ یہاں ٹوکنز کی لاگت فیصلہ کرتی ہے کہ آیا پروجیکٹ ایک پروٹو ٹائپ رہے گا یا پروڈکشن میں جائے گا۔ ہم عام ورک لوڈز کا موازنہ کریں گے:

فرق — سینکڑوں اور ہزاروں گنا ہے۔ ایک پروٹو ٹائپ کے لیے اس کا مطلب ہے کہ 10M مفت ٹوکنز ایجنٹ کے سینکڑوں رن کے لیے کافی ہیں۔ پروڈکشن کے لیے، جو روزانہ لاکھوں درخواستوں کو پروسیس کرتا ہے، بچت ماہانہ دسیوں ہزار ڈالر ہے — PydanticAI پر اسی کوڈ کے ساتھ، صرف ایک مختلف base_url کے ساتھ۔

ایک کلید jg-xxx اور ایک بیلنس OpenAI فارمیٹ (/v1) اور Anthropic فارمیٹ (/v1/messages) دونوں کے لیے کام کرتے ہیں — لیکن PydanticAI کے لیے اوپر دکھایا گیا OpenAI-مطابقت پذیر اینڈ پوائنٹ کافی ہے۔

PydanticAI کی دوسری اہم صلاحیت — ٹولز ہیں۔ ایک فنکشن کو @agent.tool_plain (سیاق و سباق کے بغیر) یا @agent.tool (RunContext اور ڈیپینڈنسی انجیکشن تک رسائی کے ساتھ) ڈیکوریٹر کے ذریعے رجسٹر کیا جا سکتا ہے۔ ماڈل خود فیصلہ کرتا ہے کہ ٹول کو کب بلانا ہے، نتیجہ حاصل کرتا ہے اور دلیل جاری رکھتا ہے:

import random
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-آپ کی کلید",
    ),
)

agent = Agent(
    model,
    instructions="آپ ایک مددگار ہیں۔ جب ضرورت ہو آلات استعمال کریں۔",
)


@agent.tool_plain
def roll_dice() -> str:
    """چھ پہلو والا کیوب پھینکتا ہے اور نتیجہ واپس کرتا ہے۔"""
    return str(random.randint(1, 6))


@agent.tool_plain
def calculator(expression: str) -> str:
    """ریاضی کی عبارت کا حساب کرتا ہے۔"""
    return str(eval(expression))


result = agent.run_sync("کیوب پھینکیں اور نتیجہ کو 7 سے ضرب دیں")
print(result.output)

چونکہ گونکا کی ٹول کالنگ مقامی ہے، اس لیے ٹولز قابل اعتماد طریقے سے کال کیے جاتے ہیں — ٹیکسٹ کے جوابات کو نازک طریقے سے پارس کیے بغیر۔ گونکا کے ذریعے پورے چکر (درخواست → ٹول کال → حتمی جواب) کی قیمت تقریباً $0.00001 ہے جبکہ OpenAI/Anthropic کے ذریعے $0.04–0.22 ہے۔

کون سا ماڈل منتخب کریں: Qwen/Qwen3-235B-A22B-Instruct-2507-FP8 — ڈیفالٹ، معیار کا بہترین توازن اور سب سے بڑی آؤٹ پٹ کی حد (8192)۔ moonshotai/Kimi-K2.6 کوڈنگ اور پیچیدہ دلیلوں میں مضبوط ہے (آؤٹ پٹ 3072 تک)۔ MiniMaxAI/MiniMax-M2.7 — طویل مکالموں کے لیے (آؤٹ پٹ 4096 تک)۔ تینوں ایک ہی کلید کے ذریعے ابھی دستیاب ہیں — صرف ماڈل کی سٹرنگ تبدیل ہوتی ہے۔ قریبی ٹولز: цепочек اور RAG کے لیے LangChain، ڈیٹا کی انڈیکسنگ کے لیے LlamaIndex۔