पाइडांटिक AI + गोंका - बहुत कम लागत पर टाइप किए गए AI-एजेंट

सबसे पहले कुंजी प्राप्त करें: gate.joingonka.ai/register पर पंजीकरण करें — पंजीकरण पर हम 3M मुफ्त टोकन देते हैं — और Dashboard → API Keys में jg-xxx कुंजी बनाएं।

इंस्टॉलेशन:

pip install pydantic-ai
# या केवल OpenAI-निर्भरता वाला हल्का संस्करण:
# pip install "pydantic-ai-slim[openai]"

न्यूनतम उदाहरण — Gonka के माध्यम से एक एजेंट। PydanticAI OpenAIChatModel में पास किए गए OpenAIProvider(base_url=..., api_key=...) के माध्यम से एक कस्टम endpoint सेट करता है:

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-आपकी-कुंजी",
    ),
)

agent = Agent(model)

result = agent.run_sync("PoUW क्या है, दो वाक्यों में समझाएं")
print(result.output)

बस इतना ही — आपका PydanticAI एजेंट बहुत कम लागत पर विकेंद्रीकृत Gonka नेटवर्क के माध्यम से चल रहा है। run_sync विधि स्क्रिप्ट के लिए सुविधाजनक है; async-कोड के लिए await agent.run(...) है।

मॉडल पैरामीटर्स: MiniMax M2.7 का कॉन्टेक्स्ट विंडो 200K टोकन (200000) है, DeepSeek V4 Flash का 380K है, और GLM-5.3 Flash का 390K है; Gateway के माध्यम से अधिकतम प्रतिक्रिया लंबाई — MiniMax और GLM-5.3 Flash के लिए 8192 टोकन तक, DeepSeek के लिए 32768 तक। आउटपुट को मॉडल सेटिंग्स (OpenAIChatModelSettings(max_tokens=8192)) के माध्यम से सीमित किया जा सकता है। MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731 और zai-org/GLM-5.3-Flash उपलब्ध हैं — बस OpenAIChatModel के पहले तर्क में मॉडल का नाम बदलना पर्याप्त है।

PydanticAI चुनने का मुख्य कारण structured output है। उत्तर के टेक्स्ट को रेगुलर एक्सप्रेशन से पार्स करने के बजाय, आप परिणाम को Pydantic मॉडल के रूप में वर्णित करते हैं और इसे output_type पैरामीटर में पास करते हैं। फ्रेमवर्क मॉडल के tool calling का उपयोग करता है ताकि उसे सख्ती से योजना के अनुसार डेटा वापस करने के लिए मजबूर किया जा सके, इसे वैलिडेट करता है और result.output के माध्यम से तैयार ऑब्जेक्ट देता है।

from pydantic import BaseModel
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-आपकी-कुंजी",
    ),
)


class Profile(BaseModel):
    name: str
    role: str
    skills: list[str]


agent = Agent(model, output_type=Profile)

result = agent.run_sync(
    "डेटा निकालें: अन्ना — एक बैकएंड-डेवलपर हैं, उन्हें Python, Go और Postgres पता है"
)
print(result.output)
# name='अन्ना' role='बैकएंड-डेवलपर' skills=['Python', 'Go', 'Postgres']
print(result.output.skills)  # ['Python', 'Go', 'Postgres'] — यह list[str] है, टेक्स्ट नहीं

यह काम करता है क्योंकि सभी तीन Gonka मॉडल (MiniMax M2.7, DeepSeek V4 Flash और GLM-5.3 Flash) नेटिव tool calling का समर्थन करते हैं — PydanticAI एक वैध JSON संरचना वापस करने के लिए इस पर निर्भर करता है। अंत में आपको एक टाइप्ड Python ऑब्जेक्ट मिलता है, न कि कोई स्ट्रिंग जिसे मैन्युअल रूप से पार्स करने की आवश्यकता हो। यह डेटा एक्सट्रैक्शन, वर्गीकरण, फॉर्म भरने और RAG-पाइपलाइनों के लिए आदर्श है, जहां परिणाम को सख्त प्रारूप में कोड के माध्यम से आगे बढ़ना चाहिए।

PydanticAI उन एजेंट्स और पाइपलाइन्स के लिए एक फ्रेमवर्क है जो लगातार काम करते हैं: डेटा निकालना, टूल्स को कॉल करना, रिक्वेस्ट स्ट्रीम्स को प्रोसेस करना। यहाँ टोकन की लागत यह तय करती है कि प्रोजेक्ट प्रोटोटाइप बना रहेगा या production में जाएगा। आइए सामान्य वर्कलोड की तुलना करें:

अंतर सैकड़ों और हजारों गुना है। प्रोटोटाइप के लिए, इसका मतलब है कि 3M मुफ्त टोकन पहले कुछ रन के लिए पर्याप्त हैं। Production के लिए, जो दिन में लाखों रिक्वेस्ट हैंडल करता है, यह बचत महीने में हजारों डॉलर की है — उसी PydanticAI कोड के साथ, बस एक अलग base_url का उपयोग करके।

एक jg-xxx कुंजी और एक बैलेंस OpenAI फॉर्मेट (/v1) और Anthropic फॉर्मेट (/v1/messages) दोनों के लिए काम करते हैं — लेकिन PydanticAI के लिए ऊपर दिखाया गया OpenAI-कम्पैटिबल endpoint ही काफी है।

PydanticAI की दूसरी प्रमुख विशेषता उपकरण (tools) है। फ़ंक्शन को @agent.tool_plain (बिना कॉन्टेक्स्ट के) या @agent.tool (RunContext और dependency injection तक पहुँच के साथ) डेकोरेटर द्वारा पंजीकृत किया जा सकता है। मॉडल खुद तय करता है कि कब टूल कॉल करना है, परिणाम प्राप्त करता है और तर्क करना जारी रखता है:

import random
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-आपकी-की",
    ),
)

agent = Agent(
    model,
    instructions="तुम एक सहायक हो। ज़रूरत पड़ने पर उपकरणों का उपयोग करो।",
)


@agent.tool_plain
def roll_dice() -> str:
    """छह-तरफा पासा फेंकता है और परिणाम लौटाता है।"""
    return str(random.randint(1, 6))


@agent.tool_plain
def calculator(expression: str) -> str:
    """गणितीय अभिव्यक्ति की गणना करता है।"""
    return str(eval(expression))


result = agent.run_sync("पासा फेंको और परिणाम को 7 से गुणा करो")
print(result.output)

चूँकि Gonka में tool calling नेटिव है, इसलिए उपकरण विश्वसनीय रूप से कॉल किए जाते हैं — टेक्स्ट प्रतिक्रियाओं की नाज़ुक पार्सिंग के बिना। पूरा चक्र (अनुरोध → टूल कॉल → अंतिम उत्तर) Gonka के माध्यम से लगभग $0.00007 का है, जबकि OpenAI/Anthropic पर यह $0.04–0.22 है।

कौन सा मॉडल चुनें: MiniMaxAI/MiniMax-M2.7 — लंबे संवादों और संतुलित कार्यों के लिए, आउटपुट 8192 तक। deepseek-ai/DeepSeek-V4-Flash-0731 — नेटवर्क के सबसे लंबे कॉन्टेक्स्ट (380K) और सस्ते बड़े प्रॉम्प्ट्स में से एक, आउटपुट 32768 तक। zai-org/GLM-5.3-Flash — जटिल तर्क के लिए reasoning-मॉडल और नेटवर्क का सबसे लंबा कॉन्टेक्स्ट (390K), आउटपुट 8192 तक; तर्क करने में max_tokens का हिस्सा खर्च होता है, इसे पर्याप्त मार्जिन के साथ सेट करें (600 से)। ये तीनों अभी एक की (key) से उपलब्ध हैं — केवल मॉडल स्ट्रिंग बदलती है। इसी तरह के उपकरण: LangChain चेन और RAG के लिए, LlamaIndex डेटा इंडेक्सिंग के लिए।