PydanticAI + Gonka — типизированные AI-агенты за копейки

Сначала получите ключ: зарегистрируйтесь на gate.joingonka.ai/register — при регистрации даём 3M бесплатных токенов — и создайте ключ jg-xxx в Dashboard → API Keys.

Установка:

pip install pydantic-ai
# or the slim variant with only the OpenAI dependencies:
# pip install "pydantic-ai-slim[openai]"

Минимальный пример — агент через Gonka. PydanticAI задаёт кастомный endpoint через OpenAIProvider(base_url=..., api_key=...), который передаётся в OpenAIChatModel:

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)

agent = Agent(model)

result = agent.run_sync("Explain in two sentences what PoUW is")
print(result.output)

Это всё — ваш PydanticAI-агент работает через децентрализованную сеть Gonka за копейки. Метод run_sync удобен для скриптов; для async-кода есть await agent.run(...).

Параметры модели: контекстное окно MiniMax M2.7 — 180K токенов (180000), у DeepSeek V4 Flash — 380K, у GLM-5.3 Flash — 390K; максимальная длина ответа через Gateway — до 8192 токенов у MiniMax и GLM-5.3 Flash, до 32768 у DeepSeek. Ограничить вывод можно через настройки модели (OpenAIChatModelSettings(max_tokens=8192)). Доступны MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731 и zai-org/GLM-5.3-Flash — достаточно поменять имя модели в первом аргументе OpenAIChatModel.

Главная причина выбрать PydanticAI — structured output. Вместо того чтобы парсить текст ответа регулярками, вы описываете результат как Pydantic-модель и передаёте её в параметр output_type. Фреймворк использует tool calling модели, чтобы заставить её вернуть данные строго по схеме, валидирует их и отдаёт уже готовый объект через result.output.

from pydantic import BaseModel
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)


class Profile(BaseModel):
    name: str
    role: str
    skills: list[str]


agent = Agent(model, output_type=Profile)

result = agent.run_sync(
    "Extract the data: Anna is a backend developer who knows Python, Go and Postgres"
)
print(result.output)
# name='Anna' role='backend developer' skills=['Python', 'Go', 'Postgres']
print(result.output.skills)  # ['Python', 'Go', 'Postgres'] — already a list[str], not text

Это работает, потому что все три модели Gonka (MiniMax M2.7, DeepSeek V4 Flash и GLM-5.3 Flash) поддерживают нативный tool calling — PydanticAI опирается на него, чтобы вернуть валидную JSON-структуру. На выходе вы получаете типизированный объект Python, а не строку, которую нужно разбирать вручную. Идеально для извлечения данных, классификации, заполнения форм и RAG-пайплайнов, где результат должен идти дальше по коду в строгом формате.

PydanticAI — фреймворк для агентов и пайплайнов, которые работают непрерывно: извлекают данные, вызывают инструменты, обрабатывают потоки запросов. Здесь стоимость токенов решает, останется ли проект прототипом или пойдёт в production. Сравним типичные нагрузки:

Разница — в сотни и тысячи раз. Для прототипа это означает, что 3M бесплатных токенов хватает на первые прогоны агента. Для production, обрабатывающего сотни тысяч запросов в день, экономия составляет десятки тысяч долларов в месяц — при том же коде на PydanticAI, просто с другим base_url.

Один ключ jg-xxx и один баланс работают и для OpenAI-формата (/v1), и для Anthropic-формата (/v1/messages) — но для PydanticAI достаточно OpenAI-совместимого endpoint, показанного выше.

Вторая ключевая возможность PydanticAI — инструменты. Функцию можно зарегистрировать декоратором @agent.tool_plain (без контекста) или @agent.tool (с доступом к RunContext и dependency injection). Модель сама решает, когда вызвать инструмент, получает результат и продолжает рассуждение:

import random
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "MiniMaxAI/MiniMax-M2.7",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-your-key",
    ),
)

agent = Agent(
    model,
    instructions="You are an assistant. Use the tools when needed.",
)


@agent.tool_plain
def roll_dice() -> str:
    """Rolls a six-sided die and returns the result."""
    return str(random.randint(1, 6))


@agent.tool_plain
def calculator(expression: str) -> str:
    """Evaluates a math expression."""
    return str(eval(expression))


result = agent.run_sync("Roll the die and multiply the result by 7")
print(result.output)

Поскольку tool calling у Gonka нативный, инструменты вызываются надёжно — без хрупкого парсинга текстовых ответов. Весь цикл (запрос → вызов tool → финальный ответ) стоит около $0.00007 через Gonka против $0.04–0.22 у OpenAI/Anthropic.

Какую модель выбрать: MiniMaxAI/MiniMax-M2.7 — для длинных диалогов и сбалансированных задач, вывод до 8192. deepseek-ai/DeepSeek-V4-Flash-0731 — один из самых длинных контекстов сети (380K) и дешёвые большие промпты, вывод до 32768. zai-org/GLM-5.3-Flash — reasoning-модель для сложных рассуждений и самый длинный контекст сети (390K), вывод до 8192; рассуждения расходуют часть max_tokens, задавайте его с запасом (от 600). Все три доступны прямо сейчас по одному ключу — меняется только строка модели. Близкие по духу инструменты: LangChain для цепочек и RAG, LlamaIndex для индексации данных.