PydanticAI + Gonka — типизированные AI-агенты за копейки

Сначала получите ключ: зарегистрируйтесь на gate.joingonka.ai/register — при регистрации даём 10M бесплатных токенов — и создайте ключ jg-xxx в Dashboard → API Keys.

Установка:

pip install pydantic-ai
# либо облегчённый вариант только с OpenAI-зависимостями:
# pip install "pydantic-ai-slim[openai]"

Минимальный пример — агент через Gonka. PydanticAI задаёт кастомный endpoint через OpenAIProvider(base_url=..., api_key=...), который передаётся в OpenAIChatModel:

from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-ваш-ключ",
    ),
)

agent = Agent(model)

result = agent.run_sync("Объясни в двух предложениях, что такое PoUW")
print(result.output)

Это всё — ваш PydanticAI-агент работает через децентрализованную сеть Gonka за копейки. Метод run_sync удобен для скриптов; для async-кода есть await agent.run(...).

Параметры модели: контекстное окно Qwen3-235B — 128K токенов (131072), максимальная длина ответа через Gateway — до 8192 токенов. Ограничить вывод можно через настройки модели (OpenAIChatModelSettings(max_tokens=8192)). Доступны также moonshotai/Kimi-K2.6 (до 3072 токенов вывода) и MiniMaxAI/MiniMax-M2.7 (до 4096) — достаточно поменять имя модели в первом аргументе OpenAIChatModel.

Главная причина выбрать PydanticAI — structured output. Вместо того чтобы парсить текст ответа регулярками, вы описываете результат как Pydantic-модель и передаёте её в параметр output_type. Фреймворк использует tool calling модели, чтобы заставить её вернуть данные строго по схеме, валидирует их и отдаёт уже готовый объект через result.output.

from pydantic import BaseModel
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-ваш-ключ",
    ),
)


class Profile(BaseModel):
    name: str
    role: str
    skills: list[str]


agent = Agent(model, output_type=Profile)

result = agent.run_sync(
    "Извлеки данные: Анна — backend-разработчик, знает Python, Go и Postgres"
)
print(result.output)
# name='Анна' role='backend-разработчик' skills=['Python', 'Go', 'Postgres']
print(result.output.skills)  # ['Python', 'Go', 'Postgres'] — уже list[str], не текст

Это работает, потому что Qwen3-235B (и обе другие модели Gonka) поддерживают нативный tool calling — PydanticAI опирается на него, чтобы вернуть валидную JSON-структуру. На выходе вы получаете типизированный объект Python, а не строку, которую нужно разбирать вручную. Идеально для извлечения данных, классификации, заполнения форм и RAG-пайплайнов, где результат должен идти дальше по коду в строгом формате.

PydanticAI — фреймворк для агентов и пайплайнов, которые работают непрерывно: извлекают данные, вызывают инструменты, обрабатывают потоки запросов. Здесь стоимость токенов решает, останется ли проект прототипом или пойдёт в production. Сравним типичные нагрузки:

Разница — в сотни и тысячи раз. Для прототипа это означает, что 10M бесплатных токенов хватает на сотни прогонов агента. Для production, обрабатывающего сотни тысяч запросов в день, экономия составляет десятки тысяч долларов в месяц — при том же коде на PydanticAI, просто с другим base_url.

Один ключ jg-xxx и один баланс работают и для OpenAI-формата (/v1), и для Anthropic-формата (/v1/messages) — но для PydanticAI достаточно OpenAI-совместимого endpoint, показанного выше.

Вторая ключевая возможность PydanticAI — инструменты. Функцию можно зарегистрировать декоратором @agent.tool_plain (без контекста) или @agent.tool (с доступом к RunContext и dependency injection). Модель сама решает, когда вызвать инструмент, получает результат и продолжает рассуждение:

import random
from pydantic_ai import Agent
from pydantic_ai.models.openai import OpenAIChatModel
from pydantic_ai.providers.openai import OpenAIProvider

model = OpenAIChatModel(
    "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8",
    provider=OpenAIProvider(
        base_url="https://gate.joingonka.ai/v1",
        api_key="jg-ваш-ключ",
    ),
)

agent = Agent(
    model,
    instructions="Ты помощник. Используй инструменты, когда нужно.",
)


@agent.tool_plain
def roll_dice() -> str:
    """Бросает шестигранный кубик и возвращает результат."""
    return str(random.randint(1, 6))


@agent.tool_plain
def calculator(expression: str) -> str:
    """Вычисляет математическое выражение."""
    return str(eval(expression))


result = agent.run_sync("Брось кубик и умножь результат на 7")
print(result.output)

Поскольку tool calling у Gonka нативный, инструменты вызываются надёжно — без хрупкого парсинга текстовых ответов. Весь цикл (запрос → вызов tool → финальный ответ) стоит около $0.00001 через Gonka против $0.04–0.22 у OpenAI/Anthropic.

Какую модель выбрать: Qwen/Qwen3-235B-A22B-Instruct-2507-FP8 — дефолт, лучший баланс качества и самый большой лимит вывода (8192). moonshotai/Kimi-K2.6 сильна в кодинге и сложных рассуждениях (вывод до 3072). MiniMaxAI/MiniMax-M2.7 — для длинных диалогов (вывод до 4096). Все три доступны прямо сейчас по одному ключу — меняется только строка модели. Близкие по духу инструменты: LangChain для цепочек и RAG, LlamaIndex для индексации данных.