Vercel AI SDK + گونکا AI — TypeScript پر AI-ایپلی کیشنز صرف چند روپے میں

JoinGonka API کلید: gate.joingonka.ai/register پر رجسٹر کریں — شروع ہی میں 3M مفت ٹوکنز ملتے ہیں۔ Dashboard میں jg- پری فکس کے ساتھ ایک کلید بنائیں۔

پیکجز کی تنصیب۔ حسبِ ضرورت OpenAI کے ساتھ ہم آہنگ اینڈپوائنٹ کے لیے Vercel AI SDK @ai-sdk/openai-compatible پرووائیڈر تجویز کرتا ہے:

npm install ai @ai-sdk/openai-compatible

کم از کم کنکشن — createOpenAICompatible سے پرووائیڈر کا انسٹینس بنائیں اور generateText کال کریں:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY, // jg-your-key
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'Explain what a decentralized inference network is',
});

console.log(text);

apiKey پیرامیٹر خود بخود Authorization: Bearer jg-your-key ہیڈر شامل کر دیتا ہے — الگ سیٹنگ کی ضرورت نہیں۔ کلید کو کوڈ کی بجائے GONKA_API_KEY ماحولاتی ویری ایبل میں رکھیں (مثلاً .env.local میں)۔

متبادل — createOpenAI({ baseURL, apiKey }) فیکٹری کے ساتھ @ai-sdk/openai پیکج۔ دونوں طریقے کارآمد ہیں؛ تاہم ایسے اینڈپوائنٹس کے لیے جو OpenAI کے نہیں، AI SDK کی دستاویزات @ai-sdk/openai-compatible ہی کی سفارش کرتی ہیں — یہ فالتو OpenAI مخصوص مفروضات نہیں اٹھاتا۔

Vercel AI SDK کی سب سے بڑی خوبی اسٹریمنگ جواب ہے۔ streamText فنکشن فوراً ٹوکنز اسٹریم کرنا شروع کر دیتا ہے، اور toUIMessageStreamResponse() مددگار Next.js App Router میں route handler سے سیدھا تیار اسٹریم واپس دیتا ہے۔

سرور ہینڈلر app/api/chat/route.ts:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText, convertToModelMessages, type UIMessage } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

// allow streaming for up to 30 seconds
export const maxDuration = 30;

export async function POST(req: Request) {
  const { messages }: { messages: UIMessage[] } = await req.json();

  const result = streamText({
    model: gonka('MiniMaxAI/MiniMax-M2.7'),
    system: 'You are a helpful assistant. Answer briefly and to the point.',
    messages: convertToModelMessages(messages),
    maxOutputTokens: 8192, // Gateway output cap
  });

  return result.toUIMessageStreamResponse();
}

کلائنٹ پر @ai-sdk/react سے useChat ہک لگائیں — یہ خود /api/chat پر جاتا ہے اور پیغامات کا اسٹریم رینڈر کرتا ہے۔ بیک اینڈ یہاں OpenAI کی بجائے Gonka سے رابطہ کرتا ہے۔

بغیر UI اسکرپٹ (Node، اسٹریم پر async اٹیریٹر):

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const result = streamText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'Write a haiku about distributed computing',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

ماڈل پیرامیٹرز۔ Gateway پر تین ماڈلز دستیاب ہیں: MiniMax M2.7 میں 180K ٹوکنز کا کانٹیکسٹ، DeepSeek V4 Flash میں 380K اور GLM-5.3 Flash میں 390K؛ جواب کی حد (maxOutputTokens) — MiniMax M2.7 اور GLM-5.3 Flash میں 8192، DeepSeek V4 Flash میں 32768:

• MiniMaxAI/MiniMax-M2.7 — ڈیفالٹ (MiniMax M2.7);
• deepseek-ai/DeepSeek-V4-Flash-0731 (DeepSeek V4 Flash, کانٹیکسٹ 380K);
• zai-org/GLM-5.3-Flash (GLM-5.3 Flash, ریژننگ ماڈل — جواب سے پہلے سوچتا ہے)۔

اگر maxOutputTokens متعین نہ ہو تو non-stream درخواست پر Gateway بطور ڈیفالٹ 1500 ٹوکنز تک واپس کرتا ہے — اسٹریمنگ چیٹس کے لیے قیمت واضح طور پر بتانا بہتر ہے۔

Vercel AI SDK عام طور پر ایک انٹرایکٹو انٹرفیس کے پیچھے ہوتا ہے — جیسے چیٹ، ایجنٹ یا ایپلی کیشن اسسٹنٹ۔ ہر پیغام ڈائیلاگ کی ہسٹری کھینچتا ہے اور ایجنٹ کا ہر قدم ٹول کانٹیکسٹ استعمال کرتا ہے۔ اس لیے اصل قیمت کا حساب ایک ریکویسٹ کے حساب سے نہیں بلکہ پروڈکشن لوڈ کے مطابق ہوتا ہے۔ کچھ عام منظرناموں کا موازنہ درج ذیل ہے:

JoinGonka کی قیمت تقریباً $0.0062 فی 1M ان پٹ ٹوکنز ہے، آؤٹ پٹ عام طور پر تین گنا زیادہ ہوتا ہے۔ ایسی ایپلی کیشنز کے لیے جن میں روزانہ ہزاروں ریکویسٹس ہوں، یہ سینکڑوں ڈالر کے بل اور چند سینٹس کے بل کے درمیان کا فرق ہے۔ مفت 3M ٹوکنز آپ کے پروجیکٹ کی ابتدائی ریکویسٹس چلانے کے لیے کافی ہیں۔

Vercel AI SDK ٹولز کو tools آبجیکٹ اور zod اسکیما کے ذریعے ڈیکلیریٹو انداز میں بیان کرتا ہے۔ نیٹ ورک کے ماڈلز نئیٹو function calling سپورٹ کرتے ہیں، اس لیے AI SDK ٹیکسٹ جوابات پارس کیے بغیر اسٹرکچرڈ tool_calls حاصل کرتا ہے۔ stopWhen: stepCountIs(n) پیرامیٹر مسلسل کئی اسٹیپس کی اجازت دیتا ہے — ماڈل ایک ٹول کال کرتا ہے، نتیجہ وصول کرتا ہے اور آگے بڑھتا رہتا ہے۔

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText, tool, stepCountIs } from 'ai';
import { z } from 'zod';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  stopWhen: stepCountIs(5),
  tools: {
    weather: tool({
      description: 'Get the weather in a city',
      inputSchema: z.object({ city: z.string() }),
      execute: async ({ city }) => ({ city, tempC: 17 }),
    }),
  },
  prompt: 'What is the weather in Moscow? Answer in one sentence.',
});

console.log(text);

ماڈل weather ٹول کال کرتا ہے، نتیجہ وصول کرتا ہے اور حتمی جواب تیار کرتا ہے۔ Gonka کے ذریعے پورے چکر کی لاگت تقریباً $0.000048 ہے، جبکہ Anthropic یا OpenAI پر یہ $0.03-0.10 تک جاتی ہے۔ ایجنٹ ایپلیکیشنز میں، جہاں صارف کی ہر درخواست 5-10 اسٹیپس میں پھیلتی ہے، پروڈکشن پر ہر ماہ ہزاروں ڈالر کی بچت ہوتی ہے۔

اگر آپ Python میں AI ایپلیکیشن بنا رہے ہیں تو LangChain کی گائیڈ دیکھیں — وہاں OpenAI کے ساتھ ہم آہنگ کلاس کے ذریعے یہی طریقہ استعمال ہوا ہے۔