Vercel AI SDK + گونکا AI — TypeScript پر AI-ایپلی کیشنز صرف چند روپے میں

JoinGonka API-key: gate.joingonka.ai/register پر رجسٹر کریں — شروع میں ہم 3M مفت ٹوکنز دیتے ہیں۔ Dashboard میں jg- پریفکس کے ساتھ ایک کی (key) بنائیں۔

پیکیج انسٹالیشن۔ کسٹم OpenAI-مطابقت پذیر اینڈ پوائنٹ کے لیے Vercel AI SDK @ai-sdk/openai-compatible پرووائیڈر استعمال کرنے کی سفارش کرتا ہے:

npm install ai @ai-sdk/openai-compatible

منیمم کنکشن — createOpenAICompatible کے ذریعے پرووائیڈر انسٹنس بنائیں اور generateText کال کریں:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY, // jg-آپ-کی-کی
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'وضاحت کریں کہ ڈی سینٹرلائزڈ انفرنس نیٹ ورک کیا ہے',
});

console.log(text);

apiKey پیرامیٹر خود بخود Authorization: Bearer jg-آپ-کی-کی ہیڈر شامل کر دیتا ہے — الگ سے سیٹنگ کی ضرورت نہیں ہے۔ اپنی کی کو کوڈ میں رکھنے کے بجائے انوائرنمنٹ ویری ایبل GONKA_API_KEY (مثلاً .env.local) میں محفوظ رکھیں۔

متبادل — createOpenAI({ baseURL, apiKey }) فیکٹری کے ساتھ @ai-sdk/openai پیکیج۔ دونوں طریقے کارآمد ہیں؛ OpenAI کے علاوہ دیگر اینڈ پوائنٹس کے لیے، AI SDK کی دستاویزات @ai-sdk/openai-compatible استعمال کرنے کی تجویز دیتی ہیں — کیونکہ یہ غیر ضروری OpenAI-مخصوص مفروضے نہیں اٹھاتا۔

Vercel AI SDK کی بڑی خاصیت سٹریمنگ رسپانس ہے۔ streamText فنکشن ٹوکنز کو فوری سٹریمنگ کرنا شروع کر دیتا ہے اور toUIMessageStreamResponse() ہیلپر Next.js App Router کے راؤٹ ہینڈلر سے براہِ راست تیار سٹریمنگ فراہم کرتا ہے۔

سرور ہینڈلر app/api/chat/route.ts:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText, convertToModelMessages, type UIMessage } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

// 30 سیکنڈ تک سٹریمنگ کی اجازت
export const maxDuration = 30;

export async function POST(req: Request) {
  const { messages }: { messages: UIMessage[] } = await req.json();

  const result = streamText({
    model: gonka('MiniMaxAI/MiniMax-M2.7'),
    system: 'تم ایک مددگار اسسٹنٹ ہو۔ مختصر اور کام کی بات کرو۔',
    messages: convertToModelMessages(messages),
    maxOutputTokens: 8192, // گیٹ وے کے ذریعے آؤٹ پٹ کی حد
  });

  return result.toUIMessageStreamResponse();
}

کلائنٹ پر @ai-sdk/react سے useChat ہک کنیکٹ کریں - یہ خود بخود /api/chat کو کال کرتا ہے اور پیغامات کی سٹریمنگ رینڈر کرتا ہے۔ اس صورت میں بیک اینڈ OpenAI کے بجائے Gonka استعمال کر رہا ہے۔

بغیر UI کے سکرپٹ (Node، سٹریمنگ کے لیے async-iterator):

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const result = streamText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'تقسیم شدہ کمپیوٹنگ (distributed computing) پر ایک ہائیکو لکھو',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

ماڈلز کے پیرامیٹرز۔ گیٹ وے کے ذریعے تین ماڈلز دستیاب ہیں: MiniMax M2.7 کے لیے 200K ٹوکنز کانٹیکسٹ، DeepSeek V4 Flash کے لیے 380K، اور GLM-5.3 Flash کے لیے 390K؛ رسپانس کی حد (maxOutputTokens) — MiniMax M2.7 اور GLM-5.3 Flash کے لیے 8192، DeepSeek V4 Flash کے لیے 32768:

• MiniMaxAI/MiniMax-M2.7 — ڈیفالٹ (MiniMax M2.7);
• deepseek-ai/DeepSeek-V4-Flash-0731 (DeepSeek V4 Flash, 380K کانٹیکسٹ);
• zai-org/GLM-5.3-Flash (GLM-5.3 Flash, ریزننگ ماڈل — جواب دینے سے پہلے تجزیہ کرتا ہے)۔

اگر maxOutputTokens مقرر نہ کیا جائے تو نان-سٹریم ریکویسٹ کے لیے گیٹ وے ڈیفالٹ 1500 ٹوکنز تک لوٹائے گا — اس لیے سٹریمنگ چیٹس کے لیے واضح ویلیو دینا بہتر ہے۔

Vercel AI SDK عام طور پر ایک انٹرایکٹو انٹرفیس کے پیچھے ہوتا ہے — جیسے چیٹ، ایجنٹ یا ایپلی کیشن اسسٹنٹ۔ ہر پیغام ڈائیلاگ کی ہسٹری کھینچتا ہے اور ایجنٹ کا ہر قدم ٹول کانٹیکسٹ استعمال کرتا ہے۔ اس لیے اصل قیمت کا حساب ایک ریکویسٹ کے حساب سے نہیں بلکہ پروڈکشن لوڈ کے مطابق ہوتا ہے۔ کچھ عام منظرناموں کا موازنہ درج ذیل ہے:

JoinGonka کی قیمت تقریباً $0.0069 فی 1M ان پٹ ٹوکنز ہے، آؤٹ پٹ عام طور پر تین گنا زیادہ ہوتا ہے۔ ایسی ایپلی کیشنز کے لیے جن میں روزانہ ہزاروں ریکویسٹس ہوں، یہ سینکڑوں ڈالر کے بل اور چند سینٹس کے بل کے درمیان کا فرق ہے۔ مفت 3M ٹوکنز آپ کے پروجیکٹ کی ابتدائی ریکویسٹس چلانے کے لیے کافی ہیں۔

Vercel AI SDK ٹولز کو ڈیکلیریٹو انداز میں tools آبجیکٹ اور zod اسکیمہ کے ذریعے بیان کرتا ہے۔ نیٹ ورک ماڈلز نیٹو فنکشن کالنگ کو سپورٹ کرتے ہیں، اس لیے AI SDK ٹیکسٹ رسپانسز کو پارس کیے بغیر سٹرکچرڈ tool_calls وصول کرتا ہے۔ پیرامیٹر stopWhen: stepCountIs(n) لگاتار کئی مراحل کی اجازت دیتا ہے — ماڈل ٹول کال کرتا ہے، نتیجہ حاصل کرتا ہے اور کام جاری رکھتا ہے۔

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText, tool, stepCountIs } from 'ai';
import { z } from 'zod';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  stopWhen: stepCountIs(5),
  tools: {
    weather: tool({
      description: 'Узнать погоду в городе',
      inputSchema: z.object({ city: z.string() }),
      execute: async ({ city }) => ({ city, tempC: 17 }),
    }),
  },
  prompt: 'Какая погода в Москве? Ответь одним предложением.',
});

console.log(text);

ماڈل weather ٹول کو کال کرتا ہے، نتیجہ حاصل کرتا ہے اور حتمی جواب تیار کرتا ہے۔ پورا سائیکل Gonka کے ذریعے تقریباً $0.000048 میں پڑتا ہے، جبکہ Anthropic یا OpenAI میں $0.03-0.10۔ ایجنٹ ایپلی کیشنز کے لیے، جہاں صارف کی ہر درخواست 5-10 مراحل میں مکمل ہوتی ہے، پروڈکشن میں بچت ہر ماہ ہزاروں ڈالر تک پہنچ سکتی ہے۔

اگر آپ Python میں AI-ایپلی کیشن بنا رہے ہیں، تو LangChain گائیڈ دیکھیں — وہاں OpenAI-مطابقت پذیر کلاس کے ذریعے وہی طریقہ کار استعمال کیا جاتا ہے۔