Vercel AI SDK + گونکا AI — TypeScript پر AI-ایپلی کیشنز صرف چند روپے میں

JoinGonka API کلید: gate.joingonka.ai/register پر رجسٹر ہوں — شروع میں ہم 10M مفت ٹوکنز دیتے ہیں۔ ڈیش بورڈ میں jg- کا پریفکس کے ساتھ ایک کلید بنائیں۔

پیکجز انسٹال کرنا۔ حسب ضرورت OpenAI-مطابقت پذیر اینڈ پوائنٹ کے لیے Vercel AI SDK @ai-sdk/openai-compatible فراہم کنندہ کی سفارش کرتا ہے:

npm install ai @ai-sdk/openai-compatible

کم از کم کنکشن — createOpenAICompatible کے ذریعے فراہم کنندہ کی ایک مثال بنائی جاتی ہے اور generateText کو کال کیا جاتا ہے:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY, // jg-آپ کی کلید
});

const { text } = await generateText({
  model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
  prompt: 'بتائیں کہ ڈی سینٹرلائزڈ انفرنس نیٹ ورک کیا ہے',
});

console.log(text);

apiKey پیرامیٹر خود بخود Authorization: Bearer jg-آپ کی کلید ہیڈر شامل کرتا ہے — الگ سیٹنگ کی ضرورت نہیں ہے۔ کلید کو ماحولیاتی متغیر GONKA_API_KEY (مثلاً، .env.local میں) میں محفوظ کریں، نہ کہ کوڈ میں۔

متبادل — createOpenAI({ baseURL, apiKey }) فیکٹری کے ساتھ @ai-sdk/openai پیکیج۔ دونوں طریقے کارآمد ہیں؛ OpenAI سے تعلق نہ رکھنے والے اینڈ پوائنٹس کے لیے، AI SDK دستاویز OpenAI-مطابقت پذیر کی سفارش کرتی ہے — یہ اضافی OpenAI-مخصوص مفروضات کو نہیں کھینچتا۔

Vercel AI SDK کی اہم خصوصیت — جواب کی سٹریمنگ ہے۔ streamText فنکشن ٹوکنز کو فوراً سٹریمنگ شروع کرتا ہے، اور toUIMessageStreamResponse() ہیلپر Next.js App Router میں روٹ ہینڈلر سے براہ راست تیار شدہ سٹریم کو واپس کرتا ہے۔

سرور ہینڈلر app/api/chat/route.ts:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText, convertToModelMessages, type UIMessage } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

// 30 سیکنڈ تک سٹریمنگ کی اجازت دیں
export const maxDuration = 30;

export async function POST(req: Request) {
  const { messages }: { messages: UIMessage[] } = await req.json();

  const result = streamText({
    model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
    system: 'آپ ایک مددگار اسسٹنٹ ہیں۔ مختصر اور درست جواب دیں۔',
    messages: convertToModelMessages(messages),
    maxOutputTokens: 8192, // گیٹ وے کے ذریعے Qwen3-235B کی حد
  });

  return result.toUIMessageStreamResponse();
}

کلائنٹ پر، @ai-sdk/react سے useChat ہک کو منسلک کریں — یہ خود /api/chat سے رابطہ کرتا ہے اور پیغامات کے بہاؤ کو رینڈر کرتا ہے۔ بیک اینڈ اس دوران Gonka سے منسلک ہوتا ہے، نہ کہ OpenAI سے۔

UI کے بغیر اسکرپٹ (نوڈ، سٹریم پر async-iterators):

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const result = streamText({
  model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
  prompt: 'تقسیم شدہ کمپیوٹنگ پر ہائیکو لکھیں',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

ماڈلز کے پیرامیٹرز۔ گیٹ وے کے ذریعے تین ماڈلز دستیاب ہیں، سب کا سیاق و سباق 128K ٹوکنز؛ جواب کی حد (maxOutputTokens) مختلف ہے:

• Qwen/Qwen3-235B-A22B-Instruct-2507-FP8 — ڈیفالٹ، 8192 ٹوکنز تک آؤٹ پٹ؛
• moonshotai/Kimi-K2.6 — 3072 تک (Kimi K2.6)؛
• MiniMaxAI/MiniMax-M2.7 — 4096 تک (MiniMax M2.7)۔

اگر maxOutputTokens مخصوص نہیں ہے، تو نان-سٹریم درخواست کے لیے گیٹ وے خود بخود 1500 ٹوکنز تک واپس کرے گا — سٹریمنگ چیٹس کے لیے واضح طور پر قیمت مقرر کرنا بہتر ہے۔

Vercel AI SDK عام طور پر انٹرایکٹو انٹرفیس کے لیے استعمال ہوتا ہے — چیٹ، ایجنٹ، ایپلی کیشن میں اسسٹنٹ۔ ہر پیغام مکالمے کی تاریخ کو کھینچتا ہے، ایجنٹ کا ہر قدم — ٹولز کا سیاق و سباق۔ لہذا، حقیقی لاگت کا حساب ایک درخواست سے نہیں، بلکہ پروڈ کے ورک لوڈ سے کیا جاتا ہے۔ ہم عام منظرناموں کا موازنہ کریں گے:

JoinGonka کی قیمت — ان پٹ پر 1M ٹوکنز کے لیے تقریباً $0.0005 ہے، آؤٹ پٹ تقریباً تین گنا زیادہ مہنگا ہے۔ روزانہ ہزاروں درخواستوں والی ایپلی کیشن کے لیے یہ سینکڑوں ڈالر کے بل اور سینٹ کے بل کے درمیان فرق ہے۔ 10M مفت ٹوکنز کسی پروجیکٹ کو لانچ کرنے سے پہلے مکمل طور پر چلانے اور ٹھیک کرنے کے لیے کافی ہیں۔

Vercel AI SDK ٹولز کو tools آبجیکٹ اور zod اسکیم کے ذریعے اعلانیہ طور پر بیان کرتا ہے۔ Qwen3-235B مقامی فنکشن کالنگ کو سپورٹ کرتا ہے، لہذا AI SDK ساختہ tool_calls ٹیکسٹ کے جوابات کو پارس کیے بغیر حاصل کرتا ہے۔ stopWhen: stepCountIs(n) پیرامیٹر کئی متواتر مراحل کی اجازت دیتا ہے — ماڈل ٹول کو کال کرتا ہے، نتیجہ حاصل کرتا ہے اور جاری رکھتا ہے۔

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText, tool, stepCountIs } from 'ai';
import { z } from 'zod';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const { text } = await generateText({
  model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
  stopWhen: stepCountIs(5),
  tools: {
    weather: tool({
      description: 'شہر میں موسم معلوم کریں',
      inputSchema: z.object({ city: z.string() }),
      execute: async ({ city }) => ({ city, tempC: 17 }),
    }),
  },
  prompt: 'ماسکو میں موسم کیسا ہے؟ ایک جملے میں جواب دیں۔',
});

console.log(text);

ماڈل weather ٹول کو کال کرتا ہے، نتیجہ حاصل کرتا ہے اور حتمی جواب تشکیل دیتا ہے۔ گونکا کے ذریعے پورے چکر کی قیمت تقریباً $0.00001 ہے جبکہ Anthropic یا OpenAI کے ذریعے $0.03-0.10 ہے۔ ایجنٹ ایپلی کیشنز کے لیے، جہاں صارف کی ہر درخواست 5-10 مراحل میں کھلتی ہے، پروڈ پر بچت ماہانہ ہزاروں ڈالر میں ہوتی ہے۔

اگر آپ پائتھون پر AI-ایپلی کیشن بنا رہے ہیں، تو LangChain کے لیے گائیڈ دیکھیں۔