TanStack AI + Gonka — টাইপস্ক্রিপ্ট এআই অ্যাপ্লিকেশন নগণ্য খরচে

প্যাকেজ ইনস্টলেশন (কোর + OpenAI-অ্যাডাপ্টার, যেখানে openaiCompatible থাকে):

# pnpm
pnpm add @tanstack/ai @tanstack/ai-openai

# npm
npm install @tanstack/ai @tanstack/ai-openai

React-এ চ্যাট ইন্টারফেসের জন্য ক্লায়েন্ট এবং হুক যুক্ত করুন:

pnpm add @tanstack/ai-client @tanstack/ai-react

JoinGonka API-key: যদি এখনো না থাকে — gate.joingonka.ai/register-এ রেজিস্টার করুন, 3M ফ্রি টোকেন পান এবং Dashboard → API Keys-এ jg-xxx কি (key) তৈরি করুন। একটি কি এবং ব্যালেন্স OpenAI এবং Anthropic উভয় ফরম্যাটের জন্যই কাজ করে।

TanStack AI-তে কাস্টম OpenAI-সামঞ্জস্যপূর্ণ প্রোভাইডার কনফিগার করা হয় openaiCompatible() ফাংশনটির মাধ্যমে: আপনি একবার baseURL, apiKey এবং মডেলের তালিকা সেট করে নিন, তারপর প্রতি কলের সময় মডেল নির্বাচন করুন। আমাদের Gateway Chat Completions ফরম্যাটে কাজ করে, তাই আমরা api: 'chat-completions' বজায় রাখি (এটিই ডিফল্ট মান)।

import { openaiCompatible } from '@tanstack/ai-openai'

// Gonka প্রোভাইডার — একবার কনফিগার করতে হয়
export const gonka = openaiCompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY!, // jg-আপনার-কী
  api: 'chat-completions',
  models: [
    'MiniMaxAI/MiniMax-M2.7', // ডিফল্ট
    'deepseek-ai/DeepSeek-V4-Flash-0731',
    'zai-org/GLM-5.3-Flash', // রিজনিং মডেল
  ],
})

সার্ভারে স্ট্রিমিং-চ্যাট (উদাহরণস্বরূপ, যেকোনো ফুলস্ট্যাক ফ্রেমওয়ার্ক বা TanStack Start-এ রাউট-হ্যান্ডলার)। উত্তরের দৈর্ঘ্য modelOptions-এর মাধ্যমে নির্ধারণ করা হয় — এটি নেটিভ ওয়্যার-প্যারামিটারের (max_tokens, temperature) জন্য একমাত্র পয়েন্ট:

import { chat, toServerSentEventsResponse } from '@tanstack/ai'
import { gonka } from './gonka'

export async function POST(request: Request) {
  const { messages } = await request.json()

  const stream = chat({
    adapter: gonka('MiniMaxAI/MiniMax-M2.7'),
    messages,
    modelOptions: { max_tokens: 8192 }, // Gateway এর মাধ্যমে আউটপুট লিমিট
  })

  return toServerSentEventsResponse(stream)
}

React-ক্লায়েন্ট useChat হুকের মাধ্যমে — সার্ভার থেকে UI-তে রেসপন্স স্ট্রিম করে:

import { useChat } from '@tanstack/ai-react'

function Chat() {
  const { messages, sendMessage, status } = useChat({ api: '/api/chat' })

  return (
    <div>
      {messages.map((m) => (
        <p key={m.id}><b>{m.role}:</b> {m.content}</p>
      ))}
      <button onClick={() => sendMessage('Gonka কী?')}>
        জিজ্ঞাসা করুন
      </button>
    </div>
  )
}

সার্ভার ছাড়া: একই প্রোভাইডার সরাসরি স্ক্রিপ্ট বা ব্যাকএন্ডে কাজ করে — শুধু chat() কল করুন এবং স্ট্রিম পড়ুন। সব ধরনের ব্যবহারের ক্ষেত্রেই Gonka-এর সাথে কানেকশন একই।

Gateway-এর মাধ্যমে মডেল প্যারামিটার: MiniMax M2.7-এর ক্ষেত্রে ২০০K টোকেন কনটেক্সট, DeepSeek V4 Flash-এর ক্ষেত্রে ৩৮০K এবং GLM-5.3 Flash-এর ক্ষেত্রে ৩৯০K। max_tokens লিমিট — MiniMax M2.7 এবং GLM-5.3 Flash-এর জন্য ৮১৯২, DeepSeek V4 Flash-এর জন্য ৩২৭৬৮। যদি max_tokens উল্লেখ না থাকে, তবে নন-স্ট্রিমের জন্য ডিফল্ট ১৫০০, তাই দীর্ঘ উত্তরের ক্ষেত্রে এটি স্পষ্টভাবে সেট করুন।

TanStack AI সরাসরি OpenAI/Anthropic রেট এবং Gonka-এর মাধ্যমে সমানভাবে কাজ করে — কেবল baseURL পরিবর্তিত হয়। কিন্তু খরচে অনেক পার্থক্য রয়েছে। TanStack AI-তে সাধারণ প্রোডাকশন অ্যাপ্লিকেশনের লোড তুলনা করি:

TanStack AI-এর provider-agnostic পদ্ধতি মানে Gonka-তে স্যুইচ করা কোড পুনরায় লেখা নয়, বরং একটি লাইন (baseURL) পরিবর্তন করা। একই সাথে আপনার টাইপ-সেফ টুলস, স্ট্রাকচারড আউটপুট এবং React-হুক অপরিবর্তিত থাকে। হাজার হাজার ব্যবহারকারীর অ্যাপ্লিকেশনের জন্য এটি মাসে কয়েক হাজার ডলার বাঁচায়।

Gonka-এর মূল্য: ইনপুটে প্রতি 1M টোকেনে প্রায় $0.0069, আউটপুটে ×৩। এটি OpenAI এবং Anthropic-এর সরাসরি রেটের চেয়ে শতগুণ থেকে হাজার গুণ সস্তা।

TanStack AI-এর প্রধান বৈশিষ্ট্য হলো একটি ইউনিফাইড toolDefinition() কন্ট্রাক্ট: টুলটি একবার বর্ণনা করা হয় (Zod, ArkType, Valibot বা JSON Schema-এর মাধ্যমে ইনপুট/আউটপুট) এবং এর ইমপ্লিমেন্টেশন সার্ভার বা ক্লায়েন্টে যুক্ত করা হয়। MiniMax M2.7, DeepSeek V4 Flash এবং GLM-5.3 Flash, Gonka-এর মাধ্যমে নেটিভ টুল কলিং সমর্থন করে, তাই এজেন্টগুলো টেক্সট রেসপন্স পার্সিং ছাড়াই নির্ভরযোগ্যভাবে কাজ করে।

import { chat, toolDefinition } from '@tanstack/ai'
import { gonka } from './gonka'
import { z } from 'zod'

const getWeather = toolDefinition({
  name: 'getWeather',
  description: 'শহরের আবহাওয়া জানুন',
  inputSchema: z.object({ city: z.string() }),
  outputSchema: z.object({ tempC: z.number() }),
}).server(async ({ city }) => {
  return { tempC: 21 } // আপনার আসল API কল
})

const stream = chat({
  adapter: gonka('MiniMaxAI/MiniMax-M2.7'),
  messages: [{ role: 'user', content: 'মস্কোর আবহাওয়া কেমন?' }],
  tools: [getWeather],
  modelOptions: { max_tokens: 8192 },
})

কোন মডেলটি বেছে নেবেন:

• MiniMaxAI/MiniMax-M2.7 — ডিফল্ট, গতি এবং গুণমানের ভারসাম্য, দীর্ঘ কনটেক্সট। রেসপন্স লিমিট 8192।
• deepseek-ai/DeepSeek-V4-Flash-0731 — নেটওয়ার্কের অন্যতম দীর্ঘ কনটেক্সট (380K), সাশ্রয়ী বড় প্রম্পট। রেসপন্স লিমিট 32768।
• zai-org/GLM-5.3-Flash — রিজনিং-মডেল: উত্তরের আগে চিন্তা করে, জটিল লজিকে শক্তিশালী; নেটওয়ার্কের দীর্ঘতম কনটেক্সট (390K)। রেসপন্স লিমিট 8192; রিজনিংয়ের জন্য max_tokens-এর একটি অংশ ব্যয় হয়।

TanStack AI-তে রানটাইম অ্যাডাপ্টার সুইচিং-এর মাধ্যমে আপনি একটি প্রোভাইডারেই তিনটি মডেল রাখতে পারেন এবং তাৎক্ষণিকভাবে সুইচ করতে পারেন—যেমন, রিজনিং কাজের জন্য GLM-5.3 Flash এবং দ্রুত উত্তরের জন্য MiniMax ব্যবহার করা যায়।