Vercel AI SDK + Gonka AI — แอปพลิเคชัน AI บน TypeScript ราคาถูก

API-คีย์ JoinGonka: ลงทะเบียนที่ gate.joingonka.ai/register — เราให้ 10M โทเคนฟรี เมื่อเริ่มต้น ใน Dashboard สร้างคีย์ที่มีคำนำหน้า jg-

การติดตั้งแพ็คเกจ. สำหรับ endpoint ที่เข้ากันได้กับ OpenAI แบบกำหนดเอง Vercel AI SDK แนะนำผู้ให้บริการ @ai-sdk/openai-compatible:

npm install ai @ai-sdk/openai-compatible

การเชื่อมต่อขั้นต่ำ — สร้างอินสแตนซ์ผู้ให้บริการผ่าน createOpenAICompatible และเรียกใช้ generateText:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY, // jg-your-key
});

const { text } = await generateText({
  model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
  prompt: 'อธิบายว่าเครือข่ายอนุมานแบบกระจายอำนาจคืออะไร',
});

console.log(text);

พารามิเตอร์ apiKey จะเพิ่มส่วนหัว Authorization: Bearer jg-your-key โดยอัตโนมัติ — ไม่จำเป็นต้องตั้งค่าเพิ่มเติม จัดเก็บคีย์ในตัวแปรสภาพแวดล้อม GONKA_API_KEY (เช่น ใน .env.local) แทนที่จะเป็นในโค้ด

ทางเลือก — แพ็คเกจ @ai-sdk/openai พร้อมโรงงาน createOpenAI({ baseURL, apiKey }) ทั้งสองวิธีใช้งานได้; สำหรับ endpoint ที่ไม่ได้เป็นของ OpenAI เอกสาร AI SDK แนะนำ @ai-sdk/openai-compatible — มันไม่ดึงข้อสมมติฐานเฉพาะของ OpenAI ที่ไม่จำเป็น

คุณสมบัติหลักของ Vercel AI SDK คือการส่งคืนคำตอบแบบสตรีมมิ่ง ฟังก์ชัน streamText จะเริ่มสตรีมโทเคนทันที และ helper toUIMessageStreamResponse() จะส่งคืนสตรีมที่พร้อมใช้งานโดยตรงจาก route handler ใน Next.js App Router

ตัวจัดการเซิร์ฟเวอร์ app/api/chat/route.ts:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText, convertToModelMessages, type UIMessage } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

// allow streaming for up to 30 seconds
export const maxDuration = 30;

export async function POST(req: Request) {
  const { messages }: { messages: UIMessage[] } = await req.json();

  const result = streamText({
    model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
    system: 'คุณเป็นผู้ช่วยที่เป็นประโยชน์ ตอบสั้นและตรงประเด็น', 
    messages: convertToModelMessages(messages),
    maxOutputTokens: 8192, // Qwen3-235B ceiling through Gateway
  });

  return result.toUIMessageStreamResponse();
}

ที่ไคลเอ็นต์ ให้เชื่อมต่อ hook useChat จาก @ai-sdk/react — มันจะเรียกใช้ /api/chat เองและแสดงผลสตรีมข้อความ แบ็คเอนด์จะเข้าถึง Gonka แทน OpenAI

สคริปต์ที่ไม่มี UI (Node, async-iterator over stream):

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const result = streamText({
  model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
  prompt: 'เขียนไฮกุเกี่ยวกับการประมวลผลแบบกระจาย'
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

พารามิเตอร์โมเดล ผ่าน Gateway มีสามโมเดล, บริบทของทุกโมเดลคือ 128K โทเคน; ขีดจำกัดเอาต์พุต (maxOutputTokens) แตกต่างกันไป:

• Qwen/Qwen3-235B-A22B-Instruct-2507-FP8 — ค่าเริ่มต้น, สูงสุด 8192 โทเคนเอาต์พุต;
• moonshotai/Kimi-K2.6 — สูงสุด 3072 (Kimi K2.6);
• MiniMaxAI/MiniMax-M2.7 — สูงสุด 4096 (MiniMax M2.7).

หากไม่ได้ระบุ maxOutputTokens สำหรับคำขอที่ไม่สตรีม Gateway จะส่งคืนสูงสุด 1500 โทเคนโดยค่าเริ่มต้น — สำหรับแชทแบบสตรีมมิ่ง ควรระบุค่าอย่างชัดเจน

Vercel AI SDK มักจะอยู่เบื้องหลังอินเทอร์เฟซแบบโต้ตอบ — แชท, เอเจนต์, ผู้ช่วยในแอปพลิเคชัน ทุกข้อความจะดึงประวัติการสนทนามาด้วย ทุกขั้นตอนของเอเจนต์ — บริบทของเครื่องมือ ดังนั้นค่าใช้จ่ายที่แท้จริงจึงไม่ได้คำนวณจากคำขอเดียว แต่จากภาระงานของการผลิต มาเปรียบเทียบสถานการณ์ทั่วไปกัน:

ราคาของ JoinGonka อยู่ที่ประมาณ $0.0005 ต่อ 1M โทเคนสำหรับอินพุต โดยเอาต์พุตมีราคาแพงกว่าประมาณสามเท่า สำหรับแอปพลิเคชันที่มีคำขอนับพันต่อวัน นี่คือความแตกต่างระหว่างค่าใช้จ่ายหลายร้อยดอลลาร์กับค่าใช้จ่ายเพียงไม่กี่เซ็นต์ 10M โทเคนฟรีก็เพียงพอที่จะรันและดีบักโปรเจกต์ทั้งหมดก่อนที่จะเข้าสู่การผลิต

Vercel AI SDK อธิบายเครื่องมือแบบประกาศผ่านออบเจกต์ tools และ Schema zod Qwen3-235B รองรับ function calling แบบ native ดังนั้น AI SDK จึงได้รับ tool_calls ที่มีโครงสร้างโดยไม่ต้องแยกวิเคราะห์การตอบสนองที่เป็นข้อความ พารามิเตอร์ stopWhen: stepCountIs(n) อนุญาตให้ทำหลายขั้นตอนติดต่อกัน — โมเดลเรียกใช้เครื่องมือ ได้รับผลลัพธ์ และดำเนินการต่อ

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText, tool, stepCountIs } from 'ai';
import { z } from 'zod';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const { text } = await generateText({
  model: gonka('Qwen/Qwen3-235B-A22B-Instruct-2507-FP8'),
  stopWhen: stepCountIs(5),
  tools: {
    weather: tool({
      description: ' узнайтеสภาพอากาศในเมือง',
      inputSchema: z.object({ city: z.string() }),
      execute: async ({ city }) => ({ city, tempC: 17 }),
    }),
  },
  prompt: 'สภาพอากาศใน Moscow เป็นอย่างไร? ตอบในประโยคเดียว',
});

console.log(text);

โมเดลจะเรียกใช้เครื่องมือ weather ได้รับผลลัพธ์และสร้างคำตอบสุดท้าย วงจรทั้งหมดมีราคาประมาณ $0.00001 ผ่าน Gonka เทียบกับ $0.03-0.10 สำหรับ Anthropic หรือ OpenAI สำหรับแอปพลิเคชันเอเจนต์ที่คำขอของผู้ใช้แต่ละครั้งประกอบด้วย 5-10 ขั้นตอน การประหยัดในการผลิตจะวัดได้เป็นพันดอลลาร์ต่อเดือน

หากคุณกำลังสร้างแอปพลิเคชัน AI บน Python โปรดดูคู่มือเกี่ยวกับ LangChain — มีแนวทางเดียวกันผ่านคลาสที่เข้ากันได้กับ OpenAI