Vercel AI SDK + Gonka AI — แอปพลิเคชัน AI บน TypeScript ราคาถูก

API-key ของ JoinGonka: ลงทะเบียนได้ที่ gate.joingonka.ai/register — เรามอบ 10M tokens ฟรี เพื่อเริ่มต้นใช้งาน สร้างคีย์ที่มีคำนำหน้า jg- ได้ใน Dashboard

การติดตั้งแพ็กเกจ: สำหรับ endpoint ที่เข้ากันได้กับ OpenAI แบบปรับแต่งเอง Vercel AI SDK แนะนำให้ใช้ provider @ai-sdk/openai-compatible:

npm install ai @ai-sdk/openai-compatible

การเชื่อมต่อเบื้องต้น — สร้าง instance ของ provider ผ่าน createOpenAICompatible และเรียกใช้ generateText:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY, // jg-your-key
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'อธิบายว่าเครือข่ายอินเฟอเรนซ์แบบกระจายศูนย์คืออะไร',
});

console.log(text);

พารามิเตอร์ apiKey จะเพิ่ม Header Authorization: Bearer jg-your-key โดยอัตโนมัติ ไม่จำเป็นต้องตั้งค่าแยกต่างหาก ควรเก็บคีย์ไว้ในตัวแปรสภาพแวดล้อม GONKA_API_KEY (เช่น ใน .env.local) แทนการเขียนลงในโค้ดโดยตรง

ทางเลือกอื่น — แพ็กเกจ @ai-sdk/openai พร้อม factory createOpenAI({ baseURL, apiKey }) ทั้งสองวิธีใช้งานได้จริง สำหรับ endpoint ที่ไม่ใช่ของ OpenAI เอกสารของ AI SDK แนะนำให้ใช้ @ai-sdk/openai-compatible เป็นหลัก เพราะไม่ได้รวมการตั้งค่าเฉพาะของ OpenAI ที่ไม่จำเป็นไว้

จุดเด่นหลักของ Vercel AI SDK คือการสตรีมคำตอบ ฟังก์ชัน streamText จะเริ่มสตรีม token ทันที และตัวช่วย toUIMessageStreamResponse() จะส่งสตรีมที่พร้อมใช้งานโดยตรงจาก route handler ใน Next.js App Router

Server handler app/api/chat/route.ts:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText, convertToModelMessages, type UIMessage } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

// ตั้งค่าเวลาสตรีมสูงสุด 30 วินาที
export const maxDuration = 30;

export async function POST(req: Request) {
  const { messages }: { messages: UIMessage[] } = await req.json();

  const result = streamText({
    model: gonka('MiniMaxAI/MiniMax-M2.7'),
    system: 'คุณคือผู้ช่วยที่มีประโยชน์ ตอบให้สั้นและตรงประเด็น',
    messages: convertToModelMessages(messages),
    maxOutputTokens: 8192, // จำกัดผลลัพธ์ผ่าน Gateway
  });

  return result.toUIMessageStreamResponse();
}

บนฝั่ง client ให้เชื่อมต่อ hook useChat จาก @ai-sdk/react ซึ่งจะเรียกใช้งาน /api/chat และเรนเดอร์สตรีมข้อความให้อัตโนมัติ โดยเบื้องหลังจะเชื่อมต่อไปยัง Gonka แทน OpenAI

สคริปต์แบบไม่มี UI (Node, async-iterator สำหรับสตรีม):

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const result = streamText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'เขียนไฮกุเกี่ยวกับการประมวลผลแบบกระจาย (distributed computing)',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

พารามิเตอร์ของโมเดล ผ่าน Gateway มีโมเดลให้ใช้งานสองโมเดล ซึ่งทั้งคู่รองรับบริบท 200K tokens และจำกัดการตอบ (maxOutputTokens) สูงสุดถึง 8192 ต่อโมเดล:

• moonshotai/Kimi-K2.6 — ค่าเริ่มต้น (Kimi K2.6);
• MiniMaxAI/MiniMax-M2.7 (MiniMax M2.7).

หากไม่ได้กำหนด maxOutputTokens สำหรับคำขอที่ไม่ใช่สตรีม Gateway จะคืนค่าเริ่มต้นที่ 1500 tokens — สำหรับแชทแบบสตรีมมิ่งแนะนำให้กำหนดค่าไว้อย่างชัดเจน

Vercel AI SDK มักจะอยู่เบื้องหลังอินเทอร์เฟซแบบโต้ตอบ เช่น แชท, เอเจนต์, หรือผู้ช่วยในแอปฯ ข้อความแต่ละข้อความต้องดึงประวัติการสนทนาและขั้นตอนของเอเจนต์แต่ละขั้นก็ต้องใช้ context สำหรับเครื่องมือ ดังนั้นค่าใช้จ่ายจริงต้องคำนวณจากการโหลดงานจริง มาดูตัวอย่างเปรียบเทียบกัน:

ราคาของ JoinGonka อยู่ที่ประมาณ $0.003 ต่อ 1M tokens สำหรับ input และ output ราคาแพงกว่าประมาณสามเท่า สำหรับแอปที่มีการเรียกใช้งานหลายพันครั้งต่อวัน นี่คือความแตกต่างระหว่างบิลหลักหลายร้อยดอลลาร์กับบิลหลักไม่กี่เซนต์ ด้วยโควตาฟรี 10M tokens ก็เพียงพอที่จะทดสอบและปรับจูนโปรเจกต์ของคุณจนกว่าจะพร้อมใช้งานจริง

Vercel AI SDK อธิบายเครื่องมือต่างๆ ผ่านวัตถุ tools และ Schema zod แบบ declarative Kimi K2.6 รองรับการเรียกใช้ฟังก์ชันแบบเนทิฟ ดังนั้น AI SDK จึงได้รับ tool_calls ที่มีโครงสร้างโดยไม่ต้องพาร์สคำตอบที่เป็นข้อความ พารามิเตอร์ stopWhen: stepCountIs(n) อนุญาตให้ทำหลายขั้นตอนต่อเนื่องกัน โดยโมเดลจะเรียกใช้เครื่องมือ รับผลลัพธ์ และดำเนินการต่อ

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText, tool, stepCountIs } from 'ai';
import { z } from 'zod';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  stopWhen: stepCountIs(5),
  tools: {
    weather: tool({
      description: 'ตรวจสอบสภาพอากาศในเมือง',
      inputSchema: z.object({ city: z.string() }),
      execute: async ({ city }) => ({ city, tempC: 17 }),
    }),
  },
  prompt: 'สภาพอากาศที่มอสโกเป็นอย่างไรบ้าง? ตอบเป็นประโยคเดียว',
});

console.log(text);

โมเดลจะเรียกใช้เครื่องมือ weather รับผลลัพธ์ และสร้างคำตอบสุดท้าย วงจรทั้งหมดมีค่าใช้จ่ายประมาณ $0.000048 ผ่าน Gonka เทียบกับ $0.03-0.10 ที่ Anthropic หรือ OpenAI สำหรับแอปพลิเคชัน Agent ที่คำขอของผู้ใช้แต่ละครั้งขยายเป็น 5-10 ขั้นตอน การประหยัดค่าใช้จ่ายในการผลิตสามารถวัดได้เป็นหลายพันดอลลาร์ต่อเดือน

หากคุณกำลังสร้างแอปพลิเคชัน AI ด้วย Python ลองดูแนวทางเกี่ยวกับ LangChain ซึ่งใช้แนวทางเดิมผ่านคลาสที่รองรับ OpenAI ได้