Vercel AI SDK + Gonka AI — แอปพลิเคชัน AI บน TypeScript ราคาถูก

JoinGonka API key: ลงทะเบียนที่ gate.joingonka.ai/register — เราแจก 3M โทเค็นฟรี ตั้งแต่เริ่มต้น ใน Dashboard ให้สร้างคีย์โดยใช้คำนำหน้า jg-

การติดตั้งแพ็คเกจ สำหรับ OpenAI-compatible endpoint แบบกำหนดเอง Vercel AI SDK แนะนำให้ใช้โปรวายเดอร์ @ai-sdk/openai-compatible:

npm install ai @ai-sdk/openai-compatible

การเชื่อมต่อเบื้องต้น — สร้างอินสแตนซ์ของโปรวายเดอร์ผ่าน createOpenAICompatible และเรียกใช้ generateText:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY, // jg-your-key
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'อธิบายว่าเครือข่ายอินเฟอเรนซ์แบบกระจายศูนย์คืออะไร',
});

console.log(text);

พารามิเตอร์ apiKey จะเพิ่มส่วนหัว Authorization: Bearer jg-your-key ให้อัตโนมัติ ไม่จำเป็นต้องตั้งค่าเพิ่มเติม ควรเก็บคีย์ไว้ในตัวแปรสภาพแวดล้อม GONKA_API_KEY (เช่น ใน .env.local) แทนที่จะใส่ไว้ในโค้ดโดยตรง

ทางเลือก — ใช้แพ็คเกจ @ai-sdk/openai ร่วมกับแฟคทอรี createOpenAI({ baseURL, apiKey }) ทั้งสองวิธีใช้งานได้จริง สำหรับเอ็นด์พอยต์ที่ไม่ใช่ของ OpenAI เอกสารของ AI SDK แนะนำให้ใช้ @ai-sdk/openai-compatible เพราะไม่มีสมมติฐานเฉพาะเจาะจงของ OpenAI แฝงอยู่

ฟีเจอร์หลักของ Vercel AI SDK คือการสตรีมคำตอบ ฟังก์ชัน streamText จะเริ่มสตรีมโทเคนทันที และตัวช่วย toUIMessageStreamResponse() จะส่งสตรีมที่พร้อมใช้งานจาก route handler ใน Next.js App Router โดยตรง

เซิร์ฟเวอร์แฮนเดิลเลอร์ app/api/chat/route.ts:

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText, convertToModelMessages, type UIMessage } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

// อนุญาตให้สตรีมได้สูงสุด 30 วินาที
export const maxDuration = 30;

export async function POST(req: Request) {
  const { messages }: { messages: UIMessage[] } = await req.json();

  const result = streamText({
    model: gonka('MiniMaxAI/MiniMax-M2.7'),
    system: 'คุณเป็นผู้ช่วยที่มีประโยชน์ ตอบให้สั้นและตรงประเด็น',
    messages: convertToModelMessages(messages),
    maxOutputTokens: 8192, // จำกัดผลลัพธ์ผ่าน Gateway
  });

  return result.toUIMessageStreamResponse();
}

บนฝั่งไคลเอนต์ ให้เชื่อมต่อฮุก useChat จาก @ai-sdk/react ซึ่งจะเรียก /api/chat และแสดงผลสตรีมข้อความเอง ในขณะที่แบ็กเอนด์จะเชื่อมต่อไปยัง Gonka แทน OpenAI

สคริปต์ที่ไม่มี UI (Node, async-iterator ผ่านสตรีม):

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { streamText } from 'ai';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const result = streamText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  prompt: 'เขียนไฮกุเกี่ยวกับการประมวลผลแบบกระจายตัว',
});

for await (const chunk of result.textStream) {
  process.stdout.write(chunk);
}

พารามิเตอร์ของโมเดล ผ่าน Gateway มีโมเดลให้ใช้งาน 3 รุ่น: บริบท 200K โทเคนสำหรับ MiniMax M2.7, 380K สำหรับ DeepSeek V4 Flash และ 390K สำหรับ GLM-5.3 Flash; ขีดจำกัดคำตอบ (maxOutputTokens) คือ 8192 สำหรับ MiniMax M2.7 และ GLM-5.3 Flash และ 32768 สำหรับ DeepSeek V4 Flash:

• MiniMaxAI/MiniMax-M2.7 — ค่าเริ่มต้น (MiniMax M2.7);
• deepseek-ai/DeepSeek-V4-Flash-0731 (DeepSeek V4 Flash, บริบท 380K);
• zai-org/GLM-5.3-Flash (GLM-5.3 Flash, โมเดล reasoning — ประมวลผลก่อนตอบ)

หากไม่ได้กำหนด maxOutputTokens สำหรับคำขอแบบ non-stream Gateway จะคืนค่าเริ่มต้นไม่เกิน 1500 โทเคน สำหรับแชทแบบสตรีมมิ่งควรระบุค่าให้ชัดเจน

โดยปกติแล้ว Vercel AI SDK จะอยู่เบื้องหลังอินเทอร์เฟซแบบโต้ตอบ เช่น แชท, เอเจนท์ หรือผู้ช่วยในแอปพลิเคชัน ข้อความแต่ละข้อความจะดึงประวัติการสนทนามาด้วย และแต่ละขั้นตอนของเอเจนท์จะมาพร้อมกับบริบทของเครื่องมือ ดังนั้นค่าใช้จ่ายจริงไม่ได้คำนวณจากคำขอเดียว แต่คำนวณจากภาระงานจริง (production load) มาเปรียบเทียบสถานการณ์ทั่วไปกัน:

ราคาของ JoinGonka อยู่ที่ประมาณ $0.0069 ต่อ 1M โทเค็นขาเข้า ส่วนขาออกจะมีราคาแพงกว่าประมาณสามเท่า สำหรับแอปพลิเคชันที่มีคำขอหลายพันครั้งต่อวัน นี่คือความแตกต่างระหว่างค่าใช้จ่ายหลักร้อยดอลลาร์กับค่าใช้จ่ายเพียงไม่กี่เซนต์ โทเค็นฟรี 3M ก็เพียงพอที่จะเริ่มรันคำขอแรกของโปรเจกต์คุณได้แล้ว

Vercel AI SDK อธิบายเครื่องมือแบบประกาศผ่านวัตถุ tools และโครงสร้าง zod โมเดลในเครือข่ายรองรับ function calling แบบเนทีฟ ดังนั้น AI SDK จึงได้รับ tool_calls ที่มีโครงสร้างโดยไม่ต้องแยกวิเคราะห์จากข้อความตอบกลับ พารามิเตอร์ stopWhen: stepCountIs(n) อนุญาตให้ทำหลายขั้นตอนต่อเนื่องกันได้ — โมเดลจะเรียกใช้เครื่องมือ รับผลลัพธ์ และดำเนินการต่อ

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText, tool, stepCountIs } from 'ai';
import { z } from 'zod';

const gonka = createOpenAICompatible({
  name: 'gonka',
  baseURL: 'https://gate.joingonka.ai/v1',
  apiKey: process.env.GONKA_API_KEY,
});

const { text } = await generateText({
  model: gonka('MiniMaxAI/MiniMax-M2.7'),
  stopWhen: stepCountIs(5),
  tools: {
    weather: tool({
      description: 'Узнать погоду в городе',
      inputSchema: z.object({ city: z.string() }),
      execute: async ({ city }) => ({ city, tempC: 17 }),
    }),
  },
  prompt: 'Какая погода в Москве? Ответь одним предложением.',
});

console.log(text);

โมเดลเรียกใช้เครื่องมือ weather รับผลลัพธ์ และสร้างคำตอบสุดท้าย วงจรทั้งหมดมีค่าใช้จ่ายประมาณ $0.000048 ผ่าน Gonka เทียบกับ $0.03-0.10 ของ Anthropic หรือ OpenAI สำหรับแอปพลิเคชันแบบเอเจนต์ที่แต่ละคำขอของผู้ใช้ขยายออกไปเป็น 5-10 ขั้นตอน การประหยัดค่าใช้จ่ายในการใช้งานจริง (prod) สามารถวัดได้เป็นหลักหลายพันดอลลาร์ต่อเดือน

หากคุณกำลังสร้างแอปพลิเคชัน AI ด้วย Python ให้ดูคู่มือเกี่ยวกับ LangChain ซึ่งใช้วิธีการเดียวกันผ่านคลาสที่เข้ากันได้กับ OpenAI