LibreChat + Gonka AI — ChatGPT mã nguồn mở

Docker Compose — phương pháp cài đặt khuyến nghị:

# Sao chép kho lưu trữ
git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat

# Sao chép tệp env
cp .env.example .env

Khóa API JoinGonka: đăng ký tại gate.joingonka.ai/register, nhận 10M token miễn phí, tạo khóa jg-xxx.

Chỉnh sửa tệp .env trong thư mục gốc của LibreChat:

# .env
OPENAI_API_KEY=jg-your-key
OPENAI_REVERSE_PROXY=https://gate.joingonka.ai/v1/chat/completions
OPENAI_MODELS=Qwen/Qwen3-235B-A22B-Instruct-2507-FP8

Chạy:

docker compose up -d

Mở http://localhost:3080 — LibreChat đã sẵn sàng.

Đa mô hình: LibreChat cho phép bạn kết nối nhiều nhà cung cấp. Bạn có thể giữ API OpenAI gốc cho các tác vụ riêng biệt, thêm mô hình cục bộ thông qua Ollama, và sử dụng Gonka làm nhà cung cấp chính giá rẻ — tất cả trong một giao diện.

Để cấu hình nâng cao, sử dụng librechat.yaml:

# librechat.yaml
endpoints:
  custom:
    - name: "Gonka"
      apiKey: "jg-your-key"
      baseURL: "https://gate.joingonka.ai/v1"
      models:
        default:
          - "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8"
      titleConvo: true
      titleModel: "Qwen/Qwen3-235B-A22B-Instruct-2507-FP8"

Hai giao diện ChatGPT tự host tốt nhất - hãy so sánh:

Cả hai đều hoạt động xuất sắc với JoinGonka Gateway. LibreChat gần với ChatGPT về UX hơn và tốt hơn cho các nhóm có nhiều nhà cung cấp. Open WebUI đơn giản hơn trong triển khai (một container) và có RAG tích hợp. Lựa chọn là vấn đề sở thích.

Thông số mô hình thông qua JoinGonka: cửa sổ ngữ cảnh - 128K token, độ dài phản hồi tối đa - 2048 token. Đối với các phản hồi dài hơn, có thể kết nối các nhà cung cấp bổ sung trong LibreChat.