Qwen3-235B: Das Modell, das Gonka früher bediente

Qwen3-235B-A22B-Instruct-2507-FP8 ist ein großes Sprachmodell (LLM) der Qwen3-Familie, das vom Qwen-Team bei Alibaba Cloud entwickelt wurde. Der vollständige Name bedeutet: Qwen3 – die dritte Generation der Serie, 235B – insgesamt 235 Milliarden Parameter, A22B – 22 Milliarden aktive Parameter pro Anfrage, Instruct – eine Version, die darauf trainiert ist, Anweisungen zu folgen, 2507 – Veröffentlichung vom Juli 2025, FP8 – 8-Bit-Quantisierung zur Speicheroptimierung.

Das entscheidende architektonische Merkmal ist MoE (Mixture of Experts). Im Gegensatz zu „dichten“ Modellen (GPT-5.5, Claude Sonnet 4.6), bei denen jedes Token alle Parameter durchläuft, aktiviert ein MoE-Modell für jede Anfrage nur eine Untermenge von „Experten“ – spezialisierte Blöcke des neuronalen Netzes. Im Fall von Qwen3-235B werden von 235 Milliarden Parametern für jedes Token nur 22 Milliarden aktiviert – weniger als 10%. Dies führt zu einer Qualitätsstufe, die mit Modellen mit über 200B Parametern vergleichbar ist, bei den Rechenkosten eines Modells mit 22B.

Praktisch bedeutet dies: Das Modell ist intelligenter, als man es von seiner Geschwindigkeit erwarten würde. Es verarbeitet Anfragen deutlich schneller als dichte Modelle vergleichbarer Qualität und benötigt dabei ein Vielfaches weniger VRAM für die Inferenz. Aus diesem Grund ist MoE die dominierende Architektur für die größten Modelle der Jahre 2025–2026 geworden.

Das Kontextfenster von Qwen3-235B beträgt 131.072 Tokens (~100.000 Wörter) – ausreichend für die Analyse ganzer Bücher, Codebasen oder langer juristischer Dokumente in einer einzigen Anfrage. Das Modell unterstützt 119 Sprachen, darunter Russisch, Englisch, Chinesisch, Arabisch, Hindi und Dutzende andere – was es zu einem der mehrsprachigsten Modelle auf dem Markt macht.

Qwen3-235B misst sich mit den größten geschlossenen und offenen Modellen. Hier der Vergleich der wichtigsten Merkmale:

Qwen3-235B erreicht in den meisten Benchmarks ein Qualitätsniveau, das mit GPT-5.5 und Claude Sonnet 4.6 vergleichbar ist, und ist als Open-Weights-MoE-Modell zugleich um ein Vielfaches günstiger als proprietäre Alternativen: Die MoE-Architektur aktiviert pro Anfrage nur einen Teil der Parameter und senkt die Rechenkosten drastisch. Dasselbe Prinzip günstiger dezentraler Inference wendet das Gonka-Netzwerk heute auf seine aktiven Modelle an — MiniMax M2.7, DeepSeek V4 Flash und GLM-5.3 Flash —, die über das JoinGonka Gateway für $0.0062 pro 1M Token verfügbar sind (um Hunderte bis Tausende Male günstiger als GPT-5.5 und Claude).

In den Benchmarks MMLU-Pro, HumanEval, MATH-500 und GSM8K gehört das Modell zu den drei besten Open-Source-Modellen und steht nur bei mathematischen Reasoning-Aufgaben hinter DeepSeek-R1 zurück. Bei Code-Generierung, Übersetzung und Instruction-Following liegt Qwen3-235B konstant vor Llama 4 Maverick und ist mit Claude Sonnet 4.6 vergleichbar.

Als Qwen3-235B das Hauptmodell des Netzwerks war, lief es im Gonka-Netzwerk verteilt — über das DiLoCo-Protokoll, angepasst für Inference. Das vollständige Modell im FP8-Format benötigt rund 640 GB Videospeicher (VRAM), was sich nicht auf einer einzigen GPU unterbringen lässt — selbst eine H100 80GB oder H200 141GB reicht nicht aus. Deshalb wurde das Modell schichtweise (Tensor Parallelism + Pipeline Parallelism) auf mehrere ML-Nodes aufgeteilt.

In der Praxis lief Qwen3-235B auf einem Cluster aus 8–16 GPU-Nodes mit jeweils mindestens 40 GB VRAM. Transfer Agents leiteten die Anfrage an den passenden Cluster weiter, vLLM verarbeitete auf jedem Node sein Fragment des Modells, die Ergebnisse wurden aggregiert und an den Nutzer zurückgegeben. Der gesamte Vorgang dauerte Hunderte Millisekunden — der Nutzer bekam nicht mit, dass seine Anfrage von einem Dutzend GPUs an verschiedenen Orten der Welt bearbeitet wurde. Dasselbe Prinzip verteilter Inference wendet das Netzwerk auch heute an — nun auf seine aktiven Modelle.

Ein wichtiges technisches Detail: Gonka nutzt vLLM als Serving-Engine. vLLM ist ein Open-Source-Projekt, das über PagedAttention — einen Algorithmus zur Optimierung der Videospeichernutzung bei der parallelen Verarbeitung vieler Anfragen — eine hochperformante Textgenerierung ermöglicht. So kann jeder Node viele Anfragen parallel verarbeiten, ohne an Qualität zu verlieren.

Das Modell unterstützt natives Tool Calling — den Aufruf von Funktionen und Tools direkt aus der Antwort des Modells heraus. Diese Möglichkeit wurde in Gonka über PR #767 mit einem Schwellenwert von 0.958 zur Erkennung von Tool-Aufrufen ergänzt. Auf Qwen3-235B konnten Entwickler damit KI-Agenten bauen, die mit externen APIs, Datenbanken und Tools interagieren — alles über eine einzige Anfrage. Die Unterstützung für Tool Calling ist auch bei den aktiven Modellen des Netzwerks erhalten geblieben.

Derzeit umfasst das Gonka-Netzwerk 1,293 GPUs (H100, H200, B300 und weitere). War diese Rechenleistung früher auf Qwen3-235B ausgerichtet, so bedient sie heute die aktiven Modelle des Netzwerks — MiniMax M2.7, DeepSeek V4 Flash und GLM-5.3 Flash.

Die direkte Antwort: Über das Gonka-Netzwerk — nicht mehr. Qwen3-235B wurde aus dem Netzwerk entfernt, daher kann sie nicht mehr über ihre Kennung qwen3-235b-a22b über unser Gateway aufgerufen werden. Da das Modell offen ist (Apache 2.0), lässt es sich weiterhin selbst hosten oder über Drittanbieter für Open-Weights-Modelle ansprechen — etwa über OpenRouter (schätzungsweise $0.071/$0.100 pro 1M Token).

Wenn Sie jedoch genau die günstige dezentrale Inference suchen, wegen der man zu Gonka kommt — die gibt es noch, sie läuft jetzt nur auf den aktiven Modellen des Netzwerks. Über das JoinGonka API Gateway stehen MiniMax M2.7, DeepSeek V4 Flash und GLM-5.3 Flash über eine OpenAI-kompatible API bereit: Jeder Code, der für OpenAI geschrieben wurde, funktioniert ohne Änderungen — es genügt, URL, API-Key und Modellname zu ersetzen.

Beispielanfrage an ein aktives Modell:

curl https://gate.joingonka.ai/api/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "MiniMaxAI/MiniMax-M2.7",
    "messages": [{"role": "user", "content": "Explain the MoE architecture"}]
  }'

Kosten: $0.0062 pro 1 Million Token — das ist rund 810-mal günstiger als GPT-5.5 ($5.00/1M) und rund 490-mal günstiger als Claude Sonnet 4.6 ($3.00/1M). Bei der Registrierung erhalten Sie kostenlose 3M Token zum Testen.

Das Gateway ist mit gängigen Entwicklungstools kompatibel: Der Quick Start beschreibt die Anbindung über Python, Node.js und curl. Ebenso werden IDE-Integrationen unterstützt — Cursor, Continue, Cline, Aider und Claude Code — sowie Frameworks für AI-Agenten: LangChain, n8n, LibreChat, Open WebUI.

Für einen schnellen Start:

1. Registrieren Sie sich auf gate.joingonka.ai (Wallet verbinden oder neue erstellen)
2. Holen Sie sich einen API-Key im Dashboard
3. Ersetzen Sie api.openai.com durch gate.joingonka.ai/api in Ihrem Code
4. Geben Sie das aktuelle Modell des Netzwerks an — MiniMaxAI/MiniMax-M2.7, deepseek-ai/DeepSeek-V4-Flash-0731 oder zai-org/GLM-5.3-Flash (die vollständige Liste finden Sie im Endpoint GET /v1/models)

Dezentrale Inference auf Enterprise-Niveau zum Preis eines Hobbyprojekts gibt es noch — Qwen3-235B hat lediglich neueren Modellen des Netzwerks Platz gemacht. Dieselbe Kombination aus Preis und Qualität läuft jetzt auf MiniMax M2.7, DeepSeek V4 Flash und GLM-5.3 Flash.