지식 기반 섹션 ▾
기술
Qwen3-235B: 이전에 Gonka가 지원하던 모델
Qwen3-235B란 무엇인가
Qwen3-235B-A22B-Instruct-2507-FP8은 Alibaba Cloud의 Qwen 팀이 개발한 Qwen3 제품군의 대규모 언어 모델(LLM)입니다. 전체 이름은 다음과 같이 풀이됩니다: Qwen3 — 3세대 시리즈, 235B — 총 2,350억 개의 매개변수, A22B — 각 요청에 220억 개의 활성 매개변수, Instruct — 지침을 따르도록 훈련된 버전, 2507 — 2025년 7월 릴리스, FP8 — 메모리 최적화를 위한 8비트 양자화.
핵심 아키텍처 특징은 MoE(Mixture of Experts)입니다. 모든 토큰이 모든 매개변수를 통과하는 '밀집' 모델(GPT-5.5, Claude Sonnet 4.6)과 달리 MoE 모델은 각 요청에 대해 특정 '전문가' 하위 집합(신경망의 특수 블록)만 활성화합니다. Qwen3-235B의 경우 2,350억 개의 매개변수 중 각 토큰에 대해 220억 개, 즉 10% 미만이 활성화됩니다. 이는 220억 개 모델의 계산 비용으로 2,000억 개 이상의 매개변수 모델 수준의 품질을 제공합니다.
실질적으로 이는 다음과 같은 의미입니다. 이 모델은 속도에 비해 예상보다 똑똑합니다. 비슷한 품질의 밀집 모델보다 훨씬 빠르게 요청을 처리하며, 추론에 필요한 VRAM이 훨씬 적습니다. 이것이 바로 MoE가 2025-2026년 대규모 모델의 주류 아키텍처가 된 이유입니다.
Qwen3-235B의 컨텍스트 창은 131,072 토큰(약 100,000 단어)입니다. 이는 전체 책, 코드 베이스 또는 긴 법률 문서를 단일 요청으로 분석하기에 충분합니다. 이 모델은 한국어, 영어, 중국어, 아랍어, 힌디어 등 수십 개 언어를 포함하여 119개 언어를 지원하여 시장에서 가장 다국어 모델 중 하나입니다.
특성 및 벤치마크
Qwen3-235B는 최대 규모의 폐쇄형 및 오픈 모델과 경쟁합니다. 주요 사양 비교는 다음과 같습니다:
| 모델 | 파라미터 | 컨텍스트 | MoE | 오픈 소스 | 가격 (100만 토큰당) |
|---|---|---|---|---|---|
| Qwen3-235B (Alibaba) | 235B (22B 활성) | 131K | 예 | 예 (Apache 2.0) | $0.07+ (호스팅) |
| GPT-5.5 (OpenAI) | ~1.8T (추정) | 128K | 예 (추정) | 아니오 | $5.00 |
| Claude Sonnet 4.6 (Anthropic) | 비공개 | 200K | 아니오 (추정) | 아니오 | $3.00 |
| Llama 4 Maverick (Meta) | 400B (17B 활성) | 1M | 예 | 예 (Llama License) | $0.20+ (호스팅) |
| DeepSeek-R1 (DeepSeek) | 671B (37B 활성) | 128K | 예 | 예 (MIT) | $0.55 |
Qwen3-235B는 대부분의 벤치마크에서 GPT-5.5, Claude Sonnet 4.6에 필적하는 품질을 보이면서도, 오픈 웨이트 MoE 모델로서 독점 모델보다 몇 배나 저렴합니다. MoE 아키텍처는 요청마다 일부 파라미터만 활성화해 연산 비용을 크게 낮춥니다. Gonka 네트워크는 저렴한 분산 inference라는 같은 원리를 현재 운영 중인 모델——MiniMax M2.7, DeepSeek V4 Flash, GLM-5.3 Flash——에 적용하고 있으며, 이들은 JoinGonka Gateway를 통해 100만 토큰당 $0.0062에 이용할 수 있습니다 (GPT-5.5와 Claude보다 수백~수천 배 저렴).
MMLU-Pro, HumanEval, MATH-500, GSM8K 벤치마크에서 이 모델은 최고의 오픈 소스 모델 3위 안에 들며, 수학적 추론(reasoning) 과제에서는 DeepSeek-R1에만 뒤처집니다. 코드 생성, 번역, 지시 따르기 과제에서 Qwen3-235B는 Llama 4 Maverick을 꾸준히 앞서며 Claude Sonnet 4.6과 필적합니다.
Gonka가 Qwen3-235B를 활용한 방식
Qwen3-235B가 네트워크의 메인 모델이었을 당시, Gonka 네트워크에서 분산 방식으로 동작했습니다——inference에 맞게 조정된 DiLoCo 프로토콜을 통해. FP8 형식의 전체 모델은 약 640GB의 비디오 메모리(VRAM)가 필요해 단일 GPU에는 절대 담을 수 없습니다——H100 80GB나 H200 141GB로도 부족합니다. 그래서 모델은 여러 ML 노드에 레이어 단위로 분할되었습니다 (텐서 병렬화 + 파이프라인 병렬화).
실제로 Qwen3-235B는 8~16개의 GPU 노드(각 노드 최소 40GB VRAM)로 구성된 클러스터에서 동작했습니다. Transfer Agent가 요청을 적합한 클러스터로 라우팅하고, 각 노드의 vLLM이 모델의 담당 프래그먼트를 처리한 뒤, 결과를 집계해 사용자에게 반환했습니다. 전체 과정은 수백 밀리초가 걸렸고, 사용자는 자신의 요청이 지구 곳곳의 10여 대 GPU에서 처리된다는 사실을 느끼지 못했습니다. 네트워크는 지금도 같은 분산 inference 원리를 운영 중인 모델에 적용하고 있습니다.
중요한 기술적 세부 사항: Gonka는 serving용 엔진으로 vLLM을 사용합니다. vLLM은 오픈 소스 프로젝트로, PagedAttention——다수의 요청을 병렬 처리할 때 비디오 메모리 사용을 최적화하는 알고리즘——을 통해 고성능 텍스트 생성을 구현합니다. 덕분에 각 노드는 품질 저하 없이 많은 요청을 병렬로 처리할 수 있습니다.
이 모델은 네이티브 tool calling——모델 응답에서 직접 함수와 도구를 호출하는 기능——을 지원합니다. 이 기능은 도구 호출 판정 임계값 0.958과 함께 PR #767을 통해 Gonka에 추가되었습니다. Qwen3-235B에서는 이를 통해 개발자들이 외부 API, 데이터베이스, 도구와 상호작용하는 AI 에이전트를——모두 단일 요청으로——구축할 수 있었습니다. tool calling 지원은 네트워크의 운영 중인 모델에도 그대로 이어졌습니다.
현재 Gonka 네트워크에는 1,293 GPU(H100, H200, B300 등)가 있습니다. 예전에는 이 역량이 Qwen3-235B에 집중되었지만, 오늘날에는 네트워크의 운영 중인 모델——MiniMax M2.7, DeepSeek V4 Flash, GLM-5.3 Flash——을 지원합니다.
지금 Qwen3-235B를 사용해볼 수 있나요
결론부터 말하면, Gonka 네트워크를 통해서는 더 이상 사용할 수 없습니다. Qwen3-235B는 네트워크에서 제외되었기 때문에 qwen3-235b-a22b 식별자로 우리 Gateway를 통해 호출하는 것은 불가능합니다. 모델이 오픈(Apache 2.0)이므로 직접 호스팅하거나 OpenRouter 같은 서드파티 오픈 웨이트 모델 호스팅을 통해 접근할 수는 있습니다(대략 100만 토큰당 $0.071/$0.100).
다만 Gonka를 찾는 이유인 그 저렴한 탈중앙화 inference는 사라지지 않았습니다. 이제 네트워크의 현행 모델에서 작동할 뿐입니다. JoinGonka API Gateway에서는 MiniMax M2.7, DeepSeek V4 Flash, GLM-5.3 Flash를 OpenAI 호환 API로 사용할 수 있습니다. OpenAI용으로 작성한 코드는 그대로 작동하며, URL, API 키, 모델 이름만 바꾸면 됩니다.
현행 모델 요청 예시:
curl https://gate.joingonka.ai/api/v1/chat/completions \
-H "Authorization: Bearer YOUR_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "MiniMaxAI/MiniMax-M2.7",
"messages": [{"role": "user", "content": "Explain the MoE architecture"}]
}'비용은 100만 토큰당 $0.0062으로, GPT-5.5($5.00/1M)보다 약 810배, Claude Sonnet 4.6($3.00/1M)보다 약 490배 저렴합니다. 가입하면 테스트용 3M 토큰을 무료로 받을 수 있습니다.
Gateway는 주요 개발 도구와 호환됩니다. Quick Start에서 Python, Node.js, curl 연결 방법을 안내합니다. Cursor, Continue, Cline, Aider, Claude Code 같은 IDE 통합과 LangChain, n8n, LibreChat, Open WebUI 같은 AI 에이전트 프레임워크도 지원합니다.
빠른 시작 방법:
- gate.joingonka.ai에서 가입(지갑 연결 또는 새로 생성)
- Dashboard에서 API 키 발급
- 코드에서
api.openai.com을gate.joingonka.ai/api로 교체 - 네트워크의 최신 모델 지정:
MiniMaxAI/MiniMax-M2.7,deepseek-ai/DeepSeek-V4-Flash-0731, 또는zai-org/GLM-5.3-Flash(전체 목록은GET /v1/models엔드포인트에서 확인)
엔터프라이즈급 탈중앙화 inference를 취미 프로젝트 가격으로 누리는 환경은 여전합니다. Qwen3-235B가 자리를 비웠을 뿐, 네트워크의 더 새로운 모델이 그 자리를 이어받았습니다. 동일한 가격 대비 성능이 이제 MiniMax M2.7, DeepSeek V4 Flash, GLM-5.3 Flash에서 그대로 작동합니다.