Зөөврийн компьютер дээр ажиллах 27B загвар 10 дахин том MoE-тэй тэнцэв: Alibaba Qwen3.8 нээлттэй загваруудаа зарлалаа

Хиймэл оюуны нээлттэй эхийн экосистемд томоохон тэсрэлт боллоо. Alibaba групп өөрсдийн хамгийн сүүлийн үеийн, өндөр бүтээмжтэй Qwen3.8 цувралын загваруудын жинг (weights) албан ёсоор Apache 2.0 лицензтэйгээр бүрэн нээлттэй болгож, Hugging Face болон ModelScope платформ дээр байршууллаа.

Энэ удаагийн хувилбарын гол онцлог нь 27 тэрбум параметр бүхий авсаархан атлаа өмнөх үеийнхээ 10 дахин том MoE (Mixture of Experts) загваруудтай тэнцэхүйц чадалтай Qwen3.8-27B болон түүхэндээ анх удаа "Max-class" буюу 2.4 их наяд параметртэй Qwen3.8-2.4T-A95B флагшип загварыг нээлттэй түгээж буйд оршиж байна.

1. Qwen3.8-27B: Хөгжүүлэгчийн зөөврийн компьютер дээр ажиллах "Dense Multimodal" хүч

Орчин үеийн AI инженерүүдийн хувьд асар том кластер шаардахгүйгээр локал орчинд буюу өөрийн машин дээр өндөр нарийвчлалтай ажиллах загвар нэн чухал байдаг. Qwen3.8-27B нь яг энэ хэрэгцээнд бүрэн нийцжээ:

Техник хангамжийн шаардлага: Ойролцоогоор 17GB VRAM шаардах тул RTX 3090, RTX 4090 зэрэг хэрэглэгчийн нэг ширхэг GPU дээр шууд ажиллах боломжтой. Цаашлаад 4-bit квантчлал (quantization) ашиглан Apple Silicon (M2/M3/M4) зөөврийн компьютер дээр ямар ч асуудалгүй асна.
Native Multimodal: Текстээс гадна зураг, диаграмм болон 224k хүртэлх урт видео бичлэгийг шууд шинжлэх өндөр чадвартай visual encoder суурилсан.
Гүйцэтгэлийн үсрэлт: Хэмжээний хувьд авсаархан боловч өмнөх үеийн 10 дахин том Qwen3.7-plus MoE загвартай ижил түвшний үр дүн үзүүлж байна.

2. 2.4 Их Наяд Параметр: "Max-Class" флагшип загварын жинг анх удаа нээв

Alibaba урьд өмнө нь зөвхөн Cloud API-аар олгодог байсан "Qwen-Max" ангиллын топологи бүхий хамгийн хүчирхэг Qwen3.8-2.4T-A95B загварын жингээ анх удаа нийтэд танилцуулав.

Архитектур: Нийт 2.4 триллион параметр бүхий Mixture-of-Experts (MoE) бүтэцтэй. Асуулга бүрд зөвхөн 95 тэрбум актив параметр ажилладаг тул инференс хийх үеийн зардал, тооцооллын нөөцийг оновчилсон.
1M Контекст Цонх: Анхдагч байдлаар 262K токен дэмжих ба RoPE scaling ашиглан 1 сая токен (1M) хүртэл өргөтгөх боломжтой. Энэ нь бүхэл бүтэн репозиторийн код, олон зуун хуудас техникийн баримт бичгийг нэг дор шинжлэх боломж олгоно.

3. Агент ба Программчлалд зориулсан шинэ боломжууд

Хөгжүүлэгчийн хувьд хамгийн сонирхолтой нь загварын код бичих чадвар болон агент (agentic) интеграци юм:

`preserve_thinking` горим

Өмнө нь reasoning загварууд олон дараалалтай ярианд (multi-turn conversation) өмнөх алхмын дотоод логик, бодлын дарааллаа мартдаг эсвэл дахин бодож илүүдэл токен зарцуулдаг байсан. Qwen3.8 нь preserve_thinking параметерийг нэвтрүүлснээр харилцааны туршид reasoning context-ийг санах ойд хадгалж, код дибаг хийх болон олон шатлалт төлөвлөлтийг хурдан гүйцэтгэнэ.

Уян хатан бодох түвшин (`reasoning_effort`)

Хөгжүүлэгчид API хүсэлт илгээхдээ reasoning_effort параметр ашиглан загварын эргэцүүлэн бодох гүнийг (xhigh, medium, low, off) тохируулах боломжтой болсон. Хурдан код generate хийхэд бага түвшин, харин архитектур төлөвлөхөд дээд түвшнийг сонгох боломжтой.

Бенчмарк үзүүлэлтүүд

SWE-bench Pro: 61.7%
Terminal Bench 2.1: 73.0%
LiveCodeBench v6: 90.3%
QwenSWEBench: 79.0%

Эдгээр үр дүн нь нээлттэй загваруудын дунд код бичих болон терминал тушаал биелүүлэх чадвараараа тэргүүлэх эгнээнд орж байгааг харуулж байна.

4. Хэрхэн локал дээрээ туршиж үзэх вэ?

Qwen3.8 загварууд гарсан даруйдаа өргөн тархсан нээлттэй хэрэгслүүдэд шууд дэмжигдэж эхэллээ.

Ollama ашиглах:

ollama run qwen3.8:27b

Docker Model Runner ашиглах:

docker model run hf.co/Qwen/Qwen3.8-27B

Мөн LM Studio, llama.cpp, vLLM, Unsloth (GGUF / NVFP4) зэрэг түгээмэл сангуудаар дамжуулан GPU кластер эсвэл Mac M-цувралын чип дээр шууд ажиллуулж, өөрийн дотоод төсөл болон Agent системүүддээ интеграци хийх бүрэн боломжтой.

Дүгнэлт

Хиймэл оюуны салбар зөвхөн үүлэн тооцоолол, хаалттай API (OpenAI, Anthropic) руу түшиглэсэн байдлаас ангижирч, хүчирхэг нээлттэй загварууд бие даасан хөгжүүлэгчийн локал орчинд чөлөөтэй ажиллах боломж улам бүр бодитой болж байна. Apache 2.0 лиценз нь стартапууд болон байгууллагуудад өөрсдийн датаг нууцлалтайгаар боловсруулж, хувийн AI туслах, кодын агент хөгжүүлэх ногоон гэрлийг асаалаа.

Эх сурвалж: Hugging Face Qwen3.8 Repository, Alibaba Cloud AI Team Announcement, LM Studio Model Card.