Европын "Le Chonk" гарч ирлээ: Mistral 1 их наяд параметртэй Mistral Large 4 загварынхаа жинг (Weights) нээлттэй болгов

Хиймэл оюун ухааны тэргүүлэх лабораториуд шилдэг моделиудаа хаалттай API цаана түгжиж буй энэ үед Францын Mistral AI салбарыг шуугиулсан шийдвэр гаргалаа. Тэд өнгөрсөн долоо хоногуудад хязгаарлагдмал preview байдлаар туршигдаж байсан өөрсдийн хамгийн хүчирхэг флагман загвар болох Mistral Large 4 (дотоод нэршил: "Le Chonk")-ийн бүх жинг (weights) хөгжүүлэгчдийн нийгэмлэгт нээлттэй болгосноо зарлав.

Энэхүү загвар нь нийт 1 их наяд (1 Trillion) параметртэй бөгөөд нээлттэй жинтэй (open-weight) загваруудын дунд код бичилт, агентын даалгавар, кибер хамгаалалтын чиглэлээр дэлхийн шинэ жишгийг тогтоож байна.

Архитектурын онцлог: 1T хэмжээтэй MoE мангас

Mistral Large 4 нь цул (dense) биш, харин маш нарийн зохион байгуулалттай Mixture-of-Experts (MoE) бүтэцтэй:

Нийт ба идэвхтэй параметрүүд: Загварын нийт параметр 1 их наяд орчим боловч токен тус бүрийн боловсруулалтад ердөө 49B - 52B орчим параметр идэвхтэй (active) ашиглагддаг. Энэ нь инференсийн хугацаа болон тооцооллын зардлыг үлэмж хэмжээгээр бууруулдаг.
Контекст цонх: Бүхэл бүтэн том хэмжээний кодын сан (codebase), хэдэн зуун хуудас техникийн баримт бичгийг нэг дор боловсруулах 1 сая токены (1M context window) багтаамжтай.
Мультимодал оролт: Текстээс гадна архитектурт нь нэгтгэгдсэн Pixtral вишн энкүүдэрийн ачаар архитектурын диаграмм, UI мокап, дэлгэцийн агшин, системийн логуудыг шууд шинжилнэ.
Квантчлал ба бэлэн форматууд: Загварыг Hugging Face дээр анхнаасаа FP8 болон шинэ үеийн хурдасгууруудад зориулсан NVFP4 хэлбэрээр байршуулсан бөгөөд Unsloth болон llama.cpp багууд аль хэдийн GGUF хувилбаруудыг гаргаад байна.

Кибер аюулгүй байдал: Хаалттай загварууд "татгалздаг" даалгаврыг шийдвэрлэх нь

Mistral Large 4-ийн хамгийн анхаарал татсан давуу тал нь хамгаалалтын инженерчлэл (defensive cybersecurity) болон код засвар юм.

Хаалттай олон API моделиуд (жишээ нь GPT эсвэл Claude-ийн зарим хувилбарууд) хэт хатуу safety шүүлтүүрээсээ болоод эмзэг байдлын бодит туршилт, exploit reproduction-ийг "хортой үйлдэл" гэж үзэн гүйцэтгэхээс шууд татгалздаг (refusal). Гэтэл хамгаалалтын багийн хувьд системийн цоорхойг засахын тулд уг цоорхой яг яаж ажиллаж байгааг туршин хуулбарлах шаардлага гарцаагүй үүсдэг.

Artificial Analysis Cyber Index үнэлгээгээр нээлттэй эхийн систем дэх бодит эмзэг байдлыг илрүүлэн, туршиж, засварлах (patch) тестэд Mistral Large 4 82%-ийн амжилт үзүүлжээ. Түүнчлэн кодчиллын агент тестийн жишиг болох FrontierCode 2.0 болон Terminal-Bench дээр нээлттэй жинтэй загваруудын дунд тэргүүн байрыг эзэлж байгааг зарласан байна.

"Sovereign AI": Өөрийн дата төвдөө 100% эзэмших эрх чөлөө

Сүүлийн үед аж ахуйн нэгжүүдийн хамгийн том айдас бол хувийн код, бизнесийн нууц мэдээллээ гуравдагч талын клоуд API руу дамжуулах эрсдэл юм. Түүнчлэн геополитик болон зохицуулалтын шалтгаанаар хүссэн үедээ хандалтыг хааж болзошгүй хараат байдал нэмэгдсэн.

Mistral энэ асуудлыг шийдэхдээ загвараа Европын бие даасан дэд бүтэц дээр тэгээс нь сургаж, Mistral Ecosystem Open-Weight License нөхцөлөөр гаргажээ. Энэ нь юу гэсэн үг вэ?

Загварыг байгууллагууд өөрийн дотоод сервер (on-premises) эсвэл хувийн үүлэн дэд бүтэц (VPC) дээрээ бүрэн татаж ажиллуулж болно.
Таны код, серверээс гадагш гарахгүй, ямар нэгэн хөндлөнгийн хяналтгүйгээр бүрэн хамгаалагдана.
Лицензийн дагуу өөрсдийн бүтээгдэхүүнд коммершиал байдлаар суулган ашиглах боломжтой (гагцхүү уг моделийг бусдад Model-as-a-Service буюу дахин API байдлаар түрээслэн зарах бизнесүүд л тусдаа гэрээ байгуулах ёстой).

Хөгжүүлэгчид яаж ашиглаж эхлэх вэ?

Mistral Large 4-ийг өнөөдрөөс эхлэн орчин үеийн бүх гол инференс экосистемд шууд асаах боломжтой:

vLLM болон SGLang: Өндөр ачаалалтай серверүүдэд зориулсан Tensor Parallelism болон Prefix Caching тохиргоотойгоор шууд дэмжигдсэн.
Hugging Face: transformers сангаас AutoModelForCausalLM ашиглан mistralai/Mistral-Large-4 репогоос жинг шууд татаж ажиллана.
Local & Quantized: Бага хэмжээний санах ойтой машинуудад зориулан Unsloth-ийн квантчилсан хувилбарууд болон llama.cpp-ийн дэмжлэг гарсан тул туршилтын түвшинд локал орчинд ч туршиж болно.

Хэрэв өөрийн кластер байхгүй бол Mistral Studio-ийн API-аар дамжуулан 1 сая оролтын токеныг €0.63, гаралтын токеныг €1.89-өөр дуудах боломжтой нь preview шатнаасаа даруй 2 дахин хямдарсан үнэ юм.

Дүгнэлт

AI кодчиллын зах зээлд өмчийн хаалттай системүүд монопол тогтоох гэж буй энэ үед Mistral-ийн 1 их наяд параметртэй загвар жингээ дэлгэсэн нь бие даасан дэд бүтэцтэй байгууллага, хөгжүүлэгчдэд том давуу тал авчирлаа. Ялангуяа системээ өөрийн гарт байлгаж, агент кодчилол болон кибер аюулгүй байдлын аудит хийхийг хүсэж байвал Mistral Large 4-ийг заавал туршиж үзэх хэрэгтэй.

Эх сурвалж: [Mistral AI Newsroom, Hugging Face, Hacker News Discussion]