Нээлттэй эхийн шинэ мангас: Mistral AI 1 их наяд параметртэй "Mistral Large 4" (Le Chonk) загвараа зарлалаа

Хиймэл оюуны салбарт өмчийн хаалттай загварууд (Proprietary Frontier Models) ноёрхож буй энэ үед Европын хамгийн амжилттай AI гарааны компани Mistral AI томоохон цохилт хийлээ. Тэд өөрсдийн түүхэн дэх хамгийн хүчирхэг бөгөөд хамгийн том бүтээл болох Mistral Large 4 (ML4) загвараа албан ёсоор олон нийтэд танилцууллаа. Дотооддоо "Le Chonk" хэмээн хочилсон уг загвар нь нээлттэй жинтэй (open-weight) хиймэл оюуны түүхэнд шинэ жишиг тогтоож байна.

Хамгийн чухал нь Mistral энэ сарын сүүлээр загварынхаа бүх жинг (weights) нээлттэй эхээр нийтэд үнэ төлбөргүй цацна гэдгээ баталлаа. Одоогоор хөгжүүлэгчид Mistral Studio болон API-аар дамжуулан урьдчилсан байдлаар туршиж эхлэх боломжтой болжээ.

"Le Chonk" ба 1 их наяд параметрийн Granular MoE нууц

Mistral Large 4 нь нийт 1.05 их наяд (1.05T) параметртэй бөгөөд сууриасаа эхлэн мультимодал (текст болон зураг боловсруулах чадвартай) байдлаар бүтээгджээ. Гэхдээ 1T параметртэй загварыг ажиллуулахад асар их тооцоолох хүч шаардагдах асуудлыг тэд нарийн Granular Mixture-of-Experts (MoE) архитектураар шийдсэн байна.

49 тэрбум идэвхтэй параметр (Active Parameters): Нэг токен боловсруулахад нийт жингийн ердөө 4.7% буюу 49 тэрбум орчим параметр л ажилладаг. Энэ нь инференсийн хурдыг дунд түвшний жижиг загваруудын хэмжээнд хадгалж, үйлчилгээний зардлыг үлэмж бууруулжээ.
1.6 тэрбум параметртэй Vision Encoder: Зураг, график болон баримт бичгийн визуал өгөгдлийг нарийвчлалтай унших тусгай энкудер агуулсан.
1 сая (1M) токен контекст цонх: Том хэмжээний эх кодын сан (codebase), ном бүтээл, хууль эрх зүйн асар зузаан баримт бичгийг бүхлээр нь контекстдээ багтаана.

3,800 Grace Blackwell GPU-ээр босгосон Европын дэд бүтэц

Mistral энэ удаад бэлэн суурь загвар ашиглаагүй бөгөөд Европын өөрийн дата төвд байрлах 3,800 ширхэг NVIDIA Grace Blackwell GPU бүхий кластер дээр загвараа анхнаас нь (from scratch) сургажээ. Сургалтын өгөгдөл нь дэлхийн 160 гаруй хэлийг хамарсан бөгөөд Европын Холбооны албан ёсны бүх хэлийг бүрэн дэмжиж байна.

Энэхүү дэд бүтэц нь тус компанийг АНУ болон Хятадын клаудын хараат бус байдлаас ангижруулж, бие даасан дэд бүтцээр том хэмжээний суурь загвар амжилттай сургаж болдгийг батлан харууллаа.

Программчлал ба AI агентууд дээрх үсрэлт

Хөгжүүлэгчдэд хамгийн их хамаатай хэсэг бол кодын гүйцэтгэл болон бие даасан агентийн чадвар юм. Mistral-аас нийтэлсэн бенчмарк үзүүлэлтүүдээс харвал:

DeepSWE v1.1: 61.7% амжилт үзүүлсэн нь орчин үеийн код бичих чадвартай олон шилдэг загваруудыг ардаа орхижээ.
AutomationBench: 59.9% оноо авч, олон алхамт даалгаврыг агентын тусламжтай автоматаар төлөвлөн гүйцэтгэх чадвараа баталсан байна.
Coding Agent Index: 49.8% үр дүнд хүрсэн байна.

Mistral Large 4 нь репозиторын бүтэц ойлгох, терминалын комманд бие даан ажиллуулах (Terminal-Bench 4.0), багц тестүүдийг бичиж алдааг (bug) автоматаар засах агент процессуудад тусгайлан зориулагдсан байна.

Кибер аюулгүй байдал: "Татгалзал"-ын эсрэг хариу арга хэмжээ

Энэхүү загварын хамгийн онцгой маркетингийн цэг нь кибер аюулгүй байдал болов. Өнөөгийн тэргүүлэгч хаалттай загварууд (Claude, GPT-ийн зарим хувилбарууд) кибер халдлагын даалгавар, эмзэг байдлын тест, эксплойт (exploit) шинжлэх даалгаврыг хэт хатуу safety бодлогынхоо улмаас татгалзаж (refusal), тэг оноо авах нь түгээмэл байдаг.

Харин Mistral кибер аюулгүй байдлын шинжээчид болон тусгай аудит хийх багуудад зориулан уг загвараа бодит систем дээр сургасан байна:

Cybench: 93% амжилттай даалгавар биелүүлсэн.
CyberGym-E2E: Системийн эмзэг байдлыг хуулбарлан илрүүлж, нөхөх (reproduce and patch) тест дээр 82% оноо авчээ.

Энэ нь компаниудын Security Operations Center (SOC) баг, пен-тестерүүдэд лог шинжлэх, кодын аудитыг бүрэн гүйцэтгэхэд маш том давуу тал болно.

Үнэ ба Локал орчинд ашиглах ирээдүй

Одоогоор Mistral Studio дээр preview API-ийн үнэ нь 1 сая оролтын токенд $0.68, кэшлэгдсэн оролтод $0.07, 1 сая гаралтын токенд $2.09 байна. Энэ нь 1T параметрийн хүчин чадалтай загварын хувьд зах зээл дээрх хамгийн боломжийн үнийн тарифуудын нэг юм.

Хэдийгээр инференсийн үед 49B параметр идэвхждэг ч 1.05T жин санах ойд бүхэлдээ хадгалагдах шаардлагатай тул end-of-month жингүүд цацагдах үед үүнийг энгийн компьютер дээр шууд ажиллуулах боломжгүй (олон график карт бүхий enterprise сервер шаардагдана). Гэсэн хэдий ч нээлттэй эхийн хамт олон quantized (FP8, 4-bit GGUF) хувилбаруудыг бүтээснээр хувийн дата төвүүдэд бүрэн өөрийн хяналттай байршуулах (self-host) боломж бүрдэнэ.

Mistral Large 4 нь нээлттэй AI экосистем хүчтэй хэвээр байгааг, мөн хаалттай аварга платформуудтай эн зэрэгцэхүйц гүйцэтгэлийг код болон кибер аюулгүй байдлын түвшинд үзүүлж чадна гэдгийг тод баталлаа.

Эх сурвалж: Mistral AI - Introducing Mistral Large 4, Simon Willison's Weblog - Introducing Mistral Large 4: Le chonk