Европын нээлттэй хариу цохилт: Mistral AI 1 их наяд параметртэй "Le Chonk" (Mistral Large 4) загвараа дэлгэлээ

Хиймэл оюун ухааны салбарт OpenAI, Anthropic тэргүүтэй хаалттай экосистемүүд ноёрхлоо тогтоох гэж буй энэ үед Европын хамгийн хүчирхэг AI лаборатори болох Францын Mistral AI томоохон тэсрэлт хийлээ. Тэд өөрсдийн хамгийн сүүлийн үеийн тэргүүлэх модель болох Mistral Large 4 (ML4)-ийг албан ёсоор нийтэд зарласан бөгөөд дотооддоо үүнийг "Le Chonk" хэмээн хочилж байна.

Энэхүү загвар нь нийт 1 их наяд (1.05 trillion) параметртэй бөгөөд сарын сүүлээр моделийн жинг (weights) нээлттэйгээр дэлгэхээр төлөвлөжээ. Энэ нь нээлттэй жинтэй (open-weight) загваруудын дунд барууны орнуудаас төрсөн анхны их наядын босго давсан аварга загвар болж байна.

1 их наяд параметр ба MoE бүтэц: "Le Chonk" хэрхэн ажилладаг вэ?

Mistral Large 4 нь цул (dense) загвар биш харин Mixture-of-Experts (MoE) архитектуртай.

Нийт параметр: ~1.05 их наяд
Идэвхтэй параметр (Active parameters per token): Ердөө 49–52 тэрбум
Контекст цонх: 1 сая хүртэлх токен (1M tokens)
Мультимодал чадвар: Текст болон зургийг нэгэн зэрэг гүн түвшинд ойлгож, боловсруулна (Native Multimodal).

Энэхүү MoE архитектурын ачаар тооцооллын асар их багтаамжийг хэмнэж чаджээ. Өөрөөр хэлбэл, хэрэглэгчийн токен бүрийг боловсруулахад зөвхөн шаардлагатай дэд сүлжээнүүд (experts) ажилладаг тул инференсийн хурд өндөр, зардал харьцангуй хямд хэвээр үлдсэн байна. Mistral Studio дээрх албан ёсны API үнэ нь 1 сая оролтын токен тутамд ердөө $1.36 байхаар тогтоогджээ.

Grace Blackwell дээр сургасан "AI Sovereignty"

АНУ-ын аварга корпорацуудын үүлэн дэд бүтцээс хамааралгүйгээр бүтээгдсэн нь ML4-ийн хамгийн том давуу талуудын нэг юм. Mistral AI уг загварыг Европ тивд байрлах өөрсдийн дата төвд 3,800 ширхэг NVIDIA Grace Blackwell GPU кластер дээр эхнээс нь (from scratch) сургаснаа онцолсон байна.

Энэ нь өгөгдлийн бүрэн эрхт байдал (data sovereignty) болон Европын холбооны хатуу зохицуулалтад нийцсэн өөрийн дэд бүтэц дээр бүрэн хяналттай ажиллах хүсэлтэй энтерпрайз компаниудад хамгийн чухал сонголт болж байна.

Программистуудад зориулсан супер хүч: 82% Bug Fixing ба "Refusal"-гүй кибер шинжилгээ

Хөгжүүлэгчдийн хувьд Mistral Large 4 хоёр том салбарт ер бусын үр дүн харуулж байна:

1. Агентлаг кодинг (Agentic Coding)

ML4 нь DeepSWE болон Terminal-Bench 4.0 зэрэг программ хангамжийн бодит орчны сорилууд дээр өндөр оноо авч, алдаа засах (bug fixing) туршилтуудад 82%-ийн гүйцэтгэл үзүүлжээ. 1 сая токены контекст цонхтой хосолсноор аварга том монолит репозиторыг бүтнээр нь задлан шинжилж, олон файлын хоорондох хамаарлыг алдалгүйгээр рефакторинг хийх чадвартай.

2. Кибер аюулгүй байдал (Cybersecurity & Vulnerability Research)

Одоогийн ихэнх арилжааны LLM-үүд (Claude, ChatGPT гэх мэт) код дахь хамгаалалтын цоорхой, CVE шинжлэх гэх мэт аюулгүй байдлын хууль ёсны судалгааны үед "Би хор хөнөөлтэй үйл ажиллагаанд туслах боломжгүй" хэмээн хэтрүүлэн хориглох (over-refusal) асуудал үүсгэдэг.

Харин Mistral Large 4 нь кибер хамгаалалтын багууд, pentester-ууд болон vulnerability судлаачдад зориулан багасгасан модераци бүхий, мэргэжлийн түвшинд ажиллах боломжийг олгож байгаа бөгөөд кибер бенчмаркуудад Claude Opus-аас ч илүү өндөр үр дүнг үзүүлсэн байна.

Орон нутгийн серверийн эрин үе: Хэзээ, хэрхэн ашиглах вэ?

API Preview: Одоогоор зөвхөн Mistral Studio платформоор дамжуулан урьдчилсан байдлаар API-аар турших боломжтой. Function calling, structured outputs, баримт бичгийн Q&A зэрэг хөгжүүлэгчийн үндсэн боломжуудыг бүрэн дэмжинэ.
Open Weights: Загварын жин буюу жинхэнэ файлуудыг 10-р сарын сүүлээр албан ёсоор нийтийн хүртээл болгоно.
Self-Hosting болон Quantization: 1 их наяд параметртэй загварыг бүтнээр нь ажиллуулахад асар их санах ой шаардагдах хэдий ч, 52 тэрбум идэвхтэй параметртэй тул олон нийтийн коммюнити (тухайлбал r/LocalLLaMA) хэдийнэ GGUF, AWQ, EXL2 квантчлалын хувилбаруудыг бүтээж, байгууллагын серверийг хэт ачаалалгүйгээр орон нутагт (on-premise) ажиллуулахад бэлтгэж байна.

Дүгнэлт

Mistral Large 4 "Le Chonk" гарч ирсэн нь хиймэл оюуны зах зээлд маш чухал дохио өглөө. Хамгийн дээд зэрэглэлийн "frontier" загварууд зөвхөн Калифорнийн цөөн хэдэн компанийн хаалттай серверт түгжигдэж үлдэх албагүй. Нээлттэй жинтэй загварууд хаалттай аварга моделиудтай тэнцэхүйц түвшинд хүрч чадна гэдгийг Европ тив Mistral-аар дамжуулан батлан харууллаа.

Хэрэв таны систем кодын нууцлал өндөртэй, санхүүгийн болон эмзэг дэд бүтцийн түвшинд бие даасан AI агент ажиллуулах шаардлагатай бол 10-р сарын сүүлээр цацагдах ML4-ийн жинг татаж аван туршихад яг одооноос дэд бүтцээ бэлтгэх цаг болжээ.

Эх сурвалж: Mistral AI Official Blog ("Introducing Mistral Large 4"), VentureBeat, Dealroom News, Reddit r/LocalLLaMA