Нээлттэй жингийн шинэ аварга: Moonshot AI 2.8 триллион параметртэй Kimi K3.1 Pro моделио танилцууллаа

Дэлхийн AI салбарын анхаарал хаалттай (proprietary) фронтиер моделиудын шинэ хувилбарууд дээр төвлөрөөд байсан цаг үед Moonshot AI гэнэтийн томоохон тэсрэлт хийлээ. Тус компани өөрсдийн дараагийн үеийн тэргүүлэх reasoning модел болох Kimi K3.1 Pro болон түүний хурдасгасан хувилбар Kimi K3.1 Pro Highspeed-ийг албан ёсоор зарлав.

Энэхүү зарлал нь Hacker News болон хөгжүүлэгчдийн нийгэмлэгийг шуугиулж байгаагийн гол шалтгаан нь ердөө шинэ загвар гарсанд биш, харин ирэх 11-р сарын 4 гэхэд бүрэн жингүүдийг нь (open weights) нийтэд нээлттэй татаж авахаар байршуулна гэж мэдэгдсэнд оршиж байна. Хэрэв энэ амлалт биеллээ олбол, бид анх удаа хаалттай хамгийн хүчирхэг моделүүдтэй бодитоор өрсөлдөх чадвартай олон нийтийн нээлттэй жин бүхий системийг гартаа авах юм.

2.8 триллион параметр ба 1 сая токений контекст

Техникийн архитектурын хувьд Kimi K3.1 Pro нь өмнөх K3 суурь модел дээр үндэслэсэн бөгөөд асар их хэмжээний post-training тооцоолол хийж сайжруулсан хувилбар юм.

• Архитектур: Нийт 2.8 триллион (2.8T) параметр бүхий Mixture-of-Experts (MoE) бүтэцтэй ба token тутамд 104 тэрбум (104B) параметр идэвхждэг. Энэ нь моделийг маш өргөн мэдлэгийн сантай байлгахын зэрэгцээ инференс ажиллуулах үед хэт их ресурсын дарамт үүсгэхгүй байх боломжийг олгодог.
• Контекст цонх: Бүхэл бүтэн 1,048,576 токен (1M tokens). Бүхэл бүтэн төслийн код, том хэмжээний баримт бичгүүд эсвэл олон цагийн ажлын логуудыг шууд контекстдээ багтаах бүрэн боломжтой.
• Multimodal Reasoning: Зөвхөн текст төдийгүй зураг, видео дээр шууд дүгнэлт хийж, логик шат дамжлага (chain of thought)-аар бодох тусгай thinking горимтой. Хүсэлт явуулах үед бодох гүнийг reasoning_effort тохируулгаар (low, high, max) удирдах боломжтой.

Терминал дээр хийсэн бенчмаркийн үсрэлт

AI моделүүдийн код бичих чадварыг зөвхөн цэвэр синтакс үүсгэхээр нь биш, бодит shell дээр багц суулгах, тест ажиллуулах, алдааг олж засах зэрэг агентийн цогц үйлдлээр нь шалгадаг Terminal-Bench 4.0 стандарт дээр Kimi K3.1 Pro онцгой үр дүн үзүүллээ.

Хараат бус үнэлгээний байгууллага болох Artificial Analysis-ийн хэмжилтээр тус модел 67%-ийн амжилт үзүүлсэн нь одоогоор туршигдсан моделүүдийн хамгийн өндөр үзүүлэлт болоод байна. Moonshot AI-ийн албан ёсны тайланд Kimi K3.1 Pro 65.7% оноо авсан бөгөөд энэ нь GPT-6 Astra-ийн 58.2%-ийг хол хаяж, хаалттай зах зээлийн жишиг болох Claude Opus 5.5-ийн 66.4%-тай шууд эн тэнцүү түвшинд очжээ.

Мөн ерөнхий оюун ухааны Artificial Analysis Intelligence Index дээр 55.1 оноо авснаар дэлхийн нийт моделүүдийн дунд Claude Opus 5.5, Claude Sonnet 5.5-ийн яг ард буюу 4-р байранд бичигдэв. Түүнчлэн дотоод стресс-тестийн дүнгээр хий үзэгдэл буюу худал мэдээлэл зохиох (hallucination) түвшин 23.4%-аас 8.3% болж буурсан нь код хөгжүүлэлтийн агент хувилбарт маш чухал ахиц юм.

Программистуудад юу авчрах вэ?

Хөгжүүлэгчдийн хувьд энэхүү хувилбар хэд хэдэн том давуу талыг авчирч байна:

1. Kimi Code агент ба хөгжүүлэлтийн экосистем: CLI терминал, VS Code өргөтгөл болон бие даасан Desktop аппликейшн хэлбэрээр ажиллана. Модел нь олон файлын бүтцийг нэгэн зэрэг шинжлэх, том хэмжээний refactor хийх чадвараараа маш сайн оновчлогджээ.
2. 3D болон тоглоом хөгжүүлэлтийн орон зайн ойлголт: Moonshot AI нь зөвхөн энгийн вэб код биш, Three.js, Blender, Unreal Engine, Unity болон Godot хөдөлгүүрүүдэд зориулсан 3D график үүсгэх, код суурьтай процедурал контент бүтээх тусгай өгөгдлөөр загварыг сургасан байна.
3. OpenAI-Compatible API: Одоо ашиглаж буй SDK болон агент фрэймворкууддаа (LangChain, LlamaIndex, LiteLLM г.м.) base URL-ийг өөрчлөхөд л шууд ажиллана. Тооцооллын өртөг нь ч анхаарал татахуйц хямд: 1 сая оролтын токенд ердөө $2.00 (кэш хийгдсэн токенд $0.20), гаралтад $10.00 байгаа нь өмнөх загвараасаа 33% хямдарсан дүн юм.
4. K3.1 Pro Highspeed: Интерактив CLI агент эсвэл код засварлаж буй үед хүлээх хугацааг багасгах зорилгоор 2-3 дахин өндөр хурдтай (throughput) Highspeed хувилбарыг давхар санал болгож байна.

Дүгнэлт: Орон нутгийн болон хувийн дэд бүтцэд шинэ боломж

Хэрэв та компанидаа өгөгдлийн нууцлал (data privacy) болон аюулгүй байдлын шалтгаанаар кодыг гадаад үүлэн сервер рүү дамжуулахгүй байх шаардлагатай бол, 11-р сарын 4-нд гарах бүрэн жингүүдийг анхааралтай ажиглах хэрэгтэй. Хэдийгээр 2.8T MoE моделийг ажиллуулахад тодорхой хэмжээний сервер кластер шаардагдах ч, quantized хувилбарууд (GGUF, AWQ, FP8) гарснаар enterprise түвшний байгууллагууд өөрийн дотоод дата төв дээрээ дэлхийн шилдэг моделтэй дүйцэхүйц кодчиллын агентыг ажиллуулах боломж үүсэх юм.

Одоогоор хөгжүүлэгчид Kimi-ийн албан ёсны API болон Kimi Code-оор дамжуулан энэхүү моделийг туршиж, өөрсдийн кодын сан дээр үр дүнг нь шалгаж эхлэх бүрэн боломжтой байна.

---

Эх сурвалж: Moonshot AI Kimi K3.1 Pro Tech Blog & Documentation, Artificial Analysis, Simon Willison's Weblog.