2.8 их наяд параметртэй аварга задгай тавигдлаа: Moonshot AI "Kimi K3.1 Pro"-ийн жинг нээлттэй болгов
Moonshot AI өөрсдийн хамгийн хүчирхэг, 1 сая токены контекст бүхий 2.8T параметртэй Kimi K3.1 Pro моделийн жинг Hugging Face дээр нээлттэй нийтэллээ. Нийт 1.56 терабайт хэмжээтэй энэхүү MoE загвар ямар архитектурын хувьсгал авчирсан бэ?