Blog

Гэрлийн хурдаар тооцоолох нь: GPU-ийг орлох "Optical AI" архитектур эрчим хүчийг 90% бууруулнаBlog
Мэдээ

Гэрлийн хурдаар тооцоолох нь: GPU-ийг орлох "Optical AI" архитектур эрчим хүчийг 90% бууруулна

Токиогийн их сургууль болон NTT-ийн судлаачид ердийн хиймэл мэдрэлийн сүлжээг шилэн кабель дахь гэрлийн долгионоор тооцоолдог хувьсгалт "Optical AI" фрэймворкийг Nature сэтгүүлд танилцууллаа.

TOGTOKHTOGTOKH2026 оны арван нэгдүгээр сарын 5
Трейнинг хийлгүйгээр модель засварлах эрин үе: AI нейрон сүлжээний жинг шууд "код мэт" уншиж, засварлаж эхэллээBlog
Мэдээ

Трейнинг хийлгүйгээр модель засварлах эрин үе: AI нейрон сүлжээний жинг шууд "код мэт" уншиж, засварлаж эхэллээ

MIT CSAIL-ийн судлаачид LLM загварууд бусад нейрон сүлжээний түүхий жинг (raw weights) шууд уншиж, backpropagation ашиглалгүйгээр мэс заслын аргаар засварлах "Weight-Space Programming" парадигмыг танилцууллаа.

TOGTOKHTOGTOKH2026 оны арван нэгдүгээр сарын 4
GPU-ийн "санах ойн хана"-ыг нураав: Cerebras 3 триллион параметртэй AI моделийг 59 вафер чипээр секундэд 2000 токен хурдтай ажиллууллааBlog
Мэдээ

GPU-ийн "санах ойн хана"-ыг нураав: Cerebras 3 триллион параметртэй AI моделийг 59 вафер чипээр секундэд 2000 токен хурдтай ажиллууллаа

Cerebras Systems хэдэн мянган GPU шаарддаг 3 триллион параметртэй аварга AI моделиудыг өөрсдийн WSE-3 вафер чипүүд дээр зөвхөн on-chip SRAM ашиглан байршуулж, секундэд 1000–2000+ токен гаргах архитектурын шийдлээ дэлгэлээ.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 25
Backprop-гүйгээр LLM сургах шинэ эрин: Түүхэнд анх удаа буцах тархалтгүй сургалт амжилттай боллооBlog
Мэдээ

Backprop-гүйгээр LLM сургах шинэ эрин: Түүхэнд анх удаа буцах тархалтгүй сургалт амжилттай боллоо

Q Labs-ийн судлаачид deep learning-ийн 40 жилийн тулгуур багана болсон backpropagation алгоритмыг халж, activation perturbation аргаар Transformer загваруудыг зөвхөн forward pass-аар сургах "Dust" аргыг танилцууллаа.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 6
Зураг үүсгэлт ба засварыг 7B-д нэгтгэв: Alibaba тунгалаг дэвсгэртэй "Qwen-Image-2.1"-ийг нээлттэй болголооBlog
Мэдээ

Зураг үүсгэлт ба засварыг 7B-д нэгтгэв: Alibaba тунгалаг дэвсгэртэй "Qwen-Image-2.1"-ийг нээлттэй болголоо

Alibaba-ийн Qwen баг ердөө 7B параметртэй visual generation модуль бүхий Qwen-Image-2.1 загварыг нээлттэй эхээр цацлаа. Энэхүү загвар нь текстээс зураг үүсгэх, олон зургийн контексттэйгээр засварлах үйлдлийг нэгтгэж, хамгийн гол нь жинхэнэ тунгалаг (RGBA) дэвсгэртэй зургийг post-processing-гүйгээр шууд гаргах чадвартай болжээ.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 21
Prompt дотор өгөгдөл чихдэг эрин дуусах уу? Бодит хугацаанд жингээ өөрөө үүсгэдэг "Хязгааргүй параметрт LLM" гарч ирлээBlog
Мэдээ

Prompt дотор өгөгдөл чихдэг эрин дуусах уу? Бодит хугацаанд жингээ өөрөө үүсгэдэг "Хязгааргүй параметрт LLM" гарч ирлээ

Кембрижийн их сургуулийн судлаачид хэрэглэгчийн өгөгдлийг контекст цонхонд чихэхийн оронд шууд нейрон сүлжээний жин (weights) болгон хувиргадаг Hypernetwork бүхий "Infinite-Parameter LLM" архитектурыг танилцууллаа.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 17
Qwen4 архитектурын урьдчилсан загвар гарлаа: GDN + Sparse Attention эрлийз бүтэц ба 1 сая токений шинэ эринBlog
Мэдээ

Qwen4 архитектурын урьдчилсан загвар гарлаа: GDN + Sparse Attention эрлийз бүтэц ба 1 сая токений шинэ эрин

Alibaba Cloud ирээдүйн Qwen4 суурь архитектурыг урьдчилан танилцуулсан Qwen3.8-Flash-Next нээлттэй загварыг цацлаа. Энэхүү шинэ архитектур нь Gated DeltaNet, Micro-Block Sparse Attention болон N-gram Embedding-ээр дамжуулан 1 сая токен контекстийн санах ойн ачааллыг 7 дахин хурдасгаж, өртгийг эрс бууруулж байна.

TOGTOKHTOGTOKH2026 оны наймдугаар сарын 29