BlogНээлттэй эхийн шинэ Llama-modchip төсөл 284 тэрбум параметртэй DeepSeek MoE моделийг ямар ч дискрет GPU ашиглахгүйгээр, ердөө 64GB DDR5 RAM бүхий энгийн CPU компьютер дээр секундэд 14 хүртэлх токений хурдтай ажиллуулж чадсанаа зарлалаа.
TOGTOKH2026 оны арван нэгдүгээр сарын 8
BlogЖэк Дорсигийн Block компани текстийн өгөгдөлгүйгээр, зөвхөн хүний ярианы аудио дээр тэгээс нь сургасан, MacBook Pro дээр бодит цагаар локал ажиллах чадвартай "Dessa" нэртэй full-duplex дуут моделио зарлалаа.
TOGTOKH2026 оны аравдугаар сарын 24
BlogMicrosoft өөрийн үйлдлийн системийн AI inferencing стек болох Windows ML-д нээлттэй эхийн алдарт llama.cpp-г эх түвшинд нэгтгэж, GGUF загваруудыг шууд ажиллуулах боломж олгосноо зарлалаа.
TOGTOKH2026 оны аравдугаар сарын 12
BlogНээлттэй эхийн "Strata" төсөл VRAM, систем RAM болон NVMe санах ойн гурван шатлалт архитектур, параллель CPU тооцооллыг ашиглан 125 тэрбум параметртэй MoE загварыг энгийн хэрэглэгчийн компьютер дээр 100 tokens/sec хурдаар ажиллуулж чадлаа.
TOGTOKH2026 оны аравдугаар сарын 6
BlogНээлттэй эхийн Strata төсөл 125 тэрбум параметртэй Qwen 3.8 Flash Next моделийг энгийн хэрэглэгчийн RTX 4090 карт дээр секундийн 100 токен хурдтай ажиллуулах шинэ архитектурыг танилцуулж, Local AI ертөнцөд шуугиан тарилаа.
TOGTOKH2026 оны аравдугаар сарын 4
BlogPrismML стартап 27 тэрбум параметртэй Qwen3.8 моделийг Ternary (1.58-бит) шахалтаар 9 дахин жижигрүүлж, бүрэн нарийвчлалтай FP16 хувилбарынх нь чадварын 98.2%-ийг хадгалсан Bonsai 2 27B моделийг танилцууллаа. Одоо 27B хэмжээний сэтгэх чадвартай AI-г ердөө 5.9GB RAM ашиглан орон нутгийн (local) төхөөрөмж дээрээ секундийн 47 токен хурдтай ажиллуулах боломжтой боллоо.
TOGTOKH2026 оны есдүгээр сарын 18
BlogMicrosoft компани хөгжүүлэгчдэд зориулсан "Project Zenith" нэртэй шинэ Windows 11 туршлагыг зарлалаа. Уг систем нь ямар ч илүүдэл зүйлгүй, шууд код бичихэд бэлэн орчинтой бөгөөд 30 тэрбум гаруй параметртэй хиймэл оюуны загваруудыг төхөөрөмж дээрээ үнэ төлбөргүй, хязгааргүй ажиллуулах боломжийг олгож байна.
TOGTOKH2026 оны есдүгээр сарын 5
BlogApple анхны 2 нанометрийн M6 болон 512GB нэгдсэн санах ой, 1.2TB/s хурдтай M5 Ultra чипүүдээ танилцуулснаар инженерүүд том оврын LLM-үүдийг клауд GPU түрээслэхгүйгээр өөрийн ширээн дээрээ локал орчинд сургаж, ажиллуулах боломжтой боллоо.
TOGTOKH2026 оны наймдугаар сарын 26
BlogOpenAI нээлттэй эхийн ертөнц рүү томоохон эргэн ирэлт хийж, хөгжүүлэгчид өөрсдийн сервер болон орон нутгийн орчинд чөлөөтэй ажиллуулах боломжтой Apache 2.0 лиценз бүхий "gpt-oss-120b" болон "gpt-oss-20b" reasoning загваруудаа танилцууллаа.
TOGTOKH2026 оны наймдугаар сарын 16