BlogНээлттэй эхийн Strata төсөл 125 тэрбум параметртэй Qwen 3.8 Flash Next моделийг энгийн хэрэглэгчийн RTX 4090 карт дээр секундийн 100 токен хурдтай ажиллуулах шинэ архитектурыг танилцуулж, Local AI ертөнцөд шуугиан тарилаа.
TOGTOKH2026 оны аравдугаар сарын 4
BlogЕвропын хиймэл оюуны тэргүүлэгч Aleph Alpha 78.1B нийт параметртэй, Apache 2.0 лицензтэй "Kolibri" моделио нээлттэй цацлаа. Токен тутамд ердөө 3.46B параметр ашигладаг энэхүү модель нь 1 сая токен контекст дэмжихээс гадна баримт хангалтгүй үед шууд "мэдэхгүй" гэж хүлээн зөвшөөрдөг онцлогтой.
TOGTOKH2026 оны аравдугаар сарын 3
BlogAI агентуудын гол саад болсон өндөр latency болон токен үрэлтийг шийдэх зорилгоор Cloudflare текст биш шууд бүтцийн шийдвэр гаргадаг Apache 2.0 лицензтэй "Clef" болон "Clef-flash" моделиудаа танилцууллаа.
TOGTOKH2026 оны аравдугаар сарын 3
BlogНүсэр LLM-үүдийг энгийн ангилал, чиглүүлэлтэд ашиглаж үнэтэй токен, өндөр latency үүсгэдэг үе өнгөрч байна. Нэг forward pass-аар шууд typed утга ба магадлал буцаадаг нээлттэй эх бүхий "Kev" decision загвар хөгжүүлэгчдийн анхаарлыг татаж эхэллээ.
TOGTOKH2026 оны есдүгээр сарын 21
BlogPrismML стартап 27 тэрбум параметртэй Qwen3.8 моделийг Ternary (1.58-бит) шахалтаар 9 дахин жижигрүүлж, бүрэн нарийвчлалтай FP16 хувилбарынх нь чадварын 98.2%-ийг хадгалсан Bonsai 2 27B моделийг танилцууллаа. Одоо 27B хэмжээний сэтгэх чадвартай AI-г ердөө 5.9GB RAM ашиглан орон нутгийн (local) төхөөрөмж дээрээ секундийн 47 токен хурдтай ажиллуулах боломжтой боллоо.
TOGTOKH2026 оны есдүгээр сарын 18
BlogКембрижийн их сургуулийн судлаачид хэрэглэгчийн өгөгдлийг контекст цонхонд чихэхийн оронд шууд нейрон сүлжээний жин (weights) болгон хувиргадаг Hypernetwork бүхий "Infinite-Parameter LLM" архитектурыг танилцууллаа.
TOGTOKH2026 оны есдүгээр сарын 17
BlogChatGPT болон RLHF-ийг хамтран бүтээгч Диого Альмейда текст үүсгэхээс бүрэн татгалзаж, программ хангамжид шууд салбарлах шийдвэр гаргадаг "Jev" моделио зарлалаа. Single forward pass-аар ажилладаг энэхүү System One архитектур нь уламжлалт LLM-үүдээс 200 дахин хурдан бөгөөд output token нь огт төлбөргүй юм.
TOGTOKH2026 оны есдүгээр сарын 17
BlogИнженер Рохан Бансал 4 тэрбум параметртэй авсаархан Qwen моделийг бататгах сургалтаар (RL) дасгалжуулж, PostgreSQL-ийн уламжлалт Query Planner-аас 81% хүртэл хурдан ажиллах төлөвлөгөө боловсруулдаг шийдлийг амжилттай туршлаа.
TOGTOKH2026 оны есдүгээр сарын 16
BlogOpenAI-ийн RLHF болон ChatGPT-ийн судалгааг хамтран удирдаж байсан Диого Алмейда "TypeSafe AI" төслөө танилцуулж, текст үүсгэх бус программд шууд зориулсан 100ms-ийн хурдтай, гаралтын токен нь үнэгүй "Jev" моделийг гаргалаа.
TOGTOKH2026 оны есдүгээр сарын 15