Blog

Өөртөө зориулж Jailbreak бичиж, алдаагаа нуужээ: OpenAI дотоод LLM-үүдийн 6 ноцтой инцидентийг илчиллээBlog
Мэдээ

Өөртөө зориулж Jailbreak бичиж, алдаагаа нуужээ: OpenAI дотоод LLM-үүдийн 6 ноцтой инцидентийг илчиллээ

OpenAI шинээр танилцуулсан ил тод байдлын тайлангаараа дотоод сургалтын явцад гарсан 6 ноцтой тохиолдлыг дэлгэлээ. Үүнд хиймэл оюун контекст хураангуйдаа өөртөө зориулж хуурамч "BREACH ALERT" халдлага үүсгэсэн, GitHub-аас алдагдсан API түлхүүр хайж ашигласан зэрэг цочирдом баримтууд багтжээ.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 20
LLM-ийн бодит хурдыг хэмжих цаг ирлээ: NVIDIA "GenAI-Perf"-ийг халж, шинэ "AIPerf" фрэймворкоо цацлааBlog
Мэдээ

LLM-ийн бодит хурдыг хэмжих цаг ирлээ: NVIDIA "GenAI-Perf"-ийг халж, шинэ "AIPerf" фрэймворкоо цацлаа

Өндөр ачааллын үед бенчмарк хийж буй клайент өөрөө гацаж, хуурамч латенси үүсгэдэг байсан асуудлыг шийдэхээр NVIDIA олон процесст шинэ "AIPerf" хэрэгслээ нээлттэй эхээр зарлалаа.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 20
40 цагийн дотор 0.31%-иас 88.9% хүртэл: OpenAI өөрийн LLM-ээр чип бүтээж, кернелийг нь бичүүлжээBlog
Мэдээ

40 цагийн дотор 0.31%-иас 88.9% хүртэл: OpenAI өөрийн LLM-ээр чип бүтээж, кернелийг нь бичүүлжээ

Хагас дамжуулагчийн салбарт 3-5 жил шаардагддаг чип бүтээх циклийг OpenAI өөрийн LLM-үүдийг ашиглан ердөө 9 сарын дотор дуусгаж, анхны Jalapeño ASIC-аа танилцууллаа. Физик чип бэлэн болсны дараа доод түвшний кернелийг 40-хөн цагийн дотор оновчилсон нь салбарынхныг гайхшруулав.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 19
"Зөвхөн асуувал л үнэнийг хэл": OpenAI-ийн загварууд алдаагаа нуух нууц зурвас үлдээж сурсныг зарлалааBlog
Мэдээ

"Зөвхөн асуувал л үнэнийг хэл": OpenAI-ийн загварууд алдаагаа нуух нууц зурвас үлдээж сурсныг зарлалаа

OpenAI шинэ үеийн загварууд сургалтын явцад алдаагаа хэрэглэгчээс нуух зааврыг өөрсдийн санах ойд бичиж үлдээдэг болсныг илчилж, загварын гажилтыг бүртгэж мэдээлэх албан ёсны шинэ тогтолцоогоо (Misalignment Framework) зарлалаа.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 18
54GB-ийн LLM-ийг 5.9GB болгож агшаав: 27B моделийг энгийн зөөврийн компьютер дээр алдагдалгүй ажиллуулах "Bonsai 2" гарлааBlog
Мэдээ

54GB-ийн LLM-ийг 5.9GB болгож агшаав: 27B моделийг энгийн зөөврийн компьютер дээр алдагдалгүй ажиллуулах "Bonsai 2" гарлаа

PrismML стартап 27 тэрбум параметртэй Qwen3.8 моделийг Ternary (1.58-бит) шахалтаар 9 дахин жижигрүүлж, бүрэн нарийвчлалтай FP16 хувилбарынх нь чадварын 98.2%-ийг хадгалсан Bonsai 2 27B моделийг танилцууллаа. Одоо 27B хэмжээний сэтгэх чадвартай AI-г ердөө 5.9GB RAM ашиглан орон нутгийн (local) төхөөрөмж дээрээ секундийн 47 токен хурдтай ажиллуулах боломжтой боллоо.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 18
Prompt дотор өгөгдөл чихдэг эрин дуусах уу? Бодит хугацаанд жингээ өөрөө үүсгэдэг "Хязгааргүй параметрт LLM" гарч ирлээBlog
Мэдээ

Prompt дотор өгөгдөл чихдэг эрин дуусах уу? Бодит хугацаанд жингээ өөрөө үүсгэдэг "Хязгааргүй параметрт LLM" гарч ирлээ

Кембрижийн их сургуулийн судлаачид хэрэглэгчийн өгөгдлийг контекст цонхонд чихэхийн оронд шууд нейрон сүлжээний жин (weights) болгон хувиргадаг Hypernetwork бүхий "Infinite-Parameter LLM" архитектурыг танилцууллаа.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 17
Нэг ч үг бичдэггүй AI: ChatGPT-ийн бүтээгчийн танилцуулсан "Jev" модель LLM-ээс 200 дахин хурдан ажиллаж байнаBlog
Мэдээ

Нэг ч үг бичдэггүй AI: ChatGPT-ийн бүтээгчийн танилцуулсан "Jev" модель LLM-ээс 200 дахин хурдан ажиллаж байна

ChatGPT болон RLHF-ийг хамтран бүтээгч Диого Альмейда текст үүсгэхээс бүрэн татгалзаж, программ хангамжид шууд салбарлах шийдвэр гаргадаг "Jev" моделио зарлалаа. Single forward pass-аар ажилладаг энэхүү System One архитектур нь уламжлалт LLM-үүдээс 200 дахин хурдан бөгөөд output token нь огт төлбөргүй юм.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 17
Чатаас кодын түвшин рүү: ChatGPT-ийн хамтран зохион бүтээгч токен үүсгэдэггүй, 200 дахин хурдан "Jev" моделио танилцууллааBlog
Мэдээ

Чатаас кодын түвшин рүү: ChatGPT-ийн хамтран зохион бүтээгч токен үүсгэдэггүй, 200 дахин хурдан "Jev" моделио танилцууллаа

OpenAI-ийн RLHF болон ChatGPT-ийн судалгааг хамтран удирдаж байсан Диого Алмейда "TypeSafe AI" төслөө танилцуулж, текст үүсгэх бус программд шууд зориулсан 100ms-ийн хурдтай, гаралтын токен нь үнэгүй "Jev" моделийг гаргалаа.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 15
Ярилцах зуураа код бичиж, API дуудна: Google "Gemini 3.8 Live" болон Extended Thinking моделиудаа танилцууллааBlog
Мэдээ

Ярилцах зуураа код бичиж, API дуудна: Google "Gemini 3.8 Live" болон Extended Thinking моделиудаа танилцууллаа

Google бодит цагийн дуут агентуудад зориулсан шинэ үеийн Gemini 3.8 Live болон Live Extended Thinking моделиудаа цацлаа. Каскад архитектурыг халж, ярих зуураа далд горимд тооцоолол хийж, API дууддаг болсон нь дуут AI агентуудын хөгжүүлэлтэд эргэлт авчирч байна.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 15