Blog

LLM дэд бүтцийн санах ойн цоорхой: Cloudflare-ийн KV Cache алдаагаар өөр хэрэглэгчийн дата задарчээBlog
Мэдээ

LLM дэд бүтцийн санах ойн цоорхой: Cloudflare-ийн KV Cache алдаагаар өөр хэрэглэгчийн дата задарчээ

Cloudflare компани Workers AI платформ дээрх санах ойн тусгаарлалтын ноцтой цоорхойг дэлгэлээ. Тохиргооны зөрүү болон SGLang хөдөлгүүрийн алдаанаас үүдэж, нэг хэрэглэгчийн асуулгад огт танихгүй өөр хэрэглэгчийн prompt, код нууцаар холилдон гарч байжээ.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 27
GPU-ийн ашиглалтгүй сул зогсолтыг зогсооно: NVIDIA алдарт Run:ai платформоо бүрэн нээлттэй эх (Open Source) болголооBlog
Мэдээ

GPU-ийн ашиглалтгүй сул зогсолтыг зогсооно: NVIDIA алдарт Run:ai платформоо бүрэн нээлттэй эх (Open Source) болголоо

AI кластеруудын хамгийн том шүдний өвчин болсон GPU-ийн үр ашиггүй хуваарилалт, салангид сул зогсолтыг шийдэхээр NVIDIA өөрсдийн Run:ai платформыг Kubernetes экосистемд бүрэн нээлттэй эх болгон зарлалаа.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 16
Өнэтэй AI кластеруудыг чөлөөллөө: NVIDIA "Run:ai" платформоо бүрэн нээлттэй эх (Open Source) болголооBlog
Мэдээ

Өнэтэй AI кластеруудыг чөлөөллөө: NVIDIA "Run:ai" платформоо бүрэн нээлттэй эх (Open Source) болголоо

NVIDIA олон зуун сая ам.доллароор худалдан авч байсан Kubernetes дээрх GPU хуваарилалт, виртуализацийн тэргүүлэх шийдэл болох "Run:ai" платформыг Apache 2.0 лицензтэйгээр бүрэн нээлттэй эх болгон зарлалаа.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 14
LLM-ийн бодит хурдыг хэмжих цаг ирлээ: NVIDIA "GenAI-Perf"-ийг халж, шинэ "AIPerf" фрэймворкоо цацлааBlog
Мэдээ

LLM-ийн бодит хурдыг хэмжих цаг ирлээ: NVIDIA "GenAI-Perf"-ийг халж, шинэ "AIPerf" фрэймворкоо цацлаа

Өндөр ачааллын үед бенчмарк хийж буй клайент өөрөө гацаж, хуурамч латенси үүсгэдэг байсан асуудлыг шийдэхээр NVIDIA олон процесст шинэ "AIPerf" хэрэгслээ нээлттэй эхээр зарлалаа.

TOGTOKHTOGTOKH2026 оны есдүгээр сарын 20
Kubeflow төсөл CNCF-ийн "Graduated" зэрэглэлд хүрлээ: Үүлэн орчны AI дэд бүтцийн албан ёсны стандарт тогтовBlog
Мэдээ

Kubeflow төсөл CNCF-ийн "Graduated" зэрэглэлд хүрлээ: Үүлэн орчны AI дэд бүтцийн албан ёсны стандарт тогтов

Cloud Native Computing Foundation (CNCF) Kubeflow төслийг албан ёсоор "Graduated" зэрэглэлд шилжүүлснээ зарлалаа. Энэ нь Kubernetes дээр AI/ML ажлын урсгалыг бүрэн удирдах нээлттэй экосистем продакшн түвшинд бүрэн боловсорч, салбарын стандарт болсны баталгаа юм.

TOGTOKHTOGTOKH2026 оны наймдугаар сарын 19