Blog

LLM дэд бүтцийн санах ойн цоорхой: Cloudflare-ийн KV Cache алдаагаар өөр хэрэглэгчийн дата задарчээBlog
Мэдээ

LLM дэд бүтцийн санах ойн цоорхой: Cloudflare-ийн KV Cache алдаагаар өөр хэрэглэгчийн дата задарчээ

Cloudflare компани Workers AI платформ дээрх санах ойн тусгаарлалтын ноцтой цоорхойг дэлгэлээ. Тохиргооны зөрүү болон SGLang хөдөлгүүрийн алдаанаас үүдэж, нэг хэрэглэгчийн асуулгад огт танихгүй өөр хэрэглэгчийн prompt, код нууцаар холилдон гарч байжээ.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 27
Текст үүсгэхээ боль, шууд шийдвэр гарга: Cloudflare 38ms хурдтай "Clef" шийдвэр гаргагч моделио нээлттэй цацлааBlog
Мэдээ

Текст үүсгэхээ боль, шууд шийдвэр гарга: Cloudflare 38ms хурдтай "Clef" шийдвэр гаргагч моделио нээлттэй цацлаа

AI агентуудын гол саад болсон өндөр latency болон токен үрэлтийг шийдэх зорилгоор Cloudflare текст биш шууд бүтцийн шийдвэр гаргадаг Apache 2.0 лицензтэй "Clef" болон "Clef-flash" моделиудаа танилцууллаа.

TOGTOKHTOGTOKH2026 оны аравдугаар сарын 3