Blog

LLM-ийн бодит хурдыг хэмжих цаг ирлээ: NVIDIA "GenAI-Perf"-ийг халж, шинэ "AIPerf" фрэймворкоо цацлаа

Өндөр ачааллын үед бенчмарк хийж буй клайент өөрөө гацаж, хуурамч латенси үүсгэдэг байсан асуудлыг шийдэхээр NVIDIA олон процесст шинэ "AIPerf" хэрэгслээ нээлттэй эхээр зарлалаа.

TOGTOKH2026 оны есдүгээр сарын 20