Мэдээ
TOGTOKH2026 оны есдүгээр сарын 20
LLM-ийн бодит хурдыг хэмжих цаг ирлээ: NVIDIA "GenAI-Perf"-ийг халж, шинэ "AIPerf" фрэймворкоо цацлаа
Өндөр ачааллын үед бенчмарк хийж буй клайент өөрөө гацаж, хуурамч латенси үүсгэдэг байсан асуудлыг шийдэхээр NVIDIA олон процесст шинэ "AIPerf" хэрэгслээ нээлттэй эхээр зарлалаа.