Nvidia-ийн CUDA монопол ганхах уу: DeepSeek ба Huawei нээлттэй эхийн TileLang, DeepGEMM, DeepEP стекийг цацлаа

Хиймэл оюуны салбарт Nvidia-ийн өрсөлдөгчдөөсөө тасарсан хамгийн том нууц юу вэ? Олон хүн үүнийг ердөө H100 эсвэл Blackwell зэрэг хүчирхэг техник хангамж (silicon) гэж боддог. Гэвч бодит байдал дээр Nvidia-ийн жинхэнэ "хамгаалалтын цайз" бол сүүлийн 20 жилийн турш хөгжүүлсэн CUDA програмчлалын платформ, түүнийг тойрсон програм хангамжийн асар том экосистем юм.

AMD эсвэл Huawei хэчнээн өндөр хүчин чадалтай тооцоолох чип үйлдвэрлэсэн ч AI инженерүүд PyTorch, custom kernel, distributed training-ийн түвшинд CUDA-аас татгалзаж чаддаггүй байв.

Харин энэ саад бартааг нураах хамгийн том бодит алхмыг Хятадын алдарт AI стартап DeepSeek болон технологийн аварга Huawei нар хамтран хийлээ. Тэд Huawei-ийн Ascend AI процессоруудад (ялангуяа хамгийн сүүлийн үеийн Ascend 950) зориулсан нээлттэй эхийн програмчлалын хэрэгслүүд болон тооцоолол, харилцааны (communication) санг бүрэн эхээр нь GitHub дээр нээлээ.

Асуудал: Техник хангамж байвч програм хангамж байхгүй

AI модел сургах болон inference хийхэд ердийн компилятор хангалтгүй байдаг. Матриц үржүүлэлт (GEMM), FlashAttention, LayerNorm зэрэг гол үйлдлүүдийг чип бүрийн архитектурт тусгайлан тохируулж, бага түвшний (low-level) assembly болон intrinsic кодоор оновчлох шаардлагатай болдог.

Nvidia-ийн хувьд эдгээр нь олон жилийн турш CUTLASS, cuBLAS, TensorRT зэргээр бэлэн хангагдсан тул хөгжүүлэгчид шууд л дээд түвшний Python кодоо бичдэг. Харин Huawei Ascend зэрэг өөр архитектурт шилжихэд PyTorch-ийн олон үйлдлүүд удаан ажиллах, эсвэл Ascend C хэл дээр гараар шинээр бичих хүндрэл гардаг байв.

DeepSeek энэ асуудлыг шийдэхийн тулд Nvidia GPU дээр ашиглаж байсан өөрийн дотоод стекээ Ascend чиптэй 1:1 харьцаатай нийцүүлэн нээлттэй болгожээ.

TileLang: CUDA-ийн эсрэг бие даасан програмчлалын хэл

Энэхүү багцын төв цөм нь TileLang хэмээх AI акселераторуудад зориулсан тусгай Domain-Specific Language (DSL) юм.

TileLang нь Apache TVM болон MLIR дэд бүтцэд суурилсан, Python төстэй хялбар синтекс бүхий хэл юм. Хөгжүүлэгчид тооцооллыг "tile" буюу өгөгдлийн хэсгүүдээр нь логик байдлаар дүрсэлж бичихэд, хэлний компилятор нь тухайн чипийн онцлогт нийцүүлэн техник хангамжийн түвшний pipeline (T.Pipelined), санах ойн дахин ашиглалт, векторжуулалтыг автоматаар оновчлон компиляци хийдэг.

Хамгийн сонирхолтой нь, TileLang нь одоо хос backend-тэй ажилладаг:

1. Nvidia CUDA backend: SM90 (Hopper), SM100 (Blackwell) архитектурт зориулсан код үүсгэнэ.
2. Huawei Ascend backend: Ascend 950 болон A2/A3 чипүүдэд зориулж Ascend C / PTO болон AscendNPU IR замаар шууд эх код үүсгэж ажиллана.

Энэ нь хөгжүүлэгчид Nvidia-д зориулж бичсэн кодоо үндсээр нь өөрчлөхгүйгээр Huawei-ийн чип дээр ажиллуулах үүдийг нээж байгаа юм.

DeepGEMM ба DeepEP: MoE загваруудын хурдны нууц

DeepSeek нь Mixture-of-Experts (MoE) архитектураараа дэлхийд алдартай. MoE моделиудыг кластер даяар ажиллуулахад хоёр том гацаа үүсдэг: нэг чип дээрх матриц тооцоолол болон чип хоорондын асар хурдтай дата шилжүүлэг. Үүнийг шийдэх зорилгоор дараах хоёр гол санг танилцуулжээ:

• DeepGEMM-Ascend: Бүрэн нээлттэй матриц үржүүлэлтийн сан бөгөөд BF16-аас гадна орчин үеийн FP8, FP4 хэлбэршлийг дэмжинэ. Тестийн үр дүнгээр тус сан нь Ascend чипийн онолын дээд хурдны 99.8%-д дөхсөн гүйцэтгэл үзүүлж байгааг баталжээ.
• DeepEP-Ascend (Expert Parallelism): MoE-ийн бүх экспертүүд рүү өгөгдлийг чиглүүлэх (All-to-All communication) зориулалттай тусгай сүлжээний сан. DeepSeek ба Huawei хамтран 128 ширхэг Ascend 950 чипээс бүрдсэн "supernode" систем дээр туршихад FP8 dispatch дамжуулалтын хурд нь 375 GB/s хүрч, чипийн физик холболтын дээд хязгаарт хүрсэн байна.
• TileKernels ба FlashMLA: Python-ийн түвшинд torch.autograd болон PyTorch-той шууд уялдах Flash Attention, Sparse Attention, MoE Routing-ийн сангууд нэгэн зэрэг багтсан байна.

Хөгжүүлэгчид өөрсдийн PyTorch сургалтын кодонд TileKernels-ийг дуудахад тухайн систем дээр Nvidia GPU байна уу, Ascend NPU байна уу гэдгээс хамаарч runtime түвшинд зөв кернелийг автоматаар сонгон ажиллуулдаг болжээ.

AI инженерингэд ямар нөлөө үзүүлэх вэ?

Өнөөг хүртэл зах зээл дээр хиймэл оюуны моделийг сургах гэдэг нь бараг "Nvidia-ийн кластер худалдаж авч, CUDA дээр суух"-ыг хэлдэг байв. Харин OpenAI-ийн Triton болон DeepSeek-ийн TileLang зэрэг төслүүд нь энэхүү холбоосыг салгаж байна.

1. Вендорын хараат бус байдал: Дээд түвшний DSL (Domain-Specific Language) ашигласнаар компиляторууд чипийн нарийн төвөгтэй байдлыг далдлах боломжтой болж байна. Хөгжүүлэгчид бүтээсэн модель, логикоо хэвээр үлдээн өөр архитектур руу шилжих зам нээгдлээ.
2. Техник хангамжийн эрүүл өрсөлдөөн: Хэрэв альтернатив чипүүд CUDA-тай дүйцэхүйц програм хангамжийн дэмжлэгтэй болж чадвал үүлэн тооцоолол (cloud compute)-ийн үнэ буурч, хөгжүүлэгчдэд сонголт бий болно.

DeepSeek болон Huawei-ийн энэхүү хамтын ажиллагаа нь хиймэл оюуны дайн зөвхөн фабрик болон цахиурын түвшинд бус, харин компилятор ба кернелийн кодын түвшинд шийдэгдэж байгааг тод харууллаа.

---

Эх сурвалж: Reuters, Tom's Hardware, DeepSeek GitHub Репозитори (tile-ai/tilelang, deepseek-ai/TileKernels)