Гэрлийн хурдаар тооцоолох нь: GPU-ийг орлох "Optical AI" архитектур эрчим хүчийг 90% бууруулна
Сүүлийн жилүүдэд хиймэл оюун ухааны салбарт нэгэн том саад тулгараад буй нь загваруудын хэмжээ бус, харин тэдгээрийг ажиллуулахад шаардагдах эрчим хүчний асар их хэрэглээ болон уламжлалт цахиур чипийн (GPU/TPU) физик хязгаар юм. Дата төвүүдийн цахилгааны ачаалал дээд цэгтээ хүрч, хөргөлтийн зардал тэнгэрт хадаж буй энэ үед эрдэмтэд олон арван жилийн турш лабораторийн түвшинд яригдсан "гэрлийн тооцоолол" буюу Photonic/Optical Computing-ийг бодит хэрэглээнд авчрах том алхмыг хийлээ.
Токиогийн их сургуулийн Оюунлаг систем, информатикийн лаборатори болон Японы харилцаа холбооны аварга NTT компанийн судалгааны баг хамтран физикт суурилсан шинэ үеийн гүн сургалтын (Physical Deep Learning) цоо шинэ архитектурыг хөгжүүлснээ Nature Computational Science сэтгүүлд албан ёсоор нийтлүүллээ. Энэхүү фрэймворк нь орчин үеийн neural network загваруудыг электрон биш, гэрлийн физик шинж чанараар боловсруулах боломж олгож байна.
GPU-ийн хана ба гэрлийн тооцоолол
Уламжлалт дижитал компьютерт хиймэл мэдрэлийн сүлжээний хамгийн их нөөц шаарддаг хэсэг нь матриц үржүүлэх (GEMM) үйлдлүүд байдаг. Олон тэрбум транзистороор электрон гүйж, харилцан үйлчлэлцэх тусам асар их дулаан ялгарч, эрчим хүч алдагддаг.
Харин гэрлийн бөөм (фотон) нь хоорондоо мөргөлддөггүй, дулаан ялгаруулахгүй бөгөөд долгионы уртын ялгаагаар (Wavelength Division Multiplexing) хэдэн арван өөр өгөгдлийн урсгалыг нэгэн зэрэг нэг замаар дамжуулах чадвартай. Гэвч өмнө нь оптик тооцоолол хийхэд зориулж мэдрэлийн сүлжээний загварыг эхнээс нь цоо шинээр зохион бүтээх шаардлага гардаг, математик бүтцийн хувьд дэндүү төвөгтэй, тогтворгүй байсан юм.
Японы судлаачдын танилцуулсан систем энэ саадыг үндсээр нь арилгажээ.
"Single-Map" архитектур ба "State-Skipping" сургалт
Дэд профессор Кохэй Накажимагийн (Kohei Nakajima) удирдсан баг хоёр гол шинэчлэл хийсэн байна:
- Single-Map Architecture: Уламжлалт оптик туршилтуудад хэдэн зуун толь, нарийн төвөгтэй линз, микросхем хэрэг болдог байсан бол судлаачид ердөө 200 метрийн урттай энгийн оптик шилэн кабелийн цагираг (fiber loop) болон цөөн тооны электрон хөрвүүлэгчийг ашиглан хиймэл оюуны гүн давхаргуудыг загварчилж чадсан байна. Мэдээлэл нь цахилгаан дохионоос оптик лазерын гэрлийн дохио болон шилэн кабелиар урсаж, физик үзэгдлээрээ тооцоологдон буцаж цахилгаан дохио болон шинжлэгддэг.
- State-Skipping Training: Физик системийн төлөвийг дижитал загварт тооцоолж сургах (training) нь маш их санах ой, хугацаа шаарддаг байв. Харин "төлөв алгасах" (state-skipping) шинэ сургалтын алгоритмын тусламжтайгаар завсрын шаардлагагүй алхмуудыг тооцоололгүйгээр физик системийн динамикийг загвартай синхрончилж, сургалтын зардлыг огцом багасгажээ.
Энэхүү шийдлийн хамгийн чухал давуу тал нь судлаачид болон инженерүүд одоо байгаа Transformer болон Convolutional Neural Network (CNN) архитектуруудаа бүтцийг нь эвдэхгүйгээр шууд оптик орчинд шилжүүлэн ажиллуулах боломжтой болсон явдал юм.
Үр дүн: 90%-ийн эрчим хүчний хэмнэлт
Эхний туршилтын үр дүнгүүд AI инженерийн нийгэмлэгийг гайхшруулж байна:
- Эрчим хүчний хэрэглээ: Ижил хүчин чадал бүхий орчин үеийн GPU кластеруудтай харьцуулахад эрчим хүчний зарцуулалтыг 90 хүртэл хувиар бууруулсан байна.
- Inference хурд: Загварын хариу боловсруулах (inference) хугацаа нь гэрлийн тархалтын хурдаар хэмжигдэх тул уламжлалт электрон чипүүдээс хэдэн дахин хурдан үзүүлэлт үзүүлжээ.
- Нарийвчлал (Accuracy): Текст боловсруулалт, дүрс ангилах (image classification) болон компьютерийн харааны даалгавруудад дижитал бүтэн системтэй яг ижил нарийвчлал хангаж чадсан байна.
Хөгжүүлэгчдэд энэ нь ямар ач холбогдолтой вэ?
Энгийн хөгжүүлэгчийн үүднээс харвал хамгийн том саад нь "Бид гэрлийн чип дээр ажиллахын тулд кодоо дахин бичих үү?" гэдэг асуулт байдаг.
Судалгааны багийн боловсруулсан фрэймворк нь Middleware давхарга хэлбэрээр ажилладаг. Өөрөөр хэлбэл, бидний өдөр тутамдаа ашигладаг PyTorch эсвэл TensorFlow дээр бэлтгэсэн загваруудыг шууд экспортлож, уг фрэймворкийн компилятороор дамжуулан оптик долгионы командуудад хөрвүүлэн ажиллуулах зарчмаар шийдэгджээ. Энэ нь CUDA-д баригдсан өнөөгийн хиймэл оюуны монополийг эвдэх маш том гарц болж магадгүй юм.
Мэдээж уг технологийг бүрэн хэмжээгээр коммершл болгоход оптикийг чип дээр багтаах (photonic integrated circuits), хөргөлт болон масс үйлдвэрлэлийг шийдэх шаардлага байгаа бөгөөд зах зээлийн эхний төхөөрөмжүүд ойрын 18–24 сарын дотор дата төвүүдэд нийлүүлэгдэж эхэлнэ гэж тооцоолж байна.
Гэвч нэг зүйл тодорхой: Хиймэл оюуны ирээдүйн өсөлт цахиурын хязгаарт тулж гацах бус, харин гэрлийн хурдаар цааш үргэлжлэх зам нээгдлээ.
Эх сурвалж:
Сэтгэгдэл
Ачаалж байна...