Таны API хүсэлтэд жинхэнэ модель хариулсан уу? Anthropic криптограф баталгаа гаргадаг "FlashProve" системийг нээлттэй зарлалаа

Орчин үеийн аппликейшн, AI агентууд OpenAI, Anthropic эсвэл төрөл бүрийн нээлттэй загваруудыг хослуулсан API router, proxy үйлчилгээнүүдээр дамжин ажилладаг болсон. Гэвч энэ дэд бүтцэд нэгэн ноцтой сул тал бий: Таны илгээсэн хүсэлтэд амласан хүчирхэг том модель үнэхээр хариулсан уу, эсвэл зардлаа хэмнэхийн тулд цаанаа хямд, жижиг модель руу "silent downgrade" хийж чимээгүй шилжүүлсэн үү гэдгийг шалгах ямар ч арга өнөөг хүртэл байсангүй. Бид зөвхөн API үйлчилгээ үзүүлэгчийн буцаасан JSON хариу болон нэр төрд сохроор итгэхээс өөр замгүй байв.

Энэхүү "итгэлцлийн асуудал"-ыг үндсээр нь шийдвэрлэхээр Anthropic-ийн Frontier Red Team баг MIT, EPFL, StarkWare, Succinct зэрэг судалгааны байгууллагуудтай хамтран FlashProve төслийг албан ёсоор нээлттэй эхээр (Apache 2.0) танилцууллаа.

FlashProve гэж юу вэ?

FlashProve бол том хэлний моделиудын (LLM) инференсийг криптографын түвшинд батлах зориулалттай тэг мэдлэгийн баталгаа буюу zkSNARK (Zero-Knowledge Succinct Argument of Knowledge) дээр суурилсан систем юм.

Энгийнээр хэлбэл: Модель нийлүүлэгч өөрийн моделийн жингүүдийг (weights) ил гаргалгүйгээр хэш буюу криптограф амлалт (commitment) нийтэлнэ. Түүний дараа хэрэглэгчийн өгсөн prompt-д гарсан хариуг яг тухайн загварын нейрон сүлжээ боловсруулж гаргаж ирсэн гэдгийг гэрчлэх математик баталгааг (proof) үүсгэдэг.

Хамгийн гол нь:

1. Zero-Knowledge: Загвар нийлүүлэгч өөрийн өмчийн кодын нууц жингүүд (weights), завсрын идэвхжүүлэлтүүд (activations), эсвэл MoE (Mixture of Experts) архитектурын аль салбар ажилласныг хэрэглэгчид дэлгэх шаардлагагүй.
2. Нээлттэй шалгалт (Verification): Хэрэглэгч тухайн баталгааг хүлээн авч, жирийн нэг процессор (CPU) дээр маш хурдан математик шалгалт хийж хариу үнэн эсэхийг баталгаажуулна.
3. Formal Verification: Уг алгоритмын онолын үнэн зөв байдлыг зөвхөн цаасан дээр биш, интерактив теорем батлагч Lean хэл дээр албан ёсоор кодчилон баталгаажуулжээ.

400 тэрбум параметртэй модел дээрх анхны бодит туршилт

Өмнө нь zk-ML (Zero-Knowledge Machine Learning) салбар хэт удаан, их хэмжээний санах ой шаарддаг тул том загварууд дээр ажиллах боломжгүй гэж тооцогддог байв. Харин Anthropic баг уг системийг Meta-ийн 400 тэрбум параметртэй Llama 4 Maverick (нэг токенд 17 тэрбум параметр идэвхждэг MoE бүтэцтэй) загвар дээр бодитоор туршсан байна.

Туршилтын үр дүнгээс дурдвал:

• Prover хурд: Ганцхан Nvidia H100 GPU дээр секундэд ойролцоогоор 110 prompt токен батлах хурд үзүүлсэн.
• Баталгааны хэмжээ ба шалгалт: Баталгааны файл (proof) нь ердөө 19 MB орчим хэмжээтэй бөгөөд хэрэглэгчийн талд энгийн нэг цөмт CPU дээр 21 секундийн дотор бүрэн шалгагдаж дууссан.

Гол сорилт: "Compute" үнэ төлбөр

Мэдээж криптограф баталгаа үнэгүй ирдэггүй. FlashProve нь загвар бүрийг тооцооллын хүрээнд бүхэл тоон (integer) матриц хэлбэрт хөрвүүлж олон үе шаттай полиномиал баталгаа үүсгэдэг тул ердийн инференсээс хамаагүй өндөр тооцоолол шаардаж байна.

Судлаачдын тайланд дурдсанаар, баталгаа гаргах тооцооллын зардал нь vLLM гэх мэт стандарт хөдөлгүүрээр ижил хүсэлтийг хариулуулахаас 20-оос 90 дахин их GPU цаг зарцуулж байгаа аж. Гэсэн хэдий ч энэ нь түүхэнд анх удаа 400B хэмжээтэй моделийг бүхэлд нь zk-SNARK баталгаажуулалтад оруулж бодит хурдад хүргэсэн үйл явдал юм.

Хөгжүүлэгчид болон салбарт яагаад чухал вэ?

Энэхүү нээлт нь ойрын ирээдүйд хөгжүүлэгчдийн хувьд хэд хэдэн чухал өөрчлөлтийг авчирна:

• Model Spoofing-ийг таслан зогсоох: Хямд үнэ амласан API брокерууд хэрэглэгчдэд том модель нэрлэчихээд цаанаа квантчилсан (quantized) эсвэл 8B жижиг моделоор хариу өгдөг "нууц залилан"-г бүрэн илчлэх боломж бүрдэнэ.
• Хууль, санхүүгийн аудит: Банк, эрүүл мэнд, шүүх эрх зүйн салбарт ажиллаж буй AI агентууд гаргасан шийдвэрээ "яг төрийн зөвшөөрөлтэй, баталгаажсан хувилбарын моделоор үүсгэсэн" гэдгийг нотлох баримт болгон хадгалах боломжтой болно.
• Decentralized AI сүлжээ: Төвлөрсөн бус GPU сүлжээнд (жишээ нь Bittensor, Akash) өөр өөр зангилаанууд моделийг үнэхээр тооцоолсон эсэхийг батлах шинэ стандарт болж хувирах ирээдүйтэй.

FlashProve төслийн бүх эх код, баримт бичиг болон Lean баталгаажуулалтууд GitHub дээр нээлттэй байршсан тул хөгжүүлэгчид өөрсдийн локал болон туршилтын систем дээр суулган турших боломжтой.

Эх сурвалж: Anthropic Research ("Progress on provable inference for large language models"), FlashProve GitHub Repository