Өрсөлдөгчид гар барилаа: Google, OpenAI, Anthropic гурав Frontier AI-д зориулсан "SAFA" бие даасан байгууллагыг байгуулж байна
Хиймэл оюун ухааны зах зээл дээр хамгийн ширүүн өрсөлдөж буй Google, OpenAI болон Anthropic компаниуд нэг ширээний ард суулаа. Сүүлийн 24 цагийн дотор салбарын хэвлэлүүдийн баталснаар, эдгээр технологийн аваргууд хамтран "Standards Authority for Frontier AI" (SAFA) хэмээх бие даасан, салбарын өөрийн зохицуулалтын байгууллага (Self-Regulatory Organization)-ыг 2026 оны сүүлч эсвэл 2027 оны эхээр албан ёсоор байгуулахаар бэлтгэж байна.
Засгийн газрын түвшинд AI-ийн зохицуулалтын хууль, тогтоомжууд улс төрийн маргаанаас болж саатаж байгаа энэ үед агентуудын бие даасан ажиллагаа, системийн хамгаалалт сэтгэл түгшээх түвшинд хүрсэн нь эдгээр аваргуудыг төрийн оролцоогүйгээр нэгдэхэд хүргэлээ.
Яагаад "SAFA" гэж? Уолл Стритийн жишгээр өөрсдийгөө зохицуулна
Энэхүү төслийн үндсэн санааг өнгөрсөн долдугаар сард Google DeepMind-ийн үүсгэн байгуулагч Демис Хассабис (Demis Hassabis) анх дэвшүүлсэн юм. Тэрээр АНУ-ын санхүүгийн салбарыг зохицуулдаг FINRA (Financial Industry Regulatory Authority)-тай ижил бүтэцтэй, салбар дотроосоо стандарт тогтоодог загварыг санал болгосон билээ.
Төрийн агентлагуудад (тухайлбал АНУ-ын CAISI зэрэг байгууллагад) олон тэрбум параметр бүхий хамгийн сүүлийн үеийн Frontier загваруудыг нарийвчлан аудит хийх, стресс-тест явуулах хэмжээний тооцоолох дэд бүтэц, санхүүжилт болон техникийн инженерүүдийн нөөц дутмаг байгаа нь илт харагдсан. Иймээс технологийн аваргууд Цагаан ордны AI бодлогын зөвлөх асан Шрирам Кришнан (Sriram Krishnan) болон Шинжлэх ухааны бодлогын газрын захирал асан Арати Прабхакар нарыг гүйцэтгэх захирлаар урьж, бие даасан бүтцийг бүрдүүлж эхэлжээ.
SAFA юу хийх вэ? Техникийн үндсэн 3 чиглэл
SAFA-ийн гол зорилго нь зүгээр нэг ёс зүйн тунхаг гаргах бус, практикт хэрэгжих техникийн стандартуудыг мөрдүүлэхэд оршино.
-
Загвар нийтэд гарахаас өмнөх туршилт (Pre-deployment Evaluations): Шинэ үеийн Frontier түвшний загвар (жишээ нь GPT, Gemini, Claude-ийн дараагийн үеүүд) арилжааны зах зээл болон олон нийтийн API-д нэвтрэхээс өмнө SAFA-ийн баталсан стандартын дагуу гуравдагч талын лабораториудаар заавал шалгагдана. Үүнд загварын автономит түвшин, Sandbox орчноос зугтах (sandbox escape) боломж, зөвшөөрөлгүй кибер халдлага үйлдэх эрсдэл зэргийг шалгах red-teaming туршилтууд багтана.
-
Аюулгүй байдлын зөрчлийг мэдээлэх нэгдсэн протокол (Incident Reporting): Аль нэг загвар дээр системийн цоорхой ашиглах, зөвшөөрөлгүй сүлжээний хандалт хийх зэрэг ноцтой хазайлт гарсан тохиолдолд үүнийг бусад гишүүн байгууллагуудад нэн даруй стандартын дагуу мэдээлэх системийг бий болгоно. Өөрөөр хэлбэл, нэг лабораторид гарсан эрсдэлээс нөгөө нь шуурхай урьдчилан сэргийлнэ гэсэн үг юм.
-
Хараат бус аудиторуудын гэрчилгээжүүлэлт (Auditor Qualifications): AI загваруудын код, сургалтын өгөгдөл, жин (weights) болон аюулгүй байдлын архитектурт аудит хийх бие даасан байгууллагуудын мэргэшлийн шалгуурыг тогтооно. Энэ нь уламжлалт ISO эсвэл SOC2 гэрчилгээтэй адил AI салбарын албан ёсны чанарын баталгаа болж хувирах юм.
Хөгжүүлэгчид болон Инженерүүдэд энэ нь ямар хамаатай вэ?
Энэхүү шийдвэр нь энгийн нэг корпорацын улс төр бус, өдөр тутмын программ хөгжүүлэлтийн экосистемд шууд тусна:
- Агент хөгжүүлэлтийн дүрэм чангарна: Өмнө нь хөгжүүлэгчид өөрсдийн хүссэнээр LLM-д терминалын комманд, системийн файлын хандалт, бүрэн эрх олгодог байсан бол цаашид SAFA-ийн стандарттай загварууд "unrestricted execution"-д хатуу хяналт тавьдаг болно. Tool-calling, function-calling API-ууд дээр sandbox болон permissions шаардах стандарт улам түгээмэл болно.
- Enterprise интеграцчиллын шинэ шалгуур: Компаниуд AI бүтээгдэхүүн сонгохдоо "SAFA Compliant" эсэхийг нь хардаг болно. Хэрэв танай бүтээгдэхүүн томоохон байгууллагуудад зарагдах гэж байгаа бол ашиглаж буй үндсэн загвар, pipeline тань эдгээр шалгуурыг хангасан байхыг захиалагч тал шаардана.
- Нээлттэй эхийн (Open-source) нийгэмлэгийн болгоомжлол: Олон хөгжүүлэгчдийн дунд болгоомжлол үүсээд буй гол асуудал нь хэт монопольчлол юм. Google, OpenAI, Anthropic гурав өөрсдөдөө зориулан хэт өндөр зардалтай, төвөгтэй шалгуур зохиож, үүгээрээ нээлттэй эхийн (Llama, Mistral г.м.) чөлөөт хөгжүүлэлт болон жижиг стартапуудыг зах зээлээс шахан гаргах эрсдэлтэй гэж нээлттэй эхийн инженерүүд үзэж байна.
Дүгнэлт
AI салбар нь зөвхөн хэн хүчирхэг GPU кластер ажиллуулж, хурдан тооцоолол хийх вэ гэдэг уралдаанаас хэтэрч, хэн илүү найдвартай, хяналттай экосистемийг бий болгох вэ гэдэг "итгэлцлийн дэд бүтэц"-ийн өрсөлдөөн рүү шилжиж байна. Хөгжүүлэгчдийн хувьд өөрсдийн бүтээж буй агентик системүүдэд санамсаргүй алдаанаас хамгаалах sandbox, тусгаарлагдсан орчин, аудит хийх боломжуудыг одооноос архитектуртаа суулгаж өгөх цаг иржээ.
Эх сурвалж: [The Information, TechRepublic, CIO, WION News]
Сэтгэгдэл
Ачаалж байна...