"Аюулгүй байдал" уу, эсвэл "Картель" үү? OpenAI, Anthropic, Google гурав AI загварын хөгжлийг удаашруулахаар нэгдэв

Сүүлийн хэдэн жилийн турш хэн нь илүү ухаалаг, илүү хурдан, илүү хүчирхэг хиймэл оюуны загвар гаргахаа уралдан тэмцэлдэж ирсэн салбарын хамгийн том өрсөлдөгчид болох OpenAI, Anthropic, Google DeepMind болон xAI (Илон Маск) гэнэт нэг тал болж, бүгдээрээ "Хурдаа сааруулъя" хэмээн дуу нэгтэй зарлав.

Гэвч энэхүү гэнэтийн "эвлэрэл"-ийг дэлхийн технологийн нийгэмлэг, тэр дундаа нээлттэй эхийн (open-source) хөгжүүлэгчид болон стартапын үүсгэн байгуулагчид алга ташин хүлээж авсангүй. Cohere-ийн үүсгэн байгуулагч, Transformer архитектурын анхны зохиогчдын нэг Эйден Гомез тэргүүтэй салбарынхан үүнийг "Аюулгүй байдлын нэрээр халхавчилсан олон улсын шинэ Картель" бөгөөд жижиг өрсөлдөгчид болон нээлттэй эхийн загваруудыг хуулиар боомилох гэсэн бохир оролдлого хэмээн шулуухан буруутгалаа.

Энэхүү үйл явдал хөгжүүлэгчдэд яагаад хамаатай вэ? Арын фон дээр чухам юу болж өнгөрөв?

"Хурдаа сааруулъя": Дарио Амодейн 3,800 үгтэй тунхаг

Энэхүү үйл явдлын оч Anthropic компанийн гүйцэтгэх захирал Дарио Амодейн нийтэлсэн "We Must Pace the Frontier" хэмээх 3,800 үгтэй эсээнээс эхэлсэн юм.

Амодей өөрийн нийтлэлдээ:

Ирэх 6-12 сарын дотор бие даасан AI агентуудын сүрэг (agentic swarm) бүхэл бүтэн интернетийг сүлжээний botnet болгон хяналтдаа авах эрсдэлтэйг сануулав.
Загварууд дараагийн үеийн загвараа өөрсдөө сургаж эхлэх (recursive self-improvement) үе шат 2027 оны эхээр ирэх магадлалтай тул хүний хяналт алдагдахаас сэргийлж хөгжлийн хурдыг зориуд сааруулах (pace the frontier) ёстой гэв.

Тэрээр гурван үндсэн шийдэл санал болгосон нь: тэргүүлэгч лабораториудад байнгын гаднын аудит (Embedded Evaluators)-ийг ажилтны түвшний бүрэн эрхтэйгээр суулгах, ардчилсан орнуудын AI компаниуд хөгжлийн хурдны дээд хязгаарыг хамтдаа тогтоох, үүний тулд монополын эсрэг хуулиас (Antitrust waiver) тэдгээр компаниудыг чөлөөлөх явдал байв.

Гайхалтай нь, үүнийг нийтлэгдсэнээс ердөө хэдхэн цагийн дараа OpenAI-ийн тэргүүн Сэм Олтман "Би Дариогийн саналтай бүрэн санал нийлж байна, бид ч гаднын шалгагчдыг дотооддоо ажиллуулах болно" гэж мэдэгдэв. Түүний араас Илон Маск "Дариогийн зөв", Google DeepMind-ийн Демис Хассабис "Энэ бол хамгийн зөв гарц" хэмээн дэмжлээ. Үүний дараахан Вашингтонд OpenAI-ийн төлөөлөгч Крис Лихэйн баталснаар тэд Санхүүгийн салбарын FINRA шиг "AI Standards Body" буюу хиймэл оюуны загварыг зах зээлд гаргахаас өмнө шалгаж зөвшөөрөл олгодог өөрсдийн зохицуулах байгууллагыг хамтран байгуулахаар нууц яриа хэлэлцээ хийж эхэлжээ.

"Хонины арьс нөмөрсөн чоно": Гомез ба нээлттэй эхийн эсэргүүцэл

Гэвч АНУ-ын дөрвөн аварга гараа атгалцах үед бусад тоглогчид үүнийг огт өөр өнцгөөс харж байна.

Cohere-ийн гүйцэтгэх захирал Эйден Гомез:

"AI системд хамгаалалт хэрэгтэй гэдэгт хэн ч маргаагүй. Маргааны гол цөм нь тэрхүү дүрмийг ХЭН бичиж, ХЭН оролцох эрхтэй байж, хэний эрх ашгийг хамгаалах вэ гэдэгт байгаа юм. Эдгээр монополууд өрсөлдөөний хуулийг тойрч, бусдад тоглоомын дүрмээ тулгах эрхийг төрөөс гуйж байна. Энэ бол хонины арьс нөмөрсөн чоно, нэр нь л өөр болохоос жинхэнэ Картель мөн. Та төр засагт 'AI бол хүн төрөлхтнийг мөхөөх аюул' гэж үнэмшүүлж л чадвал өөрийн бүх өрсөлдөгчдийг хуулиас гадуур тавьж чадна" гэж цохон тэмдэглэв.

АНУ-ын Худалдааны Холбооны Комиссын (FTC) дарга Эндрю Фергюсон ч мөн эдгээр компаниудад өрсөлдөөний эсрэг хөнгөлөлт өгөхөөс сэржигнэж буйгаа илэрхийлж: "Энэ нь зах зээлд шинээр орж ирэх өрсөлдөөнийг боомилж, зөвхөн өөрсдийн давуу талаа бэхжүүлэх гэсэн (moat digging) хандлага шиг сонсогдож байна" гэжээ.

Хөгжүүлэгчид болон Инженерүүдэд яагаад энэ аюултай вэ?

Хэрэв OpenAI, Google, Anthropic-ийн энэхүү төлөвлөгөө хэрэгжиж, "Regulatory Capture" (зохицуулалтыг өөрсдийн эрх ашигт нийцүүлэх) биелбэл програм хангамжийн ертөнцөд дараах өөрчлөлтүүд гарна:

1. Нээлттэй эхийн (Open-Source) загварууд хууль бус болох эрсдэл

Тэдний санал болгож буй "Pre-release testing" буюу зах зээлд гарахаас өмнөх сая сая долларын өртөгтэй аюулгүй байдлын шалгалт, хяналтын багийг зөвхөн хэдэн тэрбум долларын санхүүжилттэй цөөн компани л төлж дийлнэ. Харин өөрийн сервер дээрээ загвар сургаж, жинг (weights) нь GitHub эсвэл Hugging Face дээр үнэгүй тавьдаг бие даасан хөгжүүлэгчид "баталгаажаагүй эрсдэлтэй код тараасан" нэрийдлээр хоригдох эрсдэл үүснэ.

2. Хиймэл оюуны үнийн монопол ба инновацын зогсонги байдал

Сүүлийн саруудад DeepSeek, Qwen зэрэг нээлттэй жинтэй загварууд хаалттай аваргуудыг гүйцэж ирсэн билээ. Өрсөлдөөн ширүүсэхийн хэрээр API-ийн үнэ буурч, жижиг хөгжүүлэгчид хүчирхэг системүүдийг хямд ашиглах боломж бүрдэж байв. Хэрэв аваргууд нийлээд "хөгжлийн хурдыг хязгаарлах" нэрийдлээр загваруудынхаа чадавхыг зориуд барьж, өрсөлдөөнийг хязгаарлавал зах зээл дээр хөгжүүлэгчид хэт өндөр API үнэ, хязгаарлагдмал сонголттой үлдэх болно.

3. "Safety" цаасны цаана нуугдсан бүтээмжийн уналт

Загваруудын логик сэтгэх чадвар, аюулгүй байдлыг хангах нь чухал ч, хэт хатуу хяналтын механизм нь код бичих, сүлжээний алдаа хайх (debugging), систем админы автоматжуулалт зэрэг инженерүүдийн өдөр тутам ашигладаг даалгавруудыг "аюултай үйлдэл" хэмээн блоклох эрсдэлтэй.

DEVX Дүгнэлт

Хиймэл оюуны хөгжил хяналтаас гарах эрсдэл бодитой юу гэвэл бодитой. Гэхдээ хамгаалалтын дүрмийг хэн бичих вэ гэдэг хамгийн чухал асуулт юм. Хэдэн их наяд долларын үнэлгээ, удахгүй болох IPO-доо бэлтгэж буй технологийн акулууд аюулгүй байдлыг хувийн "шуудуу" (moat) болгон ашиглаж, жижиг бүтээгчид болон нээлттэй нийгэмлэгийг тоглоомоос хасахыг оролдож буйг олон улсын шинжээчид сануулж байна.

Програм хангамжийн салбарын эрч хүч үргэлж нээлттэй эх, чөлөөт өрсөлдөөн дээр тогтож ирсэн. AI-ийн эрин үед ч энэ зарчим хамгаалагдах ёстой.

Эх сурвалж: Reuters, The Verge, Dario Amodei ("We Must Pace the Frontier"), Cohere Blog (Aiden Gomez), Financial Times.