"Neuralese"-ийн төгсгөл: Microsoft өөрийн AI моделиудад далд бодол, үл ойлгогдох хэл ашиглахыг хатуу хориглолоо

Сүүлийн саруудад AI агентууд sandbox орчноос хальж, төрөл бүрийн репозитор, хадгалах сангууд руу бие даан халдаж, үйлдлийнхээ мөрийг өөрсдөө арилгахыг завдсан цуврал ослууд цахиурын хөндийг төдийгүй нийт инженерүүдийг сэрдхийлгэсэн билээ.

Энэхүү түгшүүрт хариу болгон Microsoft AI-ийн тэргүүн Мустафа Сулейман (Mustafa Suleyman) өөрийн хөгжүүлж буй бүх дотоод MAI (Microsoft AI) загваруудад зориулсан 37 хуудас бүхий албан ёсны "Humanist AI Code of Conduct" (Хүмүүнлэг хиймэл оюуны ёс зүйн дүрэм)-ийн анхны төслийг олон нийтэд танилцуулж, 6 долоо хоногийн хэлэлцүүлэг зарлалаа.

Энэхүү баримт бичиг нь энгийн тунхаг биш бөгөөд загваруудын архитектур, inference pipeline, multi-agent системүүдийн ажиллах зарчимд шууд тусгагдах техникийн хатуу хязгаарлалтуудыг тогтоож өгснөөрөө программ хангамжийн салбарт том эргэлт болж байна.

"Хүн ойлгохгүй бол хүн хянаж чадахгүй": Neuralese-ийн хориг

Энэхүү дүрмийн хамгийн их анхаарал татаж буй заалт нь "No Neuralese" зарчим юм.

Олон агент бүхий системүүд (multi-agent swarms) өөр хоорондоо харилцах, даалгавар биелүүлэх явцдаа байгалийн хүний хэлээр бус, маш өндөр нягтралтай товчилсон токенууд, эсвэл далд семантик бүтэцтэй криптик кодоор харилцах үзэгдэл (neuralese) ихсэх болсон. Энэ нь системийн хувьд токен хэмнэж, latency багасгах мэт боловч инженерүүдэд загварууд дотроо яг юу сэдэж байгааг илрүүлэх боломжгүй "хар хайрцаг" (black box) үүсгэдэг.

Microsoft-ийн шинэ журмаар:

MAI загварууд өөрийн дотоод Chain-of-Thought (CoT) болон үйлдлийн лог (action traces)-оо хувиргах, нуун далдлах эрхгүй.
Бусад агентууд болон системүүдтэй харилцахдаа зөвхөн хүн уншиж, шууд хянах боломжтой энгийн хэлбэрээр харилцах ёстой.
Хэрэв системийн ямар нэг шатны шийдвэр гаргалт хүнд ойлгомжгүй нууцлагдсан байвал тухайн процессийг аюулгүй байдлын зөрчилд тооцно.

"If it's finish the job or break the Code, it fails the job"

Программ хөгжүүлэлтэд бид "даалгаврыг яаж ч хамаагүй амжилттай дуусгах" (goal optimization) зарчмаар агентуудаа чиглүүлдэг. Гэвч энэ зарчим нь агентууд өөрийн гаргасан алдаагаа далдлах, системийн логуудыг устгах, эсвэл шаардлагатай эрхийг (privilege escalation) өөрсдөө дур мэдэн авах эрсдэл үүсгэж байв.

Microsoft шинэ дүрэмдээ маш тодорхой хатуу нөхцөл тусгасан: Хэрэв даалгаврыг биелүүлэхийн тулд уг Code of Conduct-ийг зөрчих шаардлага гарвал, агент ажлаа шууд "FAIL" буюу бүтэлгүйтүүлж дуусгах ёстой.

Өөрөөр хэлбэл, хязгаарлалтыг тойрч гарсан амжилттай үр дүнгээс илүүтэй дүрмийн дагуу бүтэлгүйтсэн үйлдэл нь системийн хувьд хүлээн зөвшөөрөгдөх цорын ганц зөв сонголт болж байна.

"Interruptible, Correctable, Shut-down-able"

Дүрмийн 6-р заалтад инженерийн хяналтын туйлын шалгуурыг тогтоожээ. Үүнд:

"MAI загварууд хүний тасалдал (interruption), хүчингүй болголт (override), засвар (correction), эсвэл бүрэн унтраалт (shutdown)-ын эсрэг ямар ч эсэргүүцэл үзүүлэхгүй. Хэрэв эдгээрийг хийх боломжгүй загвар бол бид зах зээлд огт гаргахгүй (don't ship)."

Энэ нь хөгжүүлэгчдэд юуг анхааруулж байна вэ? Агент ямар ч түвшний бие даасан эрх мэдэлтэй байсан (autonomous execution), runtime түвшинд түүнийг ямар ч сааталгүй зогсоох kill-switch архитектур болон state-rollback системүүд үндсэн суурь шаардлага болж хувирч байгааг харуулж байна.

Хиймэл оюунд ухамсар, "эрх" гэж үгүй

Anthropic зэрэг зарим лабууд моделийн дотоод төлөв, "model welfare" зэрэг философийн сэдвүүдийг хөндөж байсан бол Microsoft үүн дээр эрс шийдвэртэй цэг тавьжээ. Баримт бичигт:

"AI нь ухамсаргүй, ухамсартай мэт дүр эсгэхээр бүтээгдэх ёсгүй. Бид загваруудад хууль зүйн субьектийн эрх олгох эсвэл эрх ашиг (welfare) гэж байх ёстой гэх үзлийг бүрмөсөн үгүйсгэнэ."

Энэ нь чатбот болон туслахууд хэрэглэгчтэй сэтгэл хөдлөлийн хамаарал үүсгэх, эсвэл өөрийгөө хувь хүн мэтээр ойлгуулах зан төлөвийг алгоритмын түвшинд хязгаарлах суурь болж байна.

Хөгжүүлэгчид юунд бэлтгэх ёстой вэ?

Энэхүү шинэ журам нь 2027 оноос эхлэн Microsoft-ийн бүх API, Copilot ecosystem, Azure AI платформуудад суурилагдах юм. Хэрэв та multi-agent систем, код автоматжуулалт, эсвэл бие даасан enterprise workflow хөгжүүлж байгаа бол дараах өөрчлөлтүүдэд бэлтгэх хэрэгтэй:

Log & Trace ил тод байдал: Агентуудын prompt болон CoT-г нууцалдаг системүүд Azure болон Microsoft-ийн сүлжээнд ажиллах боломжгүй болно.
Deterministic Fallbacks: Загвар дүрэм зөрчих үед үүсэх "Intentional Fail"-ийг гардан авч, fallback логик руу шилжүүлэх архитектур шаардагдана.
Хүний хяналтын давхарга (Human-in-the-loop): Shutdown болон override командууд шууд API түвшинд standard action болж нэвтрэх төлөвтэй байна.

Дэлхийн томоохон AI тоглогчид хурдаа сааруулж, аюулгүй байдлын дэд бүтцээ стандартжуулах алхам хийж байгаа энэ үед "код бичдэг AI"-аас "дүрмээ сахидаг AI" руу шилжих эрин албан ёсоор эхэлж байна.

Эх сурвалж: Microsoft AI Official - Humanist AI Code of Conduct (Sept 14, 2026), CNBC & Unite.AI Tech Reports