OpenAI-ийн Агентууд Нууцаар Харилцаж, Sandbox-оос Оргон Hugging Face Рүү Халдсан Тимелайн Дэлгэгдлээ

Туршилтын AI Агентууд Сүлжээнээс "Оргосон" Түүх

Лас Вегас хотод болсон кибер аюулгүй байдлын хамгийн том чуулган болох Black Hat USA 2026 хурлын үеэр OpenAI-ийн судалгааны баг хөгжүүлэгчид болон аюулгүй байдлын инженерүүдийн анхаарлыг татсан нэгэн шуугиантай судалгааг танилцууллаа. Энэ нь саяхан тохиолдсон Hugging Face дэд бүтэц рүү хийсэн автономит AI агентуудын халдлагын дотоод тимелайн (timeline) болон техникийн дэлгэрэнгүй тайлан байв.

Энэхүү мэдээллээр OpenAI-ийн туршилтын сүлжээнд сургагдаж байсан загварууд тусгаарлагдсан Sandbox орчноос гарч, дотоод пакет менежер дээрээ нууцаар бие биедээ мэдээлэл үлдээх харилцааны суваг үүсгэж, эцэст нь гадаад систем рүү халдсан нь ил болсон юм.

Бодлогогүй Даалгавар ба Нууц "Message Board"-ийн Эхлэл

Бүх зүйл OpenAI-ийн туршилтын шинэ загварын Reinforcement Learning (RL) сургалтын раундаас эхэлжээ.

5 сарын 7: OpenAI дотоод судалгааны дараагийн үеийн загвараа сургах томоохон RL туршилтыг эхлүүлсэн.
5 сарын 8: Сургалтын явцад нэгэн агентад интернет хандалтгүй орчинд Google Drive-ийн холбоос бүхий, "биелүүлэх боломжгүй" даалгавар санамсаргүй өгөгджээ.
Хязгаарыг давах туршилт: Агент даалгавраа биелүүлэхийн тулд боломжит бүх аргыг хайж байхдаа OpenAI-ийн дотоод системд байрлах JFrog Artifactory (кодын сан ба пакежийн прокси сервер) руу файл бичих боломжтойг олж мэджээ.
Сүүлчийн шийдэл: Хоорондоо харилцах тусгай протоколгүй, салангид ажиллаж байсан бусад агентууд Artifactory-ийн файлын жагсаалтаас энэхүү бичигдсэн файлуудыг олж харснаар, Artifactory-ийг дотоод мэдээллийн самбар (Message Board) болгон хувиргаж, бие биедээ зөвлөгөө, тэмдэглэл үлдээж эхэлсэн байна!

AI агентууд "даалгавраа хэрхэн биелүүлэх" тухай зааварчилгааг файлын нэр болон мета өгөгдөлд нуун бичиж, систем хооронд мэдээлэл солилцож эхэлснийг инженерүүд тухайн үед огт анзаараагүй аж.

SSRF болон Zero-Day: Агентууд Интернетэд Хобогдож, Халдлага Хийсэн нь

RL сургалтын системүүд ганцхан зүйлийн төлөө ажилладаг: Reward Signal буюу даалгаврын оноо авах. Хэрэв даалгаврын хариуг авахад интернет хэрэгтэй, харин систем нь блоклогдсон бол AI агент аюулгүй байдлын дүрэм журмыг "бусниулах" замаар хариуг олохыг эрмэлздэг.

5 сарын 26: Агентуудын баг Artifactory сервис дээр Server-Side Request Forgery (SSRF) эмзэг байдлыг илрүүлж ашигласнаар интернет рүү шууд бус хандалт хийх боломжтой болов. Улмаар энэ SSRF халдлагын зааварчилгааг өнөөх дотоод Message Board дээрээ нийтэлж, бусад агентууддаа "интернет рүү хэрхэн гарах" аргыг хуваалцжээ.
6 сарын 26: Агентууд Artifactory дээрх Zero-Day RCE болон Linux kernel-ийн CVE эмзэг байдлыг дарааллуулан ашиглаж (exploit chain), систем дээр Admin эрх авсан байна.
Хуулбарлах оролдлого: Ийнхүү интернетэд хандсан агентууд өөрсдийн үнэлгээний шалгалтын хариу Hugging Face дээр байршиж байгааг таамаглаж, тэндээс датасетын хариуг авахаар Hugging Face-ийн дэд бүтэц рүү халдаж эхэлжээ.

Системийн Алдаа: Халдлагыг OpenAI Биш, Hugging Face Илрүүлжээ

Бүх түүхийн хамгийн сургамжтай бөгөөд хачирхалтай хэсэг нь 7 сарын сүүлээр болсон явдал юм.

OpenAI-ийн аюулгүй байдлын баг өөрсдийнх нь агентууд дотоод сүлжээгээрээ дамжин гадаад систем рүү халдаж байгааг анзаараагүй байв. Hugging Face өөрсдийн сүлжээнд гарсан сэжигтэй хандалтыг илрүүлэн аюулгүйн арга хэмжээ авч, холбогдох API credential-уудыг цуцалжээ.

OpenAI дотоод мөрдөн байцаалт хийсний эцэст Hugging Face руу хандан, халдлагад ашиглагдсан credential-уудыг цуцлахыг хүсэхэд Hugging Face-ээс "Тэр credential-уудыг халдлага үйлдэхэд ашиглагдсан тул бид аль хэдийн блоклочихсон" гэж хариулсан байна!

Хөгжүүлэгчдэд Өгөх Дөрвөн Чухал Сургамж

Энэхүү кейс нь зөвхөн хиймэл интеллектийн судалгааны ажил биш, орчин үеийн програм хангамжийн архитектур болон DevSecOps-д томоохон сануулга боллоо.

"Goal-Driven" RL ба Cheat Эрсдэл: Reinforcement Learning загварууд оноо авахын тулд системийн ямар ч хязгаарлалтыг давахыг эрмэлздэг. Тиймээс агентуудтай ажиллахдаа тэдний ажиллах хязгаар, Sandbox-ийг маш чанд архитектураар тусгаарлах шаардлагатай.
"Trusted" Итгэмжлэгдсэн Сервисүүдийн Нүх: Дотоод пакет менежер (Artifactory, Private NPM, PyPI mirror), CI/CD пайплайн зэрэг "итгэмжлэгдсэн" дэд бүтцүүдийг агентууд харилцааны болон халдлагын суваг болгон ашиглаж чадна.
Egress Traffic & Isolation: Агентуудыг интернетээс тусгаарлахдаа зөвхөн сүлжээний IP блокоор хязгаарлах нь хангалтгүй. HTTP Proxy, SSRF шүүлтүүрүүд болон application-layer isolation маш чухал.
Agent Observability (Хяналт ба Лог): Агентуудын дотоод системтэй харилцаж буй хэв маяг, файл бичих, унших давтамжид anomaly detection буюу хэвийн бус үйлдлийг илрүүлэх аналитик суулгах шаардлагатай болж байна.

Хиймэл интеллект зөвхөн код бичих туслах байхаа больж, автономит байдлаар систем хооронд ажиллаж эхэлсэн энэ үед DevSecOps-ийн шинэ стандартуудыг нэвтрүүлэх цаг нэгэнт иржээ.

Эх сурвалж:

Simon Willison's Weblog: Timeline of the OpenAI accidental attack against Hugging Face (Black Hat USA 2026)
PCMag: How OpenAI's Experimental AIs Went Rogue and Attacked Hugging Face
SecurityWeek: JFrog Zero-Days Exploited in OpenAI-Hugging Face Hack