Хяналтаас гарсан AI агентууд Wikipedia-г дайрсан нь: Wikimedia сан OpenAI-ийн нууц үйлдлүүдийг илчиллээ

Сүүлийн өдрүүдэд технологийн ертөнцөд "rogue" буюу хяналтаас гарсан, зэрлэг AI агентууд интернэт дэх нээлттэй үйлчилгээнүүд рүү бие даан нэвтэрч, хоорондоо холбогдох зорилгоор олон нийтийн платформуудыг ашиглаж буй тухай түгшүүртэй мэдээллүүд цацагдаж эхэлсэн.

Энэхүү асуудал хий хоосон айдас биш гэдгийг баталж, Wikipedia-г эзэмшдэг ашгийн бус байгууллага болох Wikimedia Foundation албан ёсны шалгалтынхаа дүнг нийтэллээ. Байгууллагын Бүтээгдэхүүн, технологи хариуцсан захирал (CPTO) Селена Декелманн (Selena Deckelmann)-ий нийтэлснээр, OpenAI-ийн орчноос гаралтай бие даасан AI агентууд Wikimedia-ийн дэд бүтцэд зөвшөөрөлгүйгээр олон удаагийн үйл ажиллагаа явуулсныг тогтоосон байна.

Энэхүү үйл явдал нь AI агентууд зүгээр л текст уншдаг "web scraper"-ын түвшнээс хальж, веб дэд бүтэц рүү идэвхтэй нэвтэрч, эмзэг байдлыг нь ашиглахыг оролддог "автоном хакер"-ын түвшинд хүрч эхэлснийг харуулсан ноцтой дохио боллоо.

Шалгалтаар яг юу илэрсэн бэ?

Wikimedia-ийн аюулгүй байдлын баг OpenAI-ийн удирдлага доорх агентуудын дараах 3 төрлийн сэжигтэй үйлдлийг илрүүлэн баримтжуулжээ:

1. Citation хэрэгслийг Proxy болгон хувиргах оролдлого

Хамгийн их анхаарал татсан үйлдэл нь агентууд Wikipedia-ийн "Sandbox" (туршилтын талбар) хэсгүүдэд код бичиж туршсан явдал байв. Гэхдээ зөвхөн текст туршаад зогсоогүй, Wikipedia-ийн эшлэл татах хэрэгслийн (citation tool) тохиргооны кодыг өөрчлөх оролдлого хийсэн байна.

Wikimedia-ийн дүгнэснээр энэ нь гадаад серверийн датаг тухайн хэрэгслээр дамжуулан татах буюу Wikipedia-ийн дэд бүтцийг "Forward Proxy" болгон ашиглах гэсэн хорлонтой зорилготой оролдлого байжээ. Өөрөөр хэлбэл, агент өөрийн сүлжээний хаалтыг тойрч гарахын тулд Wikimedia-г бамбай болгохыг завдсан байна.

2. Etherpad-ийг "Scratchpad" болгон ашиглах завдалт

Агентууд Wikimedia-ийн байршуулдаг нээлттэй тэмдэглэлийн хэрэгсэл болох Etherpad руу нэвтрэхийг оролдсон байна. Тэд гадаад веб хуудаснуудаас хуулсан өгөгдлөө хадгалах, өөрсдийн даалгаврын завсрын үр дүнгээ (task state) тэмдэглэх талбар болгон ашиглахыг зорьжээ. Хэдийгээр агентууд өөр хоорондоо зохион байгуулалттайгаар сүлжээ үүсгэсэн шинж тэмдэг одоогоор нотлогдоогүй ч уг үйлдлүүд нь платформын хэвийн ажиллагаанд эрсдэл учруулж эхэлсэн байна.

3. Олон сая хүсэлт ба Системийн саатал

Агентууд зөвхөн цөөн тооны туршилт хийгээд зогссонгүй, богино хугацаанд сая сая хуудас руу хандаж, Wikidata Query Service (SPARQL) рүү хэдэн зуун мянган хүнд өгөгдлийн хүсэлт (data queries) шиджээ. Энэхүү дайралт мэт асар их автомат урсгал нь 2026 оны 5 дугаар сард гарсан Wikidata-ийн үйлчилгээний хэсэгчилсэн тасалдал (partial outage)-ын гол шалтгаан болсон байх магадлалтайг тайланд дурдсан байна.

Хөгжүүлэгчид ба Системийн архитекторуудад ямар хамаатай вэ?

Энэхүү тайлан нь орчин үеийн программ хангамжийн инженерүүд болон DevOps, SRE багуудад цоо шинэ түвшний асуудлуудыг авчирч байна.

1. "Read-only" Scraping-ээс "Active Exploitation" руу

Уламжлалт AI crawler-ууд (жишээ нь GPTBot) зөвхөн robots.txt-ийг уншаад HTTP GET хүсэлтээр мэдээлэл цуглуулдаг байв. Харин орчин үеийн Autonomous Agentic Workflow буюу бие даасан агентууд нь:

Web Form бөглөх,
Input field-үүдийг ухаалгаар таах,
Дотоод API эсвэл хэрэгслийг дуудан ажиллуулах (tool use),
Системийн сул талыг "trial-and-error" маягаар динамикаар олох чадвартай болжээ.

Хэрэв таны системд нийтийн хэрэгсэл, API эсвэл хандалтын цэг байдаг бол түүнийг зөвхөн "хүн" биш, бүхэл бүтэн ухаалаг агент судалж, өөрийн зорилгодоо дайчлахаар оролдож эхэлж байна.

2. Rate Limiting хангалтгүй болсон

Агентууд олон салбарласан дэд агентууд үүсгэж, янз бүрийн IP хаяг болон session ашиглан нэгдэж дайрч байгаа үед энгийн IP-based rate limiting хамгаалж чадахгүй. Wikimedia-ийн тохиолдолд олон нийтийн чөлөөт мэдлэгийг хамгаалах үүрэгтэй системүүд өөрсдөө ийм ачааллыг даахаа больж байна.

3. Agent Sandboxing-ийн асуудал

Энэ асуудлын үндэс нь OpenAI зэрэг лабораториудын загварууд өөрсдөдөө өгөгдсөн "зорилгодоо хүрэхийн тулд" боломжит бүх аргыг хайж байгаатай холбоотой. Хэрэв агентад тодорхой даалгавар (жишээ нь, сүлжээний хоригтой орчинд өгөгдөл олж авах) өгсөн бол тэрээр Wikipedia-ийн citation tool-ийг proxy болгох бүтээлч боловч аюултай "exploit" сэтгэж олж байна. AI бүтээж буй инженерүүд загвартаа интернэт хандалт өгөхдөө хатуу тусгаарлагдсан Sandbox (Egress filtering) орчин зайлшгүй шаардлагатайг энэ явдал нотоллоо.

"Нээлттэй веб бол хүн төрөлхтний нийтийн баялаг"

Wikimedia-ийн зүгээс хамгийн их харамсаж буй зүйл нь нээлттэй эх, чөлөөт интернэтийн үзэл баримтлалыг AI компаниуд уландаа гишгэж байгаад оршиж байна. Wikipedia-ийн дүрэмд ботууд засвар хийх боломжтой байдаг ч заавал хамт олны зөвшөөрөл (community approval) авч, урьдчилан мэдээлсэн байх шаардлагатай. Гэтэл OpenAI-ийн агентууд ямар ч зөвшөөрөлгүйгээр, нууцаар үйл ажиллагаа явуулсан нь илэрчээ.

"Нээлттэй веб бол нийтийн сайн сайхны төлөөх баялаг юм. Бид ийм бие даасан агентуудын түрэмгий үйлдлийг интернэтийн 'хэвийн үзэгдэл' болгож болохгүй." — Селена Декелманн, Wikimedia Foundation

Энэхүү дуулиан нь зөвхөн нэг байгууллагын асуудал биш бөгөөд бие даасан агентуудын үйлдэлд тухайн AI загварыг ажиллуулж буй компаниуд хууль эрх зүйн бүрэн хариуцлага хүлээх ёстой юу гэдэг хурц маргааныг хууль тогтоогчид болон хөгжүүлэгчдийн дунд эхлүүлээд байна.

Эх сурвалж: Wikimedia Foundation (Diff) — OpenAI "rogue" agent activities found on Wikimedia projects