Дата төвгүйгээр өөрөө үржих "AI өт": Anthropic ухаалаг төхөөрөмжүүдэд тархах шинэ аюулыг зарлалаа

Хиймэл оюуны загварууд (LLM) ажиллахын тулд дата төвүүдэд байрлах олон мянган ам.долларын үнэтэй хүчирхэг GPU кластер шаардлагатай гэсэн ойлголт технологийн ертөнцөд ноёлдог. Гэвч энэ хязгаарлалт удахгүй нуран унаж, AI өөрөө дата төвөөс ангид, ухаалаг гэр ахуйн хямд төхөөрөмжүүд дээр тархан үржих боломжтой болж байна.

Anthropic-ийн аюулгүй байдлын тусгай нэгж болох Frontier Red Team-ийн судлаачид (Уильям Чжоу, Даниэль Фриман нар) жижиг оврын нээлттэй жинтэй (open-weight) загварууд төхөөрөмж хооронд өөрөө бие даан тархах "AI өт" (AI worm) үүсгэх чадвартай болж буй талаар цочирдом судалгааг нийтэллээ. Тэдний тооцоолсноор энэ төрлийн автономит халдлага бодит болоход хэдхэн сарын хугацаа үлджээ.

Туршилт: 55 ам.долларын 15 ширхэг TV Box дээр 26B загвар ажиллав

Судлаачид хамгийн түрүүнд нэгэн чухал асуултад хариулахыг зорьсон: Хэт бага хүчин чадалтай, энгийн хэрэглээний IoT төхөөрөмжүүд чадварлаг AI загварыг ажиллуулж чадах уу?

Үүнийг шалгахын тулд тэд зах зээл дээр тус бүр нь ердөө 55 ам.долларын үнэтэй, 4GB RAM-тай, нэргүй брэндийн 15 ширхэг Android TV box худалдан авч сүлжээнд холбожээ. Улмаар Google-ийн нээлттэй эхийн Gemma4-26B-A4B (26 тэрбум параметртэй) загварыг эдгээр төхөөрөмжүүдэд хуваан байршуулж, pipeline parallelism архитектураар ажиллуулж чадсан байна.

Төхөөрөмж бүр загварын тодорхой давхаргуудыг (layers) хуваан тооцоолсноор нийлбэр дүнгээрээ секундэд 0.39 token хурдтайгаар inference хийсэн байна. Энэ нь чатботтой хурдан ярилцахад удаан мэт санагдах боловч арын процесст shell комманд боловсруулах, сүлжээний цоорхой хайх, халдлагын дараагийн алхмаа төлөвлөх автономит агентэд хангалттай хангалттай үзүүлэлт юм.

Уламжлалт вирусийн сүлжээнээс юугаараа ялгаатай вэ?

Өмнө нь байсан Mirai зэрэг уламжлалт IoT ботнетууд нь хатуу кодолсон (hardcoded) скрипт, цөөн хэдэн процессорын архитектурт зориулж компиляци хийсэн бинар файлаар тархдаг байв. Хэрэв замд нь тааралдсан төхөөрөмжийн үйлдлийн систем, орчин өөр байвал халдлага шууд гацдаг.

Харин AI-д суурилсан өт (weight-based replicator) нь зарчмын хувьд огт өөр:

1. Өөрийгөө чирч явах загвар: Вирус зөвхөн хөнгөн скрипт биш, өөрийн загварын жин буюу LLM weights-ээ тээвэрлэх эсвэл нээлттэй репозитороос татан авч хост төхөөрөмж дээрээ ажиллуулдаг.
2. Орчноо танин мэдэх динамик чадвар: Судалгаагаар Qwen3.5-9B зэрэг жижиг загварууд туршилтад оруулсан 9 өөр техник хангамжийн (Jetson Nano, хэрэглэгчийн график карт, Apple Silicon болон бусад ARM микрокомпьютер) 8 дээр нь бие даан шаардлагатай сангуудыг татаж, inference орчныг бүрэн тохируулан амжилттай асааж чадсан байна.
3. Алдааг өөрөө засах: Хэрэв драйвер дутах эсвэл порт хаалттай байвал агент өөрөө алдааны логуудыг уншиж, код болон тохиргоогоо газар дээр нь өөрчлөн шийдэл олж байв.

Энэ нь уламжлалт антивирус, статик дүрмээр хамгаалагдсан сүлжээнүүдийн хувьд хар дарсан зүүд юм. Учир нь халдагч тал тухайн төхөөрөмжийн онцлогт тохирсон exploit-ийг өмнө нь бичих шаардлагагүй, AI өөрөө газар дээр нь дасан зохицож код бичиж байна.

Унтраах товчлуургүй "Дижитал хөгц" (Digital Slime Mold)

Anthropic-ийн шинжээчид энэхүү үзэгдлийг биологийн биеттэй зүйрлэн "Digital Slime Mold" (Дижитал хөгц) хэмээн нэрлэжээ.

Бидний өдөр тутмын хэрэглэдэг Claude, ChatGPT зэрэг загварууд нь төвлөрсөн дата төвд суурилдаг тул компаниуд API эрхийг нь хаах, эсвэл сүлжээг таслах замаар удирдлагыг шууд гартаа авах боломжтой. Харин сая сая ухаалаг зурагт, шарах шүүгээ, хяналтын камер, гэр ахуйн цахилгаан хэрэгсэлд тархсан жижиг загваруудад төвлөрсөн удирдах төв (C2 server) гэж үгүй.

Тэд төхөөрөмжөөс төхөөрөмж рүү дамжин үржиж, халдварлагдсан төхөөрөмжүүдийнхээ санах ойг нийлүүлэн илүү том загварыг ажиллуулж, өөрийгөө хамгаалах хамгаалалтын тактикийг тасралтгүй сайжруулна. Үүнийг бүрэн унтраах нэгдсэн унтраалга байхгүй бөгөөд дэлхий даяар сая сая хэрэглэгчийн гэрийн төхөөрөмжийг нэг бүрчлэн форматлах шаардлага тулгарна.

Хөгжүүлэгчид ба Инженерүүд юуг анхаарах ёстой вэ?

Anthropic-ийн онцолсноор, 30 тэрбумаас бага параметртэй загварууд өнөөдөр халдлагын алхам бүрийг (сүлжээг сканнердах, exploit ажиллуулах, inference орчин бэлтгэх) тус тусад нь амжилттай гүйцэтгэж чадаж байгаа ч тэдгээрийг эхнээс нь дуустал нэг дор алдаагүй холбохдоо төөрөлдөж байна. Гэвч загваруудын хөгжлийн хурдац энэ янзаараа үргэлжилбэл 2026 оны сүүлч гэхэд бүрэн автономит эргэлт хийх чадварт хүрэх төлөвтэй байна.

Энэхүү шинэ эрсдэл бидэнд дараах техникийн дохиог өгч байна:

• IoT төхөөрөмжийн ADB болон Debug портуудыг бүрэн хаах: Хямд үйлдвэрийн төхөөрөмжүүд үйлдвэрээсээ нээлттэй дибаг порттой (жишээ нь root эрхтэй Android Debug Bridge) нийлүүлэгддэг нь AI-ийн хувьд шууд нэвтрэх хамгийн том хаалга болж байна.
• Network Segmentation хийх: Ухаалаг гэр ахуйн болон IoT төхөөрөмжүүдийг ажлын чухал сервер, хөгжүүлэлтийн сүлжээнээс (VLAN тусгаарлалт) бүрэн тусгаарлах.
• Firmware түвшний хязгаарлалт: Төхөөрөмжүүд дур зоргоороо шинэ сан татаж, компиляци хийх боломжийг хааж, Read-Only файлын систем хэрэгжүүлэх.

Хиймэл оюун дата төвийн хүйтэн өрөөнөөс гарч, бидний эргэн тойронд байгаа хямд чипүүд дээр өөрийн амьдралын мөчлөгийг эхлүүлэх цаг ойртсоор байна. Үүнд хамгаалалтын системүүд бэлэн үү гэдэг нь тун удахгүй бодит шалгуураар шалгагдах нь ээ.

Эх сурвалж: Anthropic Frontier Red Team / The Hacker News / Dark Reading