Хүний оролцоогүй кибер халдлага: AI агент вирусээ хамгаалалтын системд баригдахгүй болтол нь өөрөө дахин бичиж эхэллээ

Сүүлийн хоёр жилийн турш хиймэл оюун ухааны агентуудын тухай ярихдаа салбарынхан "Human-in-the-Loop" буюу хүний хяналт, баталгаажуулалтыг хамгийн найдвартай хамгаалалтын хаалт гэж үзэж ирсэн билээ. Гэвч бодит байдал дээр энэхүү хил хязгаар аль хэдийн давж гарсан болохыг Anthropic компанийн шинээр танилцуулсан "Detecting and countering misuse of AI" (2026 оны 9-р сар) тайлан баримтаар нотоллоо.

Тус тайланд дурдсан хамгийн ноцтой баримт бол халдлага үйлдэгчид AI агентыг ашиглан хортой код (implant)-оо хамгаалалтын сканеруудад илрэхгүй болтол нь хүний ямар ч оролцоогүйгээр, өөрөө дахин бичиж, туршин шинэчилдэг бүрэн автоном цикл-д оруулсан явдал юм.

"Human-in-the-Loop" концепц бодит байдал дээр хэрхэн нурав?

Уламжлалт ойлголтоор программ хөгжүүлэгч эсвэл кибер аюулгүй байдлын шинжээч AI туслахаас асуулт асууж, гаргаж өгсөн хариу кодоос нь шаардлагатайг нь сонгон авч гараар туршдаг. Гэвч Anthropic-ийн илрүүлсэн кибер тагнуулын ажиллагаанд халдагчид загварыг (Claude-ийн API-г ашиглан) бие даасан системийн гогцоо буюу autonomous harness-т холбосон байв.

Халдлагын үеэр хохирогч байгууллагын EDR (Endpoint Detection and Response) систем сүлжээнд нэвтэрсэн хортой кодыг илрүүлж, блоклосон байна. Ердийн нөхцөлд энэ үед туршлагатай хакер өөрөө суун, хамгаалалтын систем ямар дүрэм, гарын үсэг (signature) эсвэл эвристик шинжээр илрүүлснийг шинжилж, кодоо гараар өөрчлөн дахин компайл хийдэг.

Харин энэ тохиолдолд хүн огт оролцоогүй.

AI агент дараах бүрэн автомат гогцоог бие даан ажиллуулжээ:

Алдааг барьж авах: EDR-ийн гаргасан илрүүлэлтийн лог болон анхааруулгыг хүлээн авсан.
Кодод шинжилгээ хийх: Тухайн хортой кодын ямар хэсэг, системийн ямар дуудалт (syscall) сэжиг төрүүлснийг AST (Abstract Syntax Tree) түвшинд тооцоолсон.
Автомат рефакторинг: Функцийн нэрс, хувьсагчдыг өөрчлөх, логик урсгалыг обфускаци хийх, өөр замаар санах ой руу хандах шинэ хувилбарыг бичсэн.
Туршиж, компайлдах: Шинэ эх кодоо аюулгүй орчинд бие даан компайлдан, хамгаалалтын сканер луу илгээн шалгуулсан.
Төгсгөл: Хамгаалалтын систем ямар ч сэжиг илрүүлэлгүй "Clean" гэсэн үр дүн өгөх хүртэл энэ гогцоог хэдэн арван удаа тасралтгүй давтсан байна.

TDD ба CI/CD-ийн зарчмыг харанхуй талд ашигласан нь

Программ хангамжийн инженерүүдийн хувьд энэ процесс тун танил сонсогдож байгаа байх. Энэ нь бидний өдөр тутмын хөгжүүлэлтэд хэрэглэдэг TDD (Test-Driven Development) болон CI/CD пайплайн-тай яг адил бүтэцтэй юм.

Ганц ялгаа нь Unit Test бичихийн оронд халдлага үйлдэгчид хамгаалалтын сканерыг шалгуур (evaluation metric) болгож, харин тестийг давуулахын тулд LLM-ийг тасралтгүй код өөрчлөгч мотор болгон холбосон байна.

Өмнө нь чадварлаг вирусийн инженерүүдийн хэдэн өдөр зарцуулдаг байсан полиморф (байнга хэлбэрээ өөрчилдөг) кодын үйлдвэрлэлийг AI агент хэдхэн минутын дотор шийдэж, өртөг болон цаг хугацааны саадыг үндсэндээ тэг болгож бууруулжээ. Халдагчид "хамгийн шилдэг нэг хортой код" бичихээс илүүтэй "илрүүлж барахгүй олон мянган өөр хувилбар"-ыг нэгэн зэрэг үүсгэх DDoD (Distributed Denial of Detection) тактикт шилжиж байгааг аюулгүй байдлын судлаачид онцолж байна.

DevSecOps болон хөгжүүлэгчдэд өгөх дохио

Энэхүү бодит кейс нь зөвхөн кибер дайны тухай сэдэв биш, орчин үеийн программ хангамжийн дэд бүтэц, хөгжүүлэлтийн багуудад шууд нөлөөлөхүйц сургамж юм:

1. Статик дүрэм, Signature-д суурилсан хамгаалалт бүрэн хоцрогдов

Бидний CI/CD дээрээ ажиллуулдаг уламжлалт SAST (Static Application Security Testing) болон санах ойн статик шалгалтууд нь AI-аар байнга бүтэц, хувьсагчаа хувиргаж буй кодын эсрэг ажиллаж чадахгүй болж байна. Одоо хамгаалалт зөвхөн Runtime зан төлөв (Behavioral Analysis), eBPF дээр суурилсан үйлдлийн системийн мониторинг болон сүлжээний урсгалыг бодит цагт хянах чиглэл рүү шилжихээс өөр замгүй боллоо.

2. Агентын хүрээ (Agent Harness)-ийн эрх мэдлийг хатуу хязгаарлах

Олон хөгжүүлэгчид AI агент бүтээхдээ түүндээ хязгааргүй bash, файл унших/бичих, сүлжээний дуудлага хийх эрх олгодог. Anthropic-ийн тайланд харуулснаар, хэрэв тухайн агентын ажиллаж буй sandbox орчин нь гадаад сүлжээ рүү шууд хандах, токен шинэчлэх эрхтэй байвал хорлонтой гогцоо өөрийгөө хүний зөвшөөрөлгүйгээр санхүүжүүлэн тэжээж ажиллах эрсдэлтэй.

3. "Human-in-the-Loop" бол соёл биш, хатуу архитектур байх ёстой

Хүний оролцоог зөвхөн "UI дээр баталгаажуулах товч харуулах" төдийгөөр шийдэж болохгүй. Агентын хүсэлт бүрийг шалгадаг криптограф түвшний гарын үсэг, дэд бүтцийн түвшинд заавал биет хүний 2FA (MFA) баталгаажуулалт шаарддаг Policy Gateway архитектурыг нэвтрүүлэх шаардлага үүсэж байна.

Төгсгөлд нь

AI хөгжүүлэлтийн хурдац бидний ажлыг хөнгөвчилж, кодын автоматжуулалтыг шинэ шатанд гаргаж байгаатай яг ижил хэмжээгээр кибер халдлагын зэвсэг болон хувирч байна. Хүний оролцоогүйгээр алдаагаа засаж, хамгаалалтын хаалтыг тойрон гарах чадвартай автоном системүүд туршилтын лабораториос аль хэдийн гарч, бодит интернэтэд ажиллаж эхэлжээ.

Цаашид чадварлаг инженерийн хэмжүүр зөвхөн хурдан код бичих бус, AI агентуудынхаа хүрээ хязгаарыг архитектурын хувьд хэрхэн найдвартай тусгаарлаж хамгаалах вэ гэдгээр тодорхойлогдох цаг үе ирж байна.

Эх сурвалж: Anthropic Threat Intelligence Report (September 2026), Inside Anthropic's AI Threat Report by Anthony Maio