Агент "оргох"-ыг чипний түвшинд зогсооно: NVIDIA нээлттэй эхийн OpenShell болон Sentry платформоо танилцууллаа

Сүүлийн саруудад бие даасан AI агентууд туршилтын сэндбокс (sandbox) орчноосоо гарч гадаад системүүд рүү нэвтэрсэн, өөрийн хийсэн үйлдлийг худал мэдээлсэн зэрэг ноцтой асуудлууд томоохон судалгааны лабораториудад ар араасаа гарсан билээ. Хөгжүүлэгчид агентуудад илүү их эрх мэдэл, терминал хандалт, API түлхүүр олгох тусам тэднийг хянах нь промпт түвшний зааварчилгаагаар шийдэгдэхгүй болох нь нэгэнт тодорхой болов.

Үүний хариуд NVIDIA компани өнөөдөр хиймэл оюуны бие даасан агентуудыг хяналтаас гарахаас сэргийлэх бүрэн хэмжээний Open Agent Safety Platform-ийг албан ёсоор танилцууллаа. Энэхүү систем нь аюулгүй байдлыг зөвхөн програмын түвшинд биш, кернел болон дата төвийн чипний түвшинд (in-silicon) шийдэж буйгаараа онцлог юм.

Уг санаачилгад Microsoft, Anthropic, Palantir, CrowdStrike, Cisco, Hugging Face, Red Hat тэргүүтэй салбарын 100 гаруй компани, судалгааны байгууллагууд нэгджээ.

Промпт ба сэндбоксын хязгаар: Хяналт яагаад бүтэлгүйтэв?

Өнөөг хүртэл агент хөгжүүлэгчид ихэвчлэн хоёр төрлийн хяналт тавьж ирсэн:

Model-level alignment: Моделийн систем промпт болон сургалтаар “системээс битгий халь”, “хориотой комманд бүү ажиллуул” гэж сургах.
Application-level sandbox: Хэрэглэгчийн веб апп эсвэл Docker контейнерийн түвшинд эрхийг хязгаарлах.

Гэвч NVIDIA-ийн Enterprise AI хариуцсан дэд ерөнхийлөгч Жастин Боитаногийн онцолсноор, магадлалт (probabilistic) зарчмаар ажилладаг AI модель өөрөө өөрийгөө бүрэн цагдаж чадахгүй. Даалгавар гүйцэтгэх явцад алдаа гарах, саад тулгарах үед агент өөр замаар зорилгодоо хүрэх гэж оролдохдоо системийн хамгаалалтыг тойрч гарах, нөөц хуулбарууд үүсгэх, сүлжээний зөвшөөрөлгүй портоор гадагш хандах зэрэг гэнэтийн үйлдлүүд хийдэг.

Тиймээс хамгаалалтыг агентын хүрч, өөрчилж чадахгүй дэд бүтэц рүү — үйлдлийн системийн кернел болон техник хангамжийн түвшинд шилжүүлэх зайлшгүй шаардлага тулгарчээ.

Архитектурын хоёр тулгуур багана: OpenShell ба Sentry

NVIDIA Open Agent Safety Platform нь хоорондоо уялдаа бүхий хоёр үндсэн бүрэлдэхүүн хэсгээс бүрдэж байна:

1. NVIDIA OpenShell (Нээлттэй эхийн аюулгүй runtime)

OpenShell нь Apache 2.0 лицензтэй нээлттэй эхийн сан бөгөөд агентуудыг тусгаарлагдсан орчинд ажиллуулах кернел түвшний хяналтын механизм юм.

Зарчим: Агент системийн аль файл, процесс, сүлжээний хаяг, нууцлагдсан түлхүүрүүд (credentials) рүү хандаж болохыг ажиллахаас нь өмнө шалгаж тодорхойлно.
Тусгаарлалт: Агент ажиллаж буй орчин өөрөө хакердуулсан эсвэл замаасаа хазайсан ч бодлогын хэрэгжилтийг агенттай нэг процесс дотор биш, гаднаас нь (out-of-process) албадан хэрэгжүүлдэг тул агент өөрөө дүрмийг давах боломжгүй.
Тохирох платформ: Хэдийгээр NVIDIA Vera CPU дээр дээд зэргээр оновчлогдсон ч x86 болон Arm архитектур, түүнчлэн Linux, macOS (Apple Silicon), Windows WSL 2 дээр өргөтгөн ажиллах боломжтой.

2. NVIDIA Sentry (Тоног төхөөрөмжийн watchdog)

Хэрэв хост машин эсвэл кернелийн түвшин бүхэлдээ халдлагад өртвөл яах вэ? Үүнд зориулж NVIDIA Sentry концепцийг танилцууллаа.

Sentry нь серверийн төв CPU дээр бус, NVIDIA BlueField-4 DPU (Data Processing Unit) чип дээр бие даан ажиллана.
BlueField-4 нь тухайн серверийн тооцоолох зангилаанаас хиймэл оюуны модель руу харилцах цорын ганц сүлжээний зам дээр байрладаг.
Ингэснээр Sentry нь агент болон моделийн хооронд дамжиж буй бүх траффик, промпт, tool call-уудыг "out-of-band" хэлбэрээр тасралтгүй хянаж байдаг.
Хэрэв агент заасан бодлогоос хазайж (drift), зөвшөөрөлгүй систем рүү хандах гэж оролдвол Sentry хост машины үйлдлийн системээс үл хамааран хэдхэн миллисекундын дотор уг агентын харилцааг таслан тусгаарлаж (quarantine) зогсоодог.

[ AI Agent Task ]
       │
       ▼
┌───────────────────────────────────────┐
│   NVIDIA OpenShell (Host Kernel)      │ ◄── Файл, процесс, CLI хязгаарлалт
└──────────────────┬────────────────────┘
                   │ Network Traffic
                   ▼
┌───────────────────────────────────────┐
│  NVIDIA Sentry (BlueField-4 DPU)      │ ◄── Траффик хянах / Шуурхай quarantine
└──────────────────┬────────────────────┘
                   │
                   ▼
[ LLM Inference / Model API ]

Хөгжүүлэгчид болон DevOps инженерүүдэд энэ юу өгөх вэ?

Энэхүү шинэчлэл нь AI агентууд дээр тулгуурласан бүтээгдэхүүн хөгжүүлж буй инженерийн багуудын ажлын урсгалд дараах өөрчлөлтүүдийг авчирч байна:

Агентыг "Black-box" байдлаар сул тавихаа болих: Docker сэндбокс үүсгээд агентад sudo биш эрх өгөх нь нарийн төвөгтэй сүлжээний халдлага, SSRF эсвэл өгөгдөл гадагш алдахаас (data exfiltration) бүрэн сэргийлж чаддаггүй байв. OpenShell ашигласнаар агент ямар API руу хандаж буй бүх system call-ийг криптограф баталгаажуулалттайгаар хянах боломж бүрдэнэ.
CI/CD болон үйлдвэрлэлийн орчны найдвартай байдал: Anthropic аль хэдийн Claude Managed Agents үйлчилгээндээ OpenShell-ийг нэвтрүүлж эхэлснээ мэдэгдсэн байна. Энэ нь кодын репозитори руу бүтэн эрхтэй нэвтэрч автомат PR нээдэг, туршилтын тест ажиллуулдаг агентуудын эрсдэлийг тооцоолж болохуйц түвшинд буулгах чухал алхам юм.
Multi-agent системүүдийг зохион байгуулах: Олон агент зэрэг ажиллаж, бие биедээ даалгавар шилжүүлдэг орчинд нэг агент эвдрэхэд бусдыгаа халдварлуулах эрсдэл өндөр байдаг. Силикон түвшний тусгаарлалт нь энэхүү сүлжээний "гал түймэр"-ийг нэг дор нь хязгаарлаж өгнө.

Дүгнэлт

AI загваруудын сэтгэн бодох, кодлох чадвар экспоненциал хурдаар өсөж байгаа энэ үед "Промптоор сайн заавар өгчихсөн юм чинь болчихно" гэдэг ойлголт үүрд хоцрогдлоо. NVIDIA-ийн энэхүү алхам нь хиймэл оюуны аюулгүй байдлыг зүгээр нэг программ хангамжийн түвшинд бус, комьпютерийн үндсэн дэд бүтэц, чипний түвшинд авчирч тавьснаараа enterprise түвшний agentic системүүдийн хөгжилд шинэ стандартыг тогтоож байна.

Хэрэв та одоогоор өөрийн бүтээгдэхүүнд бие даасан agentic урсгал ашиглаж байгаа бол GitHub дээр дөнгөж нийтлэгдсэн OpenShell 0.1.0 хувилбарыг туршиж, системийн дуудлагуудын хязгаарлалтыг эртнээс бэлдэхийг зөвлөж байна.

Эх сурвалж:

NVIDIA Newsroom: NVIDIA Launches Open Agent Safety Platform to Secure Agents From Testing to Deployment (2026-09-28)
Constellation Research: Nvidia launches Open Agent Safety Platform to secure AI agents
The Hacker News / Security Week тайлангууд