Таны терминалыг удирдаж буй AI-аас машинаа хэрхэн хамгаалах вэ: OpenAI Codex-ийн хамгаалалтын нууц дэлгэгдлээ
Хөгжүүлэгчийн өдөр тутмын амьдралд кодинг агентууд (Claude Code, OpenAI Codex, Cursor Agent г.м.) маш хурдтай нэвтэрч байна. Тэдэнд даалгавар өгөхөд код бичиж, хавтас үүсгэж, улмаар таны өмнөөс терминал (shell) дээр комманд ажиллуулдаг болсон. Гэвч энэ эрх чөлөө асар том эрсдэл дагуулдаг: Хэрэв агент хортой prompt injection, эсвэл халдварлагдсан npm package-тай таарвал яах вэ? Таны машины ~/.ssh/id_rsa, ~/.aws/credentials эсвэл төслийн .env файл интернэт рүү алдагдах, эсвэл rm -rf коммандаар чухал директори устах аюул бодитоор нүүрлэнэ.
OpenAI-ийн инженерийн багийн гишүүн Майкл Болин (Michael Bolin) саяхан "Inside the Codex sandbox" нэртэй техникийн гүнзгий дүн шинжилгээ нийтэлж, Codex агент хөгжүүлэгчийн төхөөрөмжийг сүйтгэхээс хэрхэн сэргийлдэг системийн түвшний архитектураа анх удаа дэлгэрэнгүй дэлгэлээ.
Агентын хамгийн хүчирхэг бөгөөд аюултай зэвсэг: Shell
Агентуудын хамгийн өндөр эрх мэдэлтэй хэрэгсэл бол терминал юм. Тэд тестийг ажиллуулах, dependency суулгах, Git салбар үүсгэхэд bash комманд дууддаг. Аюулгүй байдлын үүднээс компаниуд ихэвчлэн LLM-ийг "хортой үйлдэл хийхгүй байх"-д сургадаг (alignment training) боловч загвар нь README файл эсвэл тестийн өгөгдөл дотор нуугдсан заль мэхэнд хууртах эрсдэл үргэлж байдаг.
Хэрэв загвар хууртвал сүүлчийн хамгаалалтын шугам нь Хэрэгслийн түвшний хатуу хязгаарлалт (Harness sandbox) байх ёстой. OpenAI-ийн үзэж буйгаар "загварын ёс зүй"-д найдах нь хангалтгүй бөгөөд үйлдлийн системийн цөмийн (kernel) түвшинд тухайн коммандын хүрэх заагийг бодитоор түгжих шаардлагатай болсон байна.
Docker-оос татгалзсан шалтгаан: Яагаад чингэлэг биш гэж?
Ихэнх инженерүүд "Аюулгүй тусгаарлалт" гэхээр шууд Docker чингэлэг (container) эсвэл виртуал машин (VM) боддог. Гэвч Codex энэ замаар яваагүй. Яагаад?
Хөгжүүлэгчийн зөөврийн компьютер дээрх орчин маш өвөрмөц, тусгайлан тааруулсан тохиргоотой байдаг. Жишээ нь, macOS дээр iOS апп бичиж, компиляци хийж, iPhone симулятор ажиллуулах шаардлагатай үед түүнийг Docker чингэлэг дотор хуулбарлан ажиллуулах бараг боломжгүй. Хэрэв чингэлгээс гарч хост машин руу комманд илгээх юм бол үндсэн container-ийн тусгаарлалт утгаа алдана.
Тиймээс OpenAI хост орчны хэрэгслүүдтэй (Xcode, local compilers, simulator) бүрэн нийцтэй байхын зэрэгцээ аюулгүй байлгахын тулд OS-native sandboxing буюу үйлдлийн системийн өөрийнх нь үндсэн тусгаарлах механизмууд дээр тулгуурласан шийдлийг сонгожээ.
Гурван платформ, гурван тусгаарлалт
Codex нь платформ бүрд зориулан системийн түвшний өөр өөр технологиудыг ашигладаг:
- macOS дээр (Apple Seatbelt / sandbox-exec): macOS системд анхнаасаа байдаг цөмийн түвшний
Seatbeltбодлогыг ашигладаг. Энэ нь ажиллаж буй процесст хатуу profile зааж, зөвшөөрөгдсөн директориос бусад ямар ч файл, систем руу унших/бичих оролдлогыг шууд kernel түвшинд блоклодог. - Linux дээр (Bubblewrap - bwrap): Docker шиг root эрх шаардахгүйгээр энгийн хэрэглэгчийн эрхээр ажиллах боломжтой unprivileged user namespaces болон seccomp фильтрийг ашигладаг. Энэ нь зөвхөн шаардлагатай сангуудыг read-only хэлбэрээр mount хийж, үлдсэн бүх эгзэгтэй зам руу хандах эрхийг тасалдаг.
- Windows дээр (Restricted Tokens & Job Objects): Windows-ийн аюулгүй байдлын архитектур нэлээд нарийн төвөгтэй тул OpenAI тэнд Restricted User Tokens, тусгайлан үүсгэсэн дэд хэрэглэгчийн данс, Windows Defender Firewall-ийн түр зуурын дүрэм, Job Objects болон AppContainer бүтэцүүдийг хослуулан бүтээжээ.
Permission Profiles ба :workspace бодлого
Энэхүү sandbox-ийн удирдлага нь тун уян хатан бөгөөд хөгжүүлэгч өөрөө config.toml файлд Permission Profile тодорхойлж өгдөг.
- Default
:workspaceprofile: Агент комманд ажиллуулах үед түүнд зөвхөн тухайн нээсэн төслийн үндсэн хавтас дотор л файл үүсгэх, өөрчлөх бичих эрх олгогдоно. Харин~/.ssh,~/.bashrc, эсвэл хөрш хавтаснууд руу хандах бүх хүсэлт хатуу цуцлагдана. - Сүлжээний хяналт (Network Proxy): Хэрэв та зураг янзлах, эсвэл дата процесс хийх даалгавар өгсөн бол сүлжээний хандалтыг нь бүрэн унтрааж (offline), мэдээлэл интернэт рүү гадагшлахаас сэргийлж болно. Харин номын сан татах шаардлагатай бол зөвхөн
registry.npmjs.orgзэрэг шаардлагатай domain руу л залгагдах тусгай proxy тохируулж өгч байна.
Ингэснээр агентад "Бие даан комманд ажиллуулж өөрчлөлтөө шалгах" эрх чөлөөг нь олгож байгаа мөртлөө, түүнийг "ханаар хүрээлсэн өрөө"-нд түгжиж байгаа хэрэг юм.
Хөгжүүлэгчид юуг анхаарах хэрэгтэй вэ?
Кодинг агентууд зүгээр нэг чатбот байхаа больж, бидний компьютерийн үйлдлийн систем дээр бие даасан процесс болон хувирлаа. OpenAI-ийн энэхүү тайлан нь агентад чиглэсэн аюулгүй байдал цаашид ямар стандарттай болохыг харуулж байна:
- Prompt-д хэзээ ч бүү найдаарай: "Хувийн файлд бүү хүрээрэй" гэсэн системийн зааварчилгаа хэзээ ч 100% аюулгүй байдлын баталгаа болж чадахгүй. Аюулгүй байдлыг үйлдлийн системийн процесс, цөмийн түвшний зөвшөөрлийн хязгаарлалтаар баталгаажуулах ёстой.
- Орчноо хамгаалах дадал: Өөрийн ашиглаж буй AI хэрэгслүүд (Cursor, Codex, Claude Code) дотоод комманд дуудахдаа ямар эрхтэйг шалгаж, боломжтой бол тохиргоонд нь хавтасны хандалт болон сүлжээний хоригийг идэвхжүүлж хэвшээрэй.
AI хөгжүүлэлтийн ирээдүй зөвхөн том загваруудын ухаанаас гадна тэднийг бодит системд найдвартай, хяналттай ажиллуулах инженерийн нарийн хамгаалалтаас шууд шалтгаалж байна.
Эх сурвалж:
Сэтгэгдэл
Ачаалж байна...