Google шинэ "Gemini 4 Carbon" загвараа танилцууллаа: Prompt Injection-ий эсрэг 0% алдаа ба кибер хамгаалалтын шинэ стандарт

Хиймэл оюуны салбарт загваруудын хэмжээ, энгийн текст үүсгэх хурдаар уралддаг цаг үе хэдийнээ ард хоцорчээ. Одоогийн гол өрсөлдөөн нь бодит систем дээр бие даан ажиллах агентуудын найдвартай байдал, кодын гүнзгий архитектурыг ойлгох чадвар болон кибер аюулгүй байдалд чиглэж байна.

Google DeepMind саяхан өөрсдийн хамгийн сүүлийн үеийн "frontier" түвшний Gemini 4 Carbon загварыг албан ёсоор зарлалаа. Энэхүү шинэ загвар нь бие даасан хөндлөнгийн үнэлгээний платформ болох Artificial Analysis Intelligence Index v5.0 дээр 59 оноо авч, Claude Opus 5.5 (58 оноо) болон GPT-6 Astra (57 оноо)-г ардаа орхин дэлхийн №1 загвараар тодорлоо. Гэхдээ хөгжүүлэгчдийн анхаарлыг хамгийн их татаж буй зүйл нь зөвхөн энэ оноо бус, загварын кибер аюулгүй байдал, халдлага эсэргүүцэх чадвар юм.

1. Кибер аюулгүй байдлын "Гурван тулгуур": Олох, Нотолох, Засах

Өнөөгийн ихэнх LLM-үүд энгийн код санал болгохдоо сайн боловч том хэмжээний системийн цоорхойг олох, түүнийг ашиглан халдлага үйлдэх боломжтой эсэхийг (exploitability) баталгаажуулах, улмаар түүнийг хамгаалах бүрэн цогц патч (patch) бичих тал дээр дутагдалтай байдаг.

Gemini 4 Carbon нь салбарын аюулгүй байдлын стандартын шалгуурууд дээр үнэмлэхүй давуу үзүүлэлт үзүүлжээ:

SEC-bench Pro (88.2%): Систем дэх zero-day болон нийлмэл логик алдаа, кодын цоорхойг илрүүлэх чадвар.
ExploitGym (54.8%): Илрүүлсэн алдаа нь бодитоор системд аюул учруулах боломжтой эсэхийг баталгаажуулах туршилт (Claude Opus 5.5 уг шалгуурт 34.5% авсан).
CWE-bench (71.0%): Баталгаажсан эмзэг цэгүүдийг засах найдвартай хамгаалалтын патч үүсгэх чадвар.

Энэ нь хөгжүүлэгчийн CI/CD pipeline-д нэгдсэн тохиолдолд зүгээр нэг статик анализ (SAST) хийхээс гадна, бие даан халдлагын векторыг симуляци хийж, эрсдэлийг бодитоор баталгаажуулан шууд PR болгон засварлах боломжтой болж байгааг харуулж байна.

2. Indirect Prompt Injection-ий эсрэг "0.0%" амжилт

Автономит AI агентууд нэвтэрч буй өнөө үед хөгжүүлэгчдийн хамгийн том айдас бол Prompt Injection юм. Жишээлбэл, агент гадны нээлттэй эхийн сангийн README.md файл эсвэл хэрэглэгчийн ирүүлсэн алдааны тайланг унших явцад тэнд нуусан хортой зааварчилгааг системд гүйцэтгэх ноцтой эрсдэл байдаг.

Gray Swan судалгааны багийн Indirect Prompt Injection (IPI) хэмээх хатуу шалгуурт өмнөх үеийн Gemini 4 Argon загвар 0.7%-ийн эрсдэлтэй байсан бол Gemini 4 Carbon нь 0.0% буюу шалгагдсан бүх төрлийн далд injection халдлагыг бүрэн няцаасан дэлхийн анхны frontier загвар болсон байна. Ингэснээр агентуудад shell эрх олгох эсвэл файл системтэй ажиллах даалгавар өгөхөд аюулгүй байдлын түвшин мэдэгдэхүйц дээшилж байна.

3. Зөөгч биш, Механик: Агентын үйл ажиллагааны найдвартай байдал

Ихэнх AI загварууд даалгавар өгөхөд яг л "зөөгч" шиг ажилладаг: өгсөн зааварчилгааг дагаж, дутуу ойлгосон зүйлээ өөрөө зохиож таамагладаг (hallucination) эсвэл даалгавраас хэтэрсэн илүү үйлдэл хийж эх кодыг эвддэг.

Google DeepMind-ийн мэдээлснээр Carbon загварын хувьд:

Overreach (хэтрэх алдаа): 26 хувиар буурсан. Өөрөөр хэлбэл, хязгаарлагдмал хүрээнээс давж кодын бусад хамаарлыг дур мэдэн өөрчлөхөө больсон.
Under-service (дутуу орхих алдаа): 29 хувиар буурсан. Олон шатлалт, урт хугацааны даалгавруудыг эцсийг нь хүртэл гүйцэтгэх чадвар сайжирсан.
Collaboration (хамтын ажиллагаа): Заавар дутуу эсвэл зөрчилтэй байвал тааж хийхийн оронд хөгжүүлэгчээс тухайн зөрчлийг гаргаж ирэн асуудаг болсон.

Түүнчлэн Google-ийн инженерүүдэд зориулсан Antigravity CLI терминал орчинд туршихад Coding Agent Index дээр 59 оноо авч, одоогоор салбарыг тэргүүлж буй Anthropic-ийн Claude Code-той (62 оноо) тун ойртож иржээ.

4. Яагаад шууд олон нийтэд нээсэнгүй вэ?

Хэдийгээр олон нийтийн анхаарлыг татаж байгаа ч Google уг загварыг одоогоор нийт хөгжүүлэгчдэд шууд ашиглуулаагүй байна. Учир нь энэхүү загварын цоорхой олох, систем эвдэх чадвар (offensive capabilities) хэт өндөр тул хос зориулалттай (dual-use risk) технологийн ангилалд багтаж буй юм.

Google нь АНУ-ын засгийн газрын өндөр эрсдэлтэй AI загваруудын урьдчилсан шалгалтын хөтөлбөрт хамрагдаж байгаа бөгөөд эхний ээлжинд зөвхөн "Fairwind" хөтөлбөрийн итгэмжлэгдсэн кибер аюулгүй байдлын мэргэжилтнүүдэд хаалттай хандалт өгчээ.

Үүний дараа туршилтын хугацаа дуусмагц Gemini API, Google AI Studio болон Antigravity платформоор дамжин хөгжүүлэгчдэд нээгдэх юм. Үнийн хувьд нээлтийн урамшуулалтайгаар:

Input: $2 / 1 сая токен
Output: $10 / 1 сая токен
Prompt Caching: Кешлэгдсэн токенд 95%-ийн хөнгөлөлттэй байх юм.

Дүгнэлт

Gemini 4 Carbon загвар нь LLM-үүд зөвхөн "чатбот" биш, харин системийн инженерчлэл болон кибер батлан хамгаалах чиглэлийн бие даасан хамтрагч болж хувирч буйг тод харууллаа. Prompt injection-ий эсрэг 0% эрсдэлтэй ажиллаж чадаж байгаа нь ойрын ирээдүйд хөгжүүлэгчид сервер, продакшн систем, өгөгдлийн сангаа AI агентуудад итгэж даалгах итгэлцлийг эрс нэмэгдүүлэхээр байна.

Эх сурвалж: