OWASP "LLM Top 10 2026" Аюулгүй Байдлын Жагсаалт Шинэчлэгдлээ: AI Агентын "Excessive Agency" Хамгийн Аюултай Эрсдэлд Тооцогдож Эхэллээ

Хиймэл Интеллектийн Аюулгүй Байдлын Шинэ Стандарт

Open Web Application Security Project (OWASP) байгууллагаас LLM (Large Language Model) болон хиймэл интеллектэд суурилсан аппликейшнуудын аюулгүй байдлын хамгийн аюултай 10 эрсдэлийг тодорхойлдог OWASP Top 10 for LLM Applications 2026 жагсаалтаа шинэчлэн гаргалаа.

Энэ удаагийн шинэчлэл нь өмнөх хувилбаруудаас зарчмын том ялгаатай. OWASP өмнө нь зөвхөн аюулгүй байдлын шинжээчдийн санал асуулгад үндэслэдэг байсан бол 2026 оны хувилбарт 7,000 гаруй бодит AI аюулгүй байдлын инцидэнт, эмзэг байдлын өгөгдөл дээр тулгуурлан жинлэсэн (75% мэргэжилтний санал, 25% бодит инцидентийн дата) судалгааг танилцуулж байна.

Хөгжүүлэгчид болон архитектурын инженерүүдийн хувьд энэхүү жагсаалт нь AI систем, RAG архитектур, ялангуяа AI Агент (Agentic AI) хөгжүүлэхэд заавал дагаж мөрдөх аюулгүй байдлын гол удирдамж юм.

---

AI Агентууд ба "Excessive Agency" Огцом Дээшилсний Учир

Шинэчилсэн жагсаалтын хамгийн том өөрчлөлт нь LLM03: Excessive Agency (Захиргааны/Эрх мэдлийн илүүдэл) эрсдэл өмнөх 6-р байрнаас 3-р байр руу огцом дэвшсэн явдал юм.

Энэхүү өөрчлөлт нь сүүлийн ганц хоёр жилд хиймэл интеллект зөвхөн чатбот төлөвөөс бие даан даалгавар биелүүлдэг AI Agent (Agentic Workflows) архитектур руу шилжсэнтэй шууд холбоотой. AI агентуудад API дуудах, мэдээллийн бааз руу бичих, имэйл илгээх, код ажиллуулах зэрэг өндөр эрх олгож байгаа нь аюулгүй байдлын томоохон цоорхой үүсгэж байна.

Хөгжүүлэгч AI агентад систем дотор хэт өргөн эрх олгосноор, хэрэв тухайн модель нь Prompt Injection халдлагад өртвөл халдагч AI-аар дамжуулан баазын дата устгах, зөвшөөрөлгүй санхүүгийн гүйлгээ хийх эсвэл системд хортой код ажиллуулах бодит аюул тулгарч байна.

---

OWASP LLM Top 10 (2026) Жагсаалт ба Гол Өөрчлөлтүүд

Энэ оны жагсаалтын 10 категориос 8-ынх нь эрэмбэ өөрчлөгдсөн ба зарим нэр томьёог өгөгдлийн хамрах хүрээтэй нь уялдуулан тэлжээ:

1. LLM01: Prompt Injection (1-р байранд хэвээр): Моделийг төөрөгдүүлэх халдлага эхний байрандаа хэвээр үлдлээ. Гэхдээ 2026 оны стандартаар текстээс гадна зураг, аудио (Multimodal) болон persistent-context-өөр дамжих халдлагуудыг албан ёсоор хамруулсан.
2. LLM02: Sensitive Information Disclosure (2-р байранд хэвээр): Системийн эмзэг дата алдагдах эрсдэл. Шинэ стандартад зөвхөн хариулт текст биш, Embeddings, RAG Traces, Telemetry датагаар дамжин мэдээлэл алдагдах эрсдэлүүд нэмэгджээ.
3. LLM03: Excessive Agency (6-аас 3-р байр руу дэвшсэн): AI агентуудад олгосон хэт өндөр эрх, функц дуудах (tool calling) болон бие даасан зөвшөөрлөөс үүдэлтэй аюул.
4. LLM04: Data and Model Poisoning (4-р байранд): Сургалтын дата болон Fine-tuning процессыг замаас нь хордуулах эрсдэл.
5. LLM05: Unbounded Consumption (Өссөн): Моделийн ресурс, API зардлыг хязгааргүй дуудан системд Denial of Service (DoS) болон санхүүгийн хохирол учруулах эрсдэл.
6. LLM06: Misinformation (Өссөн): Моделийн гаргасан буруу мэдээлэл нь зөвхөн текст хэлбэрээр үлдэхгүй, AI агентын код ажиллуулах эсвэл API дуудах үйлдлийг буруу чиглүүлэх эрсдэл.
7. LLM07: Supply Chain Vulnerabilities (3-аас буусан): Нээлттэй эх сурвалжийн загвар, quantized файл, адаптер, гуравдагч талын сангуудын эмзэг байдал.
8. LLM08: Hidden Context Exposure (Өмнөх System Prompt Leakage): Нэрийг өөрчилж, зөвхөн систем промпт биш, RAG контекст болон нууц санамжийг тэлж хамруулсан.
9. LLM09: Vector and Embedding Weaknesses: Вектор мэдээллийн бааз болон эмбеддинг орон зайн аюулгүй байдал.
10. LLM10: Improper Output Handling (5-аас 10-р байр руу буусан): Моделийн үр дүнг системд шууд боловсруулахад үүсэх эрсдэл.

---

Хөгжүүлэгчид болон Архитекторуудын Анхаарах Зүйлс

Энэхүү шинэчлэгдсэн OWASP стандартын дагуу AI аппликейшн хөгжүүлж буй багууд дараах практик алхмуудыг коддоо хэрэгжүүлэх шаардлагатай:

1. Principle of Least Privilege (Хамгийн бага эрхийн зарчим): AI агентуудад Tool execution болон API Scope тохируулахдаа зөвхөн тухайн даалгаварт шаардлагатай хамгийн бага эрхийг олгох. Бүх зүйлийг хийж чаддаг "Super Agent" үүсгэхээс зайлсхийх.
2. Human-in-the-Loop (Хүний хяналттай баталгаажуулалт): Файл устгах, мэдээллийн баазад write/delete хийх, санхүүгийн транзакци болон имэйл илгээх зэрэг эрсдэлтэй үйлдлүүдэд заавал хэрэглэгчийн зөвшөөрөл (Approval gate) шаарддаг архитектур шийдэл хийх.
3. Multimodal Injection Defense: Зөвхөн хэрэглэгчийн текстом промптыг шүүхээс гадна Vision AI эсвэл Audio оролтод нуугдсан Prompt Injection халдлагыг шалгах валидаци хийх.
4. Agent-level Isolation ба Sandboxing: Терминал команд эсвэл код ажиллуулдаг AI агентуудыг Docker container эсвэл тусгаарлагдсан Sandbox орчинд ажиллуулах.

OWASP-аас мөн LLM моделийг аппликейшны "бүрэлдэхүүн хэсэг" (Component) гэж үзвэл OWASP LLM Top 10-ыг, олон алхамтай агентыг "бие даасан жүжигчин" (Actor) гэж үзвэл OWASP Agentic Security (ASI) стандартуудтай хослуулан ашиглахыг зөвлөж байна.

Эх сурвалж: OWASP GenAI Security Project, Help Net Security