NVIDIA AI Агентыг Ганцхан Python Class-д Багтаах Open-Source "NOOA" Фрэймворкийг Танилцууллаа

AI агент (AI Agent) хөгжүүлж буй хөгжүүлэгч болон инженерүүдийн хувьд хамгийн том саад бэрхшээл бол систем задарсан (fragmented) бүтэцтэй байдаг явдал юм. Одоогийн ихэнх фрэймворк дээр системийн промпт нь файл доторх урт текст, tool-үүд нь JSON schema тодорхойлолтууд, callback логикууд болон workflow-ууд нь тус тусдаа модулиудад хуваагддаг. Үүнээс үүдэн агентын төлөв (state)-ийг хянах, unit test бичих, static analysis хийх болон аюулгүй байдлын аудит хийхэд асар төвөгтэй болдог билээ.

Энэхүү асуудлыг сууриар нь шийдэх зорилгоор NVIDIA Labs "NOOA" (NVIDIA Object-Oriented Agents) нэртэй open-source фрэймворкийг албан ёсоор танилцууллаа. Apache 2.0 лицензтэйгээр зарлагдсан энэхүү фрэймворк нь AI агентын архитектурыг ердийн Python програмчлалын Object-Oriented Programming (OOP) хэв маягт шууд буулгаж, агентыг ердөө нэг Python class болгон кодчлох боломжийг олгож байна.

Ганц Class, Бүрэн Агент: Одоогийн Архитектурын Өөрчлөлт

NOOA-ийн гол философ ба зарчим нь тун энгийн: "AI агент бол ерөөсөө л нэг стандарт Python class юм."

Тус фрэймворк нь агентын бүх бүрэлдэхүүн хэсгүүдийг салангид JSON schema эсвэл мета өгөгдөл болголгүйгээр нэгдмэл өгөгдлийн бүтцэд зангидаж өгдөг:

Class Docstring: Агентын систем промпт (system prompt) болон моделийн зааварчилгаа болно.
Class Fields (Attributes): Агентын төлөв (state) болон санамж. Өгөгдлийн төрлийг стандарт Python-ийн type annotation ашиглан тодорхойлно. Өгөгдөл нь санах ой дээр шууд reference-ээр дамжих тул тухай бүр JSON сериализаци хийх шаардлагагүй.
Class Methods: Агентын хийж чадах үйлдлүүд (actions & capabilities).
Type Annotations & Contracts: Моделийн хүлээж авах болон буцаах өгөгдлийн гэрээ (contract)-г runtime орчинд шалгаж алдаанаас сэргийлнэ.

Хамгийн сонирхолтой нь NOOA дээр method-ийг хоёр янзаар бичих боломжтой. Хэрэв method-ийн бие нь детерминистик кодтой бол тэр нь ердийн Python функц шиг шууд ажиллана. Харин method-ийн бие нь ердөө гурван цэг буюу ellipsis (...) байвал тухайн функцийг ажиллах үед (runtime) LLM загвар автоматаар өөрөө биелүүлж, динамикаар код үүсгэн ажиллуулна.

Жишээ Код: Хөгжүүлэгчид Яаж Бичих Вэ?

NOOA фрэймворк нь pip install nooa коммандаар суух бөгөөд Python 3.12 болон 3.13 хувилбарыг шаарддаг. Хөгжүүлэгчид дараах тун цэгцтэй хэв маягаар агент бичих боломжтой:

from nooa import Agent

class CustomerSupportAgent(Agent):
    """Та бол хэрэглэгчдэд туслах, захиалга шалгах болон ticket үүсгэх үүрэгтэй систем агент юм."""

    # Агентын төлөв ба санамж (Fields = State, typed fields)
    order_db: OrderDatabase

    # Детерминистик код (Ердийн Python метод - модель шууд дуудаж болно)
    def is_eligible_for_refund(self, order: Order) -> bool:
        """Захиалга буцаалт хийх шаардлага хангасан эсэхийг шалгалж буцаана."""
        return order.is_delivered and order.days_since_delivery <= 14

    # Агентлаг код (LLM-ээр динамикаар гүйцэтгэгдэх метод)
    async def process_triage(self, user_message: str, order: Order) -> SupportTicket:
        """Хэрэглэгчийн асуудлыг ангилан шийдвэрлэх ticket үүсгэнэ."""
        ...

Дээрх жишээнээс харахад process_triage функцийн биед ердөө ... байгаа бөгөөд NOOA runtime нь моделийн дотоод давталтаар (LLM-driven loop) түүний signature, docstring болон return type-ийг уншиж даалгаврыг аюулгүйгээр гүйцэтгэдэг.

Бенчмарк Үр Дүн: Токены Зарцуулалтыг Багагсгаж, 82.2% Үр Дүнд Хүржээ

NVIDIA-ийн судалгааны багийн мэдээлснээр, NOOA архитектур нь зөвхөн кодын бүтцийг цэгцлээд зогсохгүй, AI моделийн гүйцэтгэл болон токены хэрэглээг асар өндөр хэмжээгээр оновчилсон байна. Агентын контекст болон промптыг синтакс түвшинд оновчтой зангидаж өгснөөр токен хаягдал эрс багасжээ.

Гол бенчмарк үзүүлэлтүүд:

SWE-bench Verified: GPT-5.5 загвартай хосолж 82.2% үр дүн үзүүлсэн.
Токены хэмнэлт: Бусад нээлттэй агент фрэймворкуудтай харьцуулахад даалгавар бүрт дунджаар 1.1 сая токен зарцуулсан нь өрсөлдөгчдийн (2.2 сая токен) хэрэглээнээс бараг 2 дахин бага байна. Модель руу хийх дуудлагын тоо ч 66-аас 28 болж буурчээ.
Бусад бенчмарк: Кибер аюулгүй байдлын даалгавар бүхий CyberGym L1 дээр 86.8%, ARC-AGI-3 дээр 85.1% дундаж RHAE, болон Terminal-Bench 2.0 дээр 73.0% үзүүлсэн байна.

Энэхүү зардал ба токены хэмнэлт нь AI агент хөгжүүлж буй компаниудын хувьд дэд бүтцийн зардал (inference cost)-аа хэд дахин бууруулах бодит боломж юм.

Аюулгүй Байдал ба Изоляци (Sandbox Execution)

NOOA фрэймворк нь model-agnostic бөгөөд LiteLLM, NVIDIA NIM, OpenAI, Anthropic, Ollama болон vLLM endpoint-уудтай шууд интеграци хийгддэг.

Гэсэн хэдий ч NVIDIA-аас аюулгүй байдлын хувьд онцгой анхааруулга өгч байна. Агентууд нь LLM-ийн үүсгэсэн Python кодыг REPL орчинд шууд гүйцэтгэдэг тул фрэймворкт багтсан AST шалгалт болон module deny-list нь зөвхөн анхан шатны хамгаалалт (defense-in-depth) юм. Иймд NOOA агентуудыг үйлдвэрлэлийн орчинд (production) ажиллуулахдаа заавал Docker контейнер, Isolation VM эсвэл NVIDIA OpenShell тусгаарлагдсан орчинд заавал ажиллуулах ёстойг сануулжээ.

Дүгнэлт: Pythonic Архитектурын Шинэ Эрин Үе

Агент хөгжүүлэлтийн салбар анхны промпт инжиниринг ба JSON-based tool дуудлагуудаас хальж, стандарт програм хангамжийн инженерчлэлийн архитектур руу шилжиж байна. NVIDIA NOOA фрэймворк нь AI агентыг ердийн Python объект шиг static analysis (mypy), unit test (pytest), дебаггер болон Git version control хийх бүрэн боломжийг олгож байгаа юм.

Инженерүүд одоо задарсан промпт кодуудыг холбох гэж цаг алдах шаардлагагүй болж, Python-ийн ООП зарчмаар агентын дотоод логикийг турших, хянах шинэ боломж нээгдлээ.

Эх сурвалж: NVIDIA Technical Blog & GitHub Repository