LLM-ээр JSON задлах үе дуусав уу? Microsoft шийдвэр гаргалтад зориулсан "Decision-1" загварыг танилцууллаа

Сүүлийн хоёр жилд AI агент эсвэл LLM суурьтай систем бүтээсэн ямар ч хөгжүүлэгчийн шүдний өвчин болсон нэг нийтлэг зовлон бий: "Сонголт хийлгэх".

Хэрэглэгчийн асуултыг тухайн хэлтэс рүү нь чиглүүлэх (intent routing), өөр загварын гаргасан хариулт үнэн эсэхийг магадлах (hallucination eval), эсвэл агентын дараагийн алхам ямар Tool дуудахыг шийдэхэд бид асар том ерөнхий зориулалтын LLM-ийг ажиллуулдаг. Тэгээд хариуг нь заавал {"decision": "ALLOW"} гэсэн JSON болгож авахын тулд prompt инженерчлэл хийж, Structured Output тохируулж, үг бүрийг үүсгэхийг (token generation) хэдэн секунд хүлээж, дундуур нь JSON parse error гарах вий гэж эмээдэг.

Microsoft энэ гажиг бүтцийг үндсээр нь өөрчлөхөөр шийдэж, шийдвэр гаргалтыг текст үүсгэлтээс (generative) салгасан бие даасан Decision-1 загвараа албан ёсоор танилцууллаа.

Decision-1 гэж юу вэ?

Decision-1 нь өгүүллэг бичих, код зохиох эсвэл хүнтэй чатлах зориулалттай GenAI биш. Энэ бол хязгаарлагдмал боломжуудаас оновчтойг нь сонгох буюу цэвэр шийдвэр гаргах (decision-making) үйлдлийг миллисекундын дотор гүйцэтгэх тусгай хөдөлгүүр юм.

Хэрэглэгч системд тодорхой асуулт болон хариултын тогтмол сонголтуудыг (predefined options) өгөхөд уг загвар чөлөөт эх бичвэр үүсгэхийн оронд ганцхан дамжуулалтаар (single pass) сонголт бүрийн тохирох магадлалыг (calibrated probability) шууд тоон утгаар буцаадаг.

Энгийнээр хэлбэл, хөгжүүлэгчдийн бичдэг switch-case болон if/else нөхцөлт шалгалтуудыг AI-ийн түвшинд шууд магадлалын оноогоор удирдах боломжтой болж байна.

[Хүсэлт / Контекст] + [Сонголтууд: A, B, C] 
         │
         ▼
    Decision-1
         │
         ▼
[A: 0.94, B: 0.05, C: 0.01] (Нэг удаагийн тооцоолол, Токен үүсгэх шаардлагагүй)

Хурд ба өртөг: 35 дахин хурдан, гаралтын токенд $0

Одоогийн LLM-үүд нэг шийдвэр гаргахын тулд дараалсан хэдэн арван токен (reasoning trace болон хариултын текст) үүсгэдэг тул сүлжээний хоцролт (latency) өндөр, төлбөр нь өсдөг. Харин Decision-1 дээр дараах үзүүлэлтүүд бүртгэгджээ:

Гаралтын токен үнэгүй: Загвар хариу болгож урт текст генераци хийхгүй тул Output Token-ийн төлбөр $0 байна. Оролтын өртөг нь 1 сая токен тутамд ердөө $0.042 (4.2 цент).
Асар өндөр хурд: Microsoft-ийн сохор туршилтын (blind test) 36 төрлийн бенчмарк дээр Decision-1 нь өөрийн ангиллын хоёрдугаар байрын загвараас 2.5 дахин, том хэмжээний үүсгэгч загваруудаас 35 дахин хурдан ажилласан байна.
Суурь бүтэц: Уг загварыг Qwen3.5-9B дээр нарийвчилсан post-training хийж гаргаж авсан бөгөөд цаашид OpenAI болон Microsoft-ийн дотоод MAI загварууд дээр суурилуулан хүчин чадлыг нь нэмэгдүүлэхээр төлөвлөжээ.

Программ хангамжийн архитектурт юу өөрчлөгдөх вэ?

Энэхүү шинэчлэл нь Agentic AI систем бүтээж буй инженерүүдийн хувьд дэд бүтцийн томоохон эргэлт болж байна.

1. Төгс найдвартай Intent Routing

Хэрэглэгчийн хүсэлт ирэх үед:

Техникийн дэмжлэг үү?
Борлуулалт уу?
Системийн алдаа юу? гэдгийг шийдэхийн тулд өмнө нь LLM-д бүхэл бүтэн prompt өгч JSON хүлээдэг байсан бол одоо Decision-1 ашиглан 5-10 миллисекундэд магадлалын вектороо авч, коддоо шууд if (prob['technical'] > 0.85) гэж ашиглана.

2. Guardrails ба Evaluation давхарга

Үндсэн LLM ямар нэг хариулт үүсгэхэд уг хариу аюулгүй эсэх, дүрэм зөрчсөн эсэх, бодит баримтад тулгуурласан эсэхийг (Hallucination check) шалгах тусдаа "шүүгч" хэрэгтэй болдог. Decision-1 нь энэ үүргийг маш хямд, шуурхай хийх "Evals Gatekeeper" болж чадна.

3. Parsing алдаанаас бүрэн ангижрах

Хөгжүүлэгчийн хамгийн их цаг үрдэг JSONDecodeError, урьдчилан таамаглах аргагүй Markdown формат (```json), урт тайлбар дагаж ирэх зэрэг асуудлууд энд огт байхгүй.

Бүхнийг чадагч загваруудаас тусгайлсан микро-загварууд руу

Microsoft-ийн уг алхам нь AI зах зээл дэх нэгэн чухал бодит үнэнийг харуулж байна: Нэг том LLM бүх зүйлийг зэрэг сайн хийж чадахгүй.

Агентын архитектур хөгжихийн хэрээр шийдвэр гаргах логик (Decision/Control Plane) болон эцсийн бүтээгдэхүүнийг боловсруулах логик (Execution/Generation Plane) хоёр бие биенээсээ тусгаарлагдаж эхэллээ. Хөгжүүлэгч бидний хувьд энэ нь агент системүүдээ илүү хурдан, илүү хямд, хамгийн гол нь илүү найдвартай (deterministic) угсрах шинэ боломжийг нээж байна.

Decision-1 нь одоогоор Microsoft Foundry болон OpenRouter платформ дээр хөгжүүлэгчдэд нээлттэй туршигдаж эхлээд байна.

Эх сурвалж: InfoWorld, Microsoft AI Research & Renascence News