AI агент сесс хооронд "зүүдэлж" алдаагаа засдаг боллоо: Anthropic-ийн Agent Memory судалгаа яагаад салбарыг донсолгож байна вэ?

Орчин үеийн томоохон хэлний загварууд (LLM) болон код бичдэг AI агентуудад нэг нийтлэг том дутагдал байдаг: тэд яг л Кристофер Ноланы "Memento" киноны гол дүр шиг ажилладаг. Сесс хаагдах төдийд бүх зүйлээ мартаж, дараагийн удаа нээхэд таны кодын бүтэц, өмнө нь гаргаж байсан алдаа, танай багийн архитектурын дүрэм зэргийг анх удаа харж байгаа мэт эхнээс нь эхэлдэг.

Бид энэ асуудлыг шийдэхийн тулд CLAUDE.md, .cursorrules, RAG (Retrieval-Augmented Generation) эсвэл контекст товчлох (compaction) зэрэг аргуудыг аргацаан ашиглаж ирсэн. Гэвч эдгээр нь жинхэнэ утгаараа "туршлагаасаа суралцаж, ой санамж үүсгэх" механизм биш байв.

Саяхан Anthropic-ийн инженерийн баг энэхүү гацааг арилгах "The components of agent memory" хэмээх цоо шинэ судалгаагаа дэлгэж, агентын ой санамжийн асуудлыг хүний биологийн тархины зарчмаар шийдэх "Dreaming" (Зүүдлэх) концепцыг зарлалаа.

Хүний тархи ба "Sleep-time Compute" архитектур

Хүний тархи өдрийн турш үзэж туулсан асар их мэдээллийг гиппокампус (hippocampus) дээрээ түр хадгалдаг. Харин шөнө унтаж байх үед буюу тайван амрах агшинд тархи өдрийн болсон үйл явдлуудыг дахин тоглуулан (replay), хэрэггүйг нь хасаж, алдаагаа дүгнэн, чухал мэдээллийг neocortex буюу урт хугацааны ой санамж руу бататган шилжүүлдэг билээ.

Anthropic-ийн судлаачид яг энэ механизмыг AI агентуудад хуулбарласан байна:

In-session logging (Шууд бичилт): Агент хэрэглэгчтэй ажиллаж, код бичиж байхдаа бүх үйл явц, транскрипт, консолын алдаануудыг түүхий лог (raw logs) болгон бичиж үлдээдэг.
Dreaming pass (Зүүдлэх үе шат): Агент ажиллахгүй сул зогсох (idle) үед системийн арын горимд "Dreaming" процесс эхэлнэ. Агент өөрийнхөө транскриптийг уншиж, аль тэмдэглэл нь алдаатай байсныг шалгаж, ирээдүйд хэрэг болох дүгнэлтүүдийг цэгцэлж, бие даасан мэдлэгийн бүтэц үүсгэдэг.

Энэхүү шийдэл нь загварын жинг (model weights) шинэчлэн train хийх шаардлагагүйгээр агентад тасралтгүй суралцах (continual learning) боломжийг олгож буй хэрэг юм.

Pokémon Red-ийн мухардал ба 350,000 файлын тест

Anthropic энэхүү судалгаагаа батлахын тулд хэд хэдэн сонирхолтой туршилт хийсний нэг нь алдарт Pokémon Red тоглоом байв.

Claude агент тоглоомын явцад нэгэн агуйг гатлах гэж оролдохдоо "Ар талд уул байна" гэсэн буруу тэмдэглэл (memory note) өөртөө бичиж үлдээжээ. Үүнээс болоод агент байнга хадны ирмэгээс доош үсэрч, анх эхэлсэн цэг дээрээ давтан бууж, гацалтад орсон байна. Тэрээр эцэст нь: "Нэг тойргоор дахин дахин эргэлдэхгүйн тулд би зогсохоор шийдлээ" хэмээн тоглоомоо орхисон аж.

Гэвч судлаачид түүнд "Dreaming" хийлгэхэд агент хуучин лог болон хийсэн үйлдлүүдээ эргэн шалгаж, хадны тухай тэмдэглэл нь бодит баримттай таарахгүй байгааг өөрөө илрүүлэн зассан байна. Дараагийн шинэ сесс эхлэхэд агент тухайн зассан тэмдэглэлийнхээ дагуу агуйг ямар ч саадгүй шууд даван гарчээ!

Үүнтэй ижил туршилтыг бодит өгөгдлийн сангийн бенчмарк (CL-Bench 1.0) дээр хийхэд:

Сесс хоорондын санах ойн фолдергүй Claude Opus загвар 0.383 оноо авч байсан бол санах ойн фолдер өгч зүүдлүүлснээр 0.700 (шинэ Opus 5.5 дээр бүр 0.838) хүртэл үсрэлт үзүүлсэн.
Зөвхөн "алдаагаа л бичиж ав" гэж хатуу дүрэм зааж өгөхөд загварын чадвар харин ч буурсан байна. Харин "амжилттай туршигдсан дүрэм"-ийг давхар хадгалуулах нь хамгийн өндөр үр өгөөжтэй байв.
350,000 орчим файлын баазтай Stainless-ийн дотоод систем дээр агент Dreaming-ийн хүчээр хоорондоо холбогдсон "Wiki" үүсгэснээр асуултад зөв хариулах магадлал нь 13%-аас 48% болж эрс өссөн байна.

"Context Compaction" яагаад хуучирсан бэ?

Сүүлийн үед хөгжүүлэгчид агентын санах ойг удирдахдаа урт мессежүүдийг товчлон хураангуйлдаг (compaction) аргыг голчлон хэрэглэж байв. Гэвч compaction нь өмнөх деталь болон бодит нотолгоо (evidence)-г хайчилж, хийсвэр дүгнэлт болгож орхидог сул талтай.

Anthropic-ийн тайлбарлаж буйгаар жинхэнэ "Agent Memory" гэдэг нь бүх зүйлийг санах тухай биш, харин:

Ирээдүйн хэрэгцээг таамаглах: Дараагийн сессэд юу хэрэг болохыг шүүн тунгаах чадвар (salience).
Алдаа засалт (Consolidation): Зүүдлэх үедээ хуучин буруу ойлголтуудаа өөрөө рефакторинг хийх.
Хэрэгтэй үедээ л дуудах: Контекст цонхыг бүхэлд нь дүүргэхгүйгээр зөвхөн одоогийн ажилд шаардлагатай тэмдэглэлийг дуудаж унших.

Салбарын шинэ толгойн өвчин: OpenTelemetry-ийн түүх давтагдах уу?

Энэхүү судалгаа нийтлэгдэхтэй зэрэгцэн инженерүүдийн дунд өөр нэгэн хурц шүүмж өрнөж эхэллээ.

Өнөөдөр хөгжүүлэгч бүрийн төсөл дээр .cursor/rules, CLAUDE.md, Anthropic-ийн memories фолдер, MCP memory сервер, Copilot memory зэрэг тус тусдаа форматын санах ойн файлууд холилдон оршиж байна. Тэдний нэг нь ч нөгөөгийнхөө санах ойг уншиж чадахгүй тусгаарлагдсан (siloed) байдалтай байгаа юм. Хэрэв та маргааш шинэ AI хэрэгсэл рүү шилжвэл өнгөрсөн хэдэн сарын турш AI-ийн сурсан "ой санамж" дахиад л тэгээс эхэлнэ.

LoreKit зэрэг нээлттэй эхийн санаачлагчид үүнийг 2019 оноос өмнөх Observability (мониторинг)-ийн ертөнцтэй зүйрлэж байна. Тухайн үед компани бүр өөрийн гэсэн агент, өөрийн гэсэн формат гаргаж өрсөлдөж байсны эцэст OpenTelemetry бий болж, нийтээрээ нэгдсэн протоколд шилжсэн билээ.

Одоо AI агент хөгжүүлэлтийн ертөнцөд ч яг ийм "Нэгдсэн нээлттэй санах ойн стандарт" (Open Agent Memory Format) бий болох цаг нь ирснийг салбарынхан онцолж байна.

Дүгнэлт: Хөгжүүлэгчид юунд бэлдэх ёстой вэ?

Хэрэв та олон агенттай систем (multi-agent) эсвэл урт хугацаанд бие даан ажиллах автоматжуулалтын систем хөгжүүлж байгаа бол санах ойн асуудлыг дан ганц vector бааз эсвэл урт prompt-оор шийдэх боломжгүй нь тодорхой боллоо.

Бидний агент бүтээх философи өөрчлөгдөж байна:

Агентынхаа хийсэн ажлыг бүртгэх сайн бүтэцтэй транскрипт бүртгэлийг бэлтгэх.
Агентдаа өөрийнхөө лог дээр рефлекс хийж, алдаагаа засах "зүүдлэх цаг" (sleep-time compute)-ийг системдээ төлөвлөх.
Түгжигдмэл формат биш, зөөвөрлөж болох цэвэр бүтэцтэй тэмдэглэлд суурилсан ой санамжийг чухалчлах.

AI нь зөвхөн хурдан хариулдаг "тооцоолуур" байхаа больж, өөрөө алдаанаасаа суралцдаг динамик бүтэц рүү алхам алхмаар шилжсээр байна.

Эх сурвалж: Anthropic Engineering: The components of agent memory, LoreKit: Agent memory needs its OpenTelemetry moment