Anthropic "AI өөрөө өөрийгөө бүтээх" тайлангаа танилцууллаа: Инженерүүдийн кодын гарц 8 дахин өсөв

Хиймэл интеллект код бичихээс давж, өөрийгөө бүтээж эхлэв

Программ хангамжийн хөгжүүлэлтийн түүхэнд чухал эргэлтийн цэг тохиож байна. Хэдхэн жилийн өмнө бид AI-ийг зөвхөн кодын дараагийн мөрийг санал болгодог эсвэл бэлэн функц бичихэд тусалдаг "Copilot" төвшинд ашигладаг байсан бол өнөөдөр AI системүүд өөрсдийнхөө дараагийн үеийн загварыг хөгжүүлж, сургах процесыг бие даан гүйцэтгэж эхэлжээ.

Хамгийн сүүлд Anthropic судалгааны байгууллагаас "When AI builds itself" нэртэй чухал тайланг нийтэллээ. Уг тайланд дурдсанаар, хиймэл интеллект өөрөө өөрийгөө сайжруулах буюу Recursive Self-Improvement процессор луу шаталсан байдлаар шилжиж байгаа бөгөөд энэ нь программ хангамжийн инженерчлэл болон дата төвийн архитектурт урьд өмнө байгаагүй өөрчлөлтийг авчирч байна.

Anthropic-ийн дотоод дата: Инженерүүдийн бүтээмж 8 дахин өссөн нь

Anthropic-ийн нийтэлсэн дотоод датагаар, 2021–2025 оны дунджаас өнөөдрийн байдлаар нэг инженерийн нэг улиралд системд нэгтгэн оруулдаг (ship) кодын хэмжээ дунджаар 8 дахин нэмэгдсэн байна. Энэхүү огцом өсөлт нь зөвхөн хөгжүүлэгчид гараар хурдан шивж байгаатай холбоогүй юм.

Anthropic-ийн систем болон AI сургалтын багийн инженерүүд өдөр тутмын кодын рефакторинг, архитектурын өөрчлөлт, тест бичих, инфраструктурын тохиргооны 60 гаруй хувийг Claude агентуудаар гүйцэтгүүлж байна. Инженерүүдийн гол ажил нь код бичихээс илүүтэйгээр агентуудын бэлтгэсэн Pull Request-ийг хянаж, системд дүн шинжилгээ хийдэг систем аудитор (System Auditor) болон өөрчлөгджээ.

"Recursive Self-Improvement" гэж юу вэ?

Программ хангамжийн инженерчлэлд Recursive Self-Improvement гэдэг нь AI систем өөрийнхөө дараагийн загварыг (successor model) сургах, турших, оновчлох процесыг өөрөө бие даан залуурдахыг хэлдэг.

Өнөөдрийн байдлаар AI загварууд дараах үндсэн чиглэлүүдэд өөрсдийгөө хөгжүүлэхэд идэвхтэй оролцож байна:

Дата бэлтгэл ба нийлэгжүүлэлт (Synthetic Data Generation): Дараагийн загварт зориулсан сургалтын датаг AI агентууд өөрсдөө үүсгэж, чанарыг нь оновчлон шүүн цэвэрлэж байна.
Бенчмарк ба автоматжуулсан тест: Загварын сэтгэн бодох болон кодчиллын чадварыг шалгах нарийн төвөгтэй логик бодлого, edge-case тестүүдийг AI өөрөө зохиомжилж байна.
Hyperparameter Optimization ба Архитектур оновчлол: AI загварууд сургалтын алгоритмын тохиргоо, GPU санах ойн менежментийн кодуудыг бие даан бичиж, туршиж байна.
Инфраструктурын дибаггинг: Мянга мянган GPU бүхий тархмал кластер (distributed training) дээр гарсан техникийн саатлыг бодит хугацаанд илрүүлж, автоматаар засах скрипт болон кодын өөрчлөлтийг бэлтгэж байна.

Тархмал систем болон CI/CD пайплайны ирээдүй

Хөгжүүлэлтийн процесс ийм хурдацтай автоматжиж байгаа нь орчин үеийн CI/CD пайплайн болон DevOps архитектурт томоохон шаардлагуудыг тавьж байна. Уламжлалт хөгжүүлэлтэд код шалгах, компиляци хийх болон интеграцийн тестүүд хэдэн цагаар үргэлжилдэг байсан бол AI агентуудын эрин үед автоматижсан бенчмарк болон Validation (шалгах) шат хамгийн том Гацаа (Bottleneck) болж эхэллээ.

Агентууд хэдхэн минутын дотор арван мянган мөр код үүсгэж чадаж байгаа тул системд кодын өөрчлөлт орохоос өмнө санах ойн алдагдал (memory leak), аюулгүй байдлын эмзэг байдал, болон race condition байгаа эсэхийг секундэд багтаан шалгадаг шинэ үеийн автоматжуулсан архитектур шаардлагатай болж байна.

Хөгжүүлэгчдийн стратегийн шилжилт ба Хяналтын механизм

Энэхүү шилжилт нь програмчлалын чиглэлээр суралцаж буй болон ажиллаж буй хөгжүүлэгчдийн үүрэг ролийг дараах байдлаар өөрчилж байна:

Код бичихээс Оркестраци руу: Ирээдүйн программ хангамжийн инженерүүд код тус бүрийг гараар бичихэд бус, олон тооны AI агентуудыг хооронд нь уялдуулан ажиллуулах (agent orchestration) болон систем хоорондын интеграцид төвлөрнө.
Суурь туршлага ба Аюулгүй байдал: AI системүүд харахад маш цэвэрхэн боловч далд алдаатай код бичих магадлалтай байдаг. Тиймээс concurrency models, санах ойн хуваарилалт, сүлжээний протокол болон distributed systems-ийн суурь мэдлэгтэй хөгжүүлэгчид AI-ийн үүсгэсэн кодонд үнэлгээ өгөх хамгийн үнэ цэнтэй мэргэжилтнүүд болно.
"Human-in-the-Loop" хяналт: AI өөрөө өөрийгөө хөгжүүлж эхлэх үед хамгийн чухал механизм нь хүн бүрэн хянаж, чиглүүлж байх цагираг (supervisory loop) юм. Энэхүү хяналт нь алгоритмын гажилт болон аюулгүй байдлын эрсдэлээс сэргийлэх ганц хамгаалалт болж байна.

Дүгнэлт: Код шивэх биш, AI системийг чиглүүлэх эрин

Anthropic-ийн "When AI builds itself" тайлан нь программ хангамжийн салбар хаашаа чиглэж байгааг маш тодорхой харууллаа. Код бичих нь дижитал гар урлал байхаа больж, систем хариуцан зохион байгуулах инженерчлэл болон өөрчлөгдөж байна.

Монголын технологийн салбарын хөгжүүлэгчдийн хувьд зөвхөн бэлэн фрэймворкийн синтакс цээжлэх бус, тархмал системийн архитектур, систем аудитинг, болон AI агентуудыг оновчтой залуурдах чадварт суралцах нь ирээдүйд өрсөлдөх чадвараа хадгалах гол түлхүүр болно.

Эх сурвалж: Anthropic AI Research ("When AI builds itself")