"RSI бараг хаяанд ирлээ": Claude өөрийн кодынхоо 90%-ийг бичиж, Anthropic өөрийгөө сайжруулагч AI-ийн эрсдэлийг зарлалаа

Хиймэл оюун ухаан өөрөө өөрийнхөө дараагийн үеийг програмчилж, хүний оролцоогүйгээр сайжрах "Recursive Self-Improvement" (RSI) буюу рекурсив өөрийгөө сайжруулалт нь шинжлэх ухааны уран зөгнөлт зохиолын сэдэв байхаа больжээ.

АНУ-ын Үнэт цаас, биржийн хороонд (SEC) шинэчлэн хүргүүлсэн албан ёсны S-1/A бүртгэлийн тайландаа Anthropic компани хамгийн өндөр түвшний эрсдэлийн анхааруулгыг нэмсэн нь технологийн ертөнцийг шуугиулж байна. Тус баримт бичиг болон Anthropic-ийн судалгааны тайланд дурдсанаар, өнгөрсөн саруудад компанийн нийт кодын 90 гаруй хувийг Claude өөрөө бичсэн бөгөөд загвар өөрийгөө тасралтгүй сайжруулах эгзэгтэй заагт тун ойртож иржээ.

90% нь AI-ийн код: Инженерүүдийн бүтээмж 8-45 дахин өсөв

Anthropic-ийн дотоод судалгааны тайлангаас үзвэл, тус компанийн суурь загварууд болон дэд бүтцийн кодчлолд Claude асар өндөр түвшинд шууд оролцож байна. 2026 оны байдлаар компанийн инженер тус бүрийн сар, улиралд гаргаж буй кодын хэмжээ 2021-2025 оны дунджаас 8 дахин, зарим хэсэгт 2024 оны түвшнээс даруй 45 дахин нэмэгдсэн байна.

Өнөөдөр Claude зөвхөн хэрэглэгчийн веб цонхон дээр асуултад хариулдаг чатбот биш юм. Тэрээр Anthropic-ийн дотоод системүүд дээр:

• Дараагийн үеийн загваруудын сургалтын пайплайн (training pipeline),
• Датасет цэвэрлэгээ болон синтетик өгөгдөл үүсгэх автомат скриптүүд,
• Дэд бүтцийн тест, CI/CD автоматжуулалтын ажлуудыг бараг бүхэлд нь бичиж гүйцэтгэж байна.

Энэ нь хөгжүүлэгчийн бүтээмжийн хувьд гайхалтай мэт боловч уг системийн үр дүнд хүний тархи гүйцэж ойлгохоос ч хурдан хугацаанд дараагийн загварууд "өөрийгөө бүтээх" суурь тавигдаж эхэлжээ.

Рекурсив өөрийгөө сайжруулалт (RSI) гэж юу вэ?

Recursive Self-Improvement гэдэг нь хиймэл оюун өөрийн код, алгоритм, жин (weights) болон архитектурыг өөрчлөн сайжруулах чадвартай болж, тэрхүү шинэ хувилбар нь өмнөхөөсөө илүү хурднаар дараагийн үеэ бүтээх тасралтгүй эргэх холбоог (feedback loop) хэлдэг.

Anthropic өөрийн "Responsible Scaling Policy" (RSP) буюу Хариуцлагатай цар хүрээний бодлогодоо AI-ийн дэвшлийг аюулгүй хэмжээнд барих заалтууд оруулсан байдаг. Гэвч SEC-ийн тайланд орсон хамгийн гол шинэ өгүүлбэр нь:

"Манай дотоод тооцоолол болон дараагийн үеийн загваруудад тавьж буй хүлээлт нь бид удахгүй Хариуцлагатай цар хүрээний бодлогод тодорхойлсон 'AI-аас үүдэлтэй үлэмж хурдассан дэвшил' буюу RSI-ийн заагт хүрэх магадлалтайг харуулж байна."

Энэ бол хөрөнгө оруулагчдад зориулсан хууль ёсны анхааруулга төдийгүй технологийн түүхэнд анх удаа тэргүүлэх лаборатори өөрөө өөрийгөө хөгжүүлэгч AI тун ойртсоныг төрийн зохицуулагч байгууллагад албан ёсоор баталсан явдал юм.

Хамгийн түгшүүртэй хүлээн зөвшөөрөлт: "Үсрэлт гарсны дараа л анзаарсан"

Уг тайлангийн хамгийн цочирдмоор хэсэг нь судалгааны баг хөгжүүлэлтийн хурдац ба хүчин чадлын үсрэлтийг бодит цаг хугацаанд (real-time) хянах боломжгүй болж байгаагаа хүлээн зөвшөөрсөн явдал байв.

Баримт бичигт: "Бид өнгөрсөнд өөрсдийн хөгжүүлэлтийн хурдад гарсан мэдэгдэхүйц үсрэлтийг уг үйл явдал хэдийнэ болж өнгөрснөөс хойш л илрүүлж байсан. Цаашид ч ийм огцом хурдсалт болоход тухайн агшинд нь анзаарахгүй байх эрсдэлтэй" хэмээн шууд дурдсан байна.

Өөрөөр хэлбэл, AI загварууд өөрсдийгөө кодлох процесс нь инженерүүдийн бүтээсэн хяналтын метрик, benchmark-уудын хэмжих хурдаас давж, судлаачид "өөрсдөө ч мэдэлгүй" шинэ чадварын үсрэлтийн ард гарчихсан байх магадлал бодит эрсдэл болжээ.

Хөгжүүлэгчдийн хувьд энэ юу гэсэн үг вэ?

Энэхүү үйл явдал програм хангамжийн салбарт хоёр томоохон мессежийг өгч байна:

1. Код бичилт бүрэн автоматжих туйл руу шилжиж байна: Хэрэв дэлхийн хамгийн нарийн төвөгтэй AI судалгааны системийн кодын 90%-ийг хүн биш загвар өөрөө бичиж байгаа бол ердийн аппликейшн, веб болон микросервисийн түвшинд гараар boilerplate код бичих үе эргэлт буцалтгүй дуусаж байна.
2. "Code Review" ба "Intent Alignment" шинэ гол ур чадвар болно: Хүн цаашид "синтакс бичигч" биш, харин системийн архитектурын хил хязгаарыг сахиулагч, аюулгүй байдлын аудит хийгч (verifier) болж хувирч байна. Өөрөө кодоо бичиж, өөрөө deploy хийх чадвартай автоном агентуудын гаргах алдаа, хазайлт (misalignment)-ыг урьдчилан хязгаарлах аргачлалууд програм хангамжийн инженерийн хамгийн чухал хэсэг болно.

Anthropic одоогоор эцсийн чухал шийдвэрүүдийг хүний хяналтад бүрэн байлгаж байгаа гэдгээ мэдэгдсэн ч, рекурсив эргүүлэг нэгэнт эхэлбэл түүнийг зогсоох хяналтын системүүд хамт зэрэгцэж хөгжиж чадах эсэх нь томоохон асуултын тэмдэг хэвээр байна.

---

Эх сурвалж: TechCrunch, Gizmodo, U.S. Securities and Exchange Commission (SEC) Form S-1/A Filing.