AI өөрөө дараагийн AI-аа бүтээж эхлэх үед: Anthropic "Recursive Self-Improvement" тайлан ба дотоод нууц тоо баримтуудаа дэлгэлээ
Хиймэл оюуны түүхийн ихэнх хугацаанд загваруудыг сургах, өгөгдөл бэлтгэх, архитектурын туршилт хийх, код бичих бүх шат дамжлагыг хүний оюун ухаан, инженерүүдийн гар удирдаж ирсэн. Гэвч энэхүү уламжлалт хэв маяг үндсээрээ өөрчлөгдөж эхэллээ. Anthropic судалгааны байгууллагаас "When AI builds itself" нэртэй албан ёсны судалгааны нийтлэл болон дотоод сонирхолтой тоо баримтуудаа олон нийтэд дэлгэлээ.
Энэхүү тайлангийн гол агуулга нь AI системүүд дараагийн үеийн илүү хүчирхэг AI-ийг бие даан зохион бүтээж, туршиж, кодлох буюу Recursive Self-Improvement (RSI) процесс бодит практикт хэдийн эхэлснийг харуулж байна.
8 дахин өссөн бүтээмж, 80% AI бичсэн код
Anthropic компанийн хамтран үүсгэн байгуулагч Жак Кларкийн (Jack Clark) хуваалцсан баримтаас харахад өнөөдөр Anthropic-ийн өдөр тутмын үйлдвэрлэлийн (production) кодын 80 гаруй хувийг Claude өөрөө бичиж байна.
Тус тайланд дурдсан хамгийн анхаарал татахуйц үзүүлэлтүүд:
- 8x кодын бүтээмж: Anthropic-ийн инженерүүдийн нэг улиралд амжилттай deploy хийж буй кодын дундаж хэмжээ 2021–2025 оны үзүүлэлттэй харьцуулахад даруй 8 дахин өссөн.
- Инженер ба Агентын сүлжээ: Инженерүүд гараараа шууд код бичихээс илүүтэйгээр дунджаар 5–6 Claude агентийг нэгэн зэрэг удирдан, тэдгээр агентууд нь цааш нарийн чиглэлийн дэд агентуудад даалгавар хуваарилах хэлбэрээр ажиллаж эхэлсэн.
- Асуудал шийдвэрлэх хурд: Олон арван мянган сургалтын ажлыг (training jobs) унагаж байсан кластер дэд бүтцийн далд флагийн алдааг (obscure debugging flag) Claude 2-хон цагийн дотор өөрөө бие даан тусгаарлаж, нөхөн зассан нь инженерийн 3 өдрийн ажлыг хэмнэсэн байна.
Энэ нь AI зөвхөн хөгжүүлэгчийн autocomplete хэрэгсэл байхаа больж, систем хөгжүүлэлтийн циклийг өөрөө авч явах дараагийн шатанд шилжсэнийг баталж байна.
Recursive Self-Improvement (RSI) гэж юу вэ?
Компьютерийн шинжлэх ухаанд олон арван жил онолын түвшинд яригдсан Recursive Self-Improvement буюу рекурсив өөрийгөө сайжруулалт нь:
- Загвар $N$ өөрийнхөө дараагийн хувилбар болох Загвар $N+1$-ийн код, сургалтын стратеги, алдаа засалтыг гүйцэтгэнэ.
- Илүү ухаалаг Загвар $N+1$ гарч ирээд Загвар $N+2$-ыг бүр ч богино хугацаанд, илүү чанартай бүтээж эхэлнэ.
- Энэхүү эргэх холбоо нь технологийн үсрэлтийг экспоненциал хурдаар хөтлөх үзэгдэл юм.
Anthropic-ийн тайланд дурдсанаар, тэд загварын аюулгүй байдлын үнэлгээ (safety gap) болон Reinforcement Learning (RL) гипероновчлолын нарийн ажлуудыг бүрэн Claude агентуудад даатгахад ердөө 18,000 ам.долларын тооцоолох хүчин чадлаар хүний хийх нарийн тохируулгын 97%-ийг бие даан гүйцэтгэж чаджээ.
"Alignment Compounding" ба эрсдэлүүд
AI өөрөө өөрийгөө сайжруулах нь зөвхөн хөгжлийн хурдыг нэмэгдүүлээд зогсохгүй инженерийн томоохон эрсдэлүүдийг дагуулж байна:
- Алдааны хуримтлал (Error Compounding): AI загвар дараагийн үеэ сургах явцад гарсан өчүүхэн жижиг хазайлт (bias) болон логик алдаа үе дамжин өсөн үржиж, эцсийн хувилбарт хүн шалгаж ойлгоход хэтэрхий төвөгтэй "black-box" систем болох аюултай.
- Хяналтын алдагдал: Хэрэв программ хангамжийн бүх архитектур, сургалтын өгөгдлийн синтез, оновчлол AI-ийн гарт бүрэн шилжвэл асуудал гарсан үед хүний хяналтын механизм (Human-in-the-loop) хоцрогдох эрсдэлтэй.
- Зохицуулалт ба Зогсолт (Coordinated Pause): Anthropic-ийн зүгээс эдгээр аюулыг урьдчилан тооцоолж, хэрэв загваруудын бие даасан байдал тодорхой хязгаарыг давбал салбарын түвшинд "баталгаажуулсан түр зогсолт" (verified pause) хийх стандарт шаардлагатайг сануулжээ.
Хөгжүүлэгчдэд энэ юуг өгүүлж байна вэ?
Энэхүү шилжилт нь програм хангамжийн инженерүүдийн хувьд мэргэжлийн үнэ цэнэ хаашаа шилжиж буйг тодорхой харууллаа:
- Кодлогчоос Архитектор луу: Зүгээр нэг синтакс, boilerplate бичих ажлыг AI бүрэн давамгайлж байгаа тул инженерүүд систем дизайн, бизнес логик, AI агентуудын удирдлага (orchestration) дээр төвлөрөх шаардлагатай болж байна.
- Verification & Judgement: Код хэр их гарах нь чухал биш, харин AI-ийн гаргаж буй олон мянган мөр шийдэл, архитектурыг зөв чиглүүлэх, шалгах (verification), шүүмжлэлт сэтгэлгээгээр үнэлэх чадвар хамгийн үнэтэй капитал болж хувирч байна.
AI өөрийнхөө дараагийн үеийг бүтээх цикл албан ёсоор эхэлсэн бөгөөд программ хангамж бүтээх арга барил эргэлт буцалтгүй дараагийн эриндээ хөл тавилаа.
Эх сурвалж: Anthropic Research / The Anthropic Institute ("When AI builds itself"), TIME Magazine
Сэтгэгдэл
Ачаалж байна...