Кодын 80 хувийг Claude бичиж байна: AI өөрөө өөрийгөө сайжруулах "RSI" эрин үе эхэлсэн үү?
Хөгжүүлэгчийн үндсэн үүрэг кодын мөр бүрийг гараараа бичихээс агент чиглүүлэх, архитектур удирдах тал руу шилжиж байгаа тухай бид олон жил ярьсан. Гэвч энэ шилжилт дэлхийн хамгийн хүчирхэг хиймэл оюуны лабораториудын дотор яг одоо ямар хурдтай өрнөж байгааг харуулсан шуугиантай баримтууд дэлгэгдлээ.
Anthropic-ийн төв байранд байрлан аудит хийсэн хараат бус аюулгүй байдлын METR (Model Evaluation and Threat Research) байгууллага болон тус компанийн дотоод тайланд дурдсанаар, дараагийн үеийн суурь загваруудыг хөгжүүлж буй кодын 80 гаруй хувийг Claude өөрөө бичиж байна. Энэ нь зөвхөн бүтээмжийн өсөлт биш, салбарынхны олон жил болгоомжилж ирсэн Recursive Self-Improvement (RSI) буюу өөрийгөө сайжруулах гогцоо бодитоор хаагдаж эхэлсний дохио болж байна.
1 жилийн дотор 2 жилийн ахиц: METR-ийн аудит ба бодит тоонууд
METR-ийн гаргасан үнэлгээний тайланд дурдсанаар, Anthropic сүүлийн нэг жилийн хугацаанд урьд нь 2 жил зарцуулдаг байсан хэмжээний судалгаа, хөгжүүлэлтийн (R&D) үр дүнг гаргасан байна. Хамгийн гол нь энэхүү үсрэнгүй хурдатгалыг хүний нөөцөө эрс нэмснээр биш, харин R&D ажлын дийлэнх хэсгийг AI-д даатгаснаар биелүүлжээ.
Дотоод хэмжилтүүдээс онцлох тоонууд:
- 8x илүү код: Anthropic-ийн инженерүүдийн улиралд ship хийж буй кодын дундаж хэмжээ 2021-2025 оны суурь үзүүлэлттэй харьцуулахад даруй 8 дахин өссөн.
- 80%+ автономит код: Системийн үйлдвэрлэлийн түвшний (production) кодын 70-аас 90 хүртэлх хувийг Claude бичиж байна. Хүний үүрэг нь код бичихээс илүүтэй code review хийх, чиглүүлэх түвшинд төвлөрчээ.
- 4x бүтээмжийн үсрэлт: Судлаачдын дунд явуулсан санал асуулгаар инженерүүд AI хэрэгсэлгүйгээр ажиллахаас 4 дахин илүү үр бүтээмжтэй ажиллаж байгаагаа мэдээлсэн байна.
Энэ бол зүгээр нэг Copilot ашиглан функц нөхөх тухай яриа биш юм. AI нь нарийн төвөгтэй кластер дэд бүтэц, дата бэлтгэл, сургалтын скриптүүд, туршилтын паpipeline-уудыг бүхэлд нь зохиож, өөрийн залгамжлагч моделийг сургах орчныг бэлдэж байна гэсэн үг.
Recursive Self-Improvement (RSI) гэж юу вэ?
Хиймэл оюуны судалгаанд RSI нь хамгийн эгзэгтэй цэгт тооцогддог. Энгийнээр тайлбарлавал:
AI шинэ AI сургах процессийг сайжруулна → Илүү ухаалаг AI гарч ирнэ → Тэр нь өөрийн дараагийн хувилбарыг бүр илүү хурдан, илүү чанартай сайжруулна.
Ингэж цикл давтагдахад хөгжүүлэлтийн хурд хүний тархины боловсруулах хязгаараас тасарч, экспоненциал муруйгаар өсөх магадлалтай.
Anthropic-ийн зүгээс бүрэн RSI (Full RSI) хараахан биелээгүй байгааг анхааруулсан. Учир нь өнөөдрийн байдлаар Claude юуг судлах, ямар архитектурын гипотез дэвшүүлэх чиглэлийг өөрөө шийдэж хараахан чадахгүй байгаа бөгөөд зөвхөн өгсөн даалгавар, архитектурын хүрээнд хэрэгжүүлэлтийг хийж байна. Гэсэн ч энэ хоёр заагийн хоорондох зай урьд өмнө төсөөлж байснаас ч богино болсныг шинжээчид дурдаж буй.
3 өдрийн алдааг 2 цагт шийдсэн бодит кэйс
Anthropic-ийн тайланд дурдсан нэгэн бодит кэйс хөгжүүлэгчдэд онцгой сонирхол татаж байна. Загвар сургалтын кластерт тогтмол шинэчлэлт хийх үед хэдэн арван мянган сургалтын ажил (training jobs) гэнэт crash хийж эхэлжээ. Дэд бүтэц асар том тул хаанаа ямар алдаа гарсныг гараар мөшгөх нь 2-3 хоногийн маш хүнд дебаг ажил болдог.
Инженер Claude-д зөвхөн кластерын хандалт болон лог текстийг өгч даалгавар тавихад, модель ажиллаж буй орчны параметрүүдийг нэг нэгээр нь тусгаарлан шалгаж, тест хийсээр системийн гүнд нуугдсан ганцхан ойлгомжгүй дебаг флагаас үүдэлтэй асуудлыг ердөө 2 цагийн дотор бүрэн илрүүлж, патч бэлтгэсэн байна. Энэ нь AI агентууд зөвхөн шинэ код бичих биш, бодит хугацааны нарийн төвөгтэй incident handling дээр аль хэдийн синиор түвшний дэд бүтцийн инженерийн хэмжээнд ажиллаж чадаж байгааг харууллаа.
Программ хангамжийн инженерүүдэд энэ юу гэсэн үг вэ?
Энэхүү тайлан бүх шатны хөгжүүлэгчдэд нэгэн чухал үнэнийг сануулж байна:
- Бичих чадвар биш, архитектурын шийдвэр үнэ цэнтэй болж байна: Инженер өөрөө 500 мөр код бичих нь давуу тал биш боллоо. Харин системийн хил хязгаар, өгөгдлийн урсгал, найдвартай ажиллагааг (reliability) тодорхойлж, хиймэл оюуны санал болгосон кодыг шүүмжлэлтэйгээр шалгах чадвар нэгдүгээрт тавигдана.
- Техникийн өр (Technical Debt) дарах зардал эрс буурна: Томоохон систем шилжүүлэг (migration), хуучирсан санг шинэчлэх, тест бичих зэрэг олон жил хойшлуулсан ажлуудыг AI агентуудад даатгах бүрэн боломжтой болсон.
- Хяналтын аюулгүй байдал (Human-in-the-Loop): AI загварууд өөрсдийн дараагийн хувилбарыг бүтээх код бичиж эхэлсэн энэ үед Responsible Scaling Policy буюу аюулгүй байдлын шалгуурууд, код review-ийн автомат хяналт хамгийн эгзэгтэй салбар болон хувирч байна.
Хиймэл оюун өөрөө өөрийгөө кодлож эхэлсэн нь ирээдүйн зөгнөл биш, харин дэлхийн шилдэг AI лабораториудын өдөр тутмын бодит ажлын урсгал болжээ.
Эх сурвалж:
- Anthropic Institute: Measurements for understanding the pace of AI development inside frontier labs
- METR (Model Evaluation and Threat Research) Evaluation Report & Business Insider: 3 takeaways from the big AI report on Anthropic
- The Anthropic Institute: When AI builds itself: Our progress toward recursive self-improvement, and its implications
Сэтгэгдэл
Ачаалж байна...