AI бидний ажлыг булаахгүй, харин "чадваргүй" болгож байна: Инженерүүдийг цочоосон Deskilling хямрал

Сүүлийн үед технологийн салбарт хоёр туйлширсан таамаг хүчтэй яригдах болсон: Нэг хэсэг нь "AI бүх ажлыг булааж, инженерүүд үгүй болно" гэж айлгаж байгаа бол нөгөө хэсэг нь "AI код бичээд эхэлбэл системийн найдвартай байдлыг хариуцдаг SRE (Site Reliability Engineer) болон платформ инженерүүдийн үнэ цэн улам бүр өснө" гэж тайвшруулдаг.

Гэвч өчигдөрхөн инженерийн нийгэмлэг, тэр дундаа Hacker News дээр 500 гаруй оноо авч, 400 гаруй ширүүн сэтгэгдэлтэйгээр тренд болсон нэгэн нийтлэл цоо шинэ, бодитой асуудлыг хөндлөө. Гарчиг нь: "AI isn’t replacing SREs, it’s deskilling them" буюу "AI систем хариуцсан инженерүүдийг халж солихгүй, харин ур чадварыг нь мөхөөж байна".

Асуулт тун энгийн бөгөөд жихүүдэс төрүүлэм: "Хэрэв таны системд гарч буй нийт гэмтэл, саатлын (incidents) 95 хувийг AI агентууд автоматаар илрүүлж засаад байвал, үлдсэн хамгийн эгзэгтэй, шийдэгдэшгүй 5 хувийн сүйрэл ирэхэд та түүнийг шийдэж чадах уу? Та илүү туршлагатай болох уу, эсвэл бүр муудах уу?"

1983 оны "Автоматжуулалтын ёгсоо" буюу Ironies of Automation

Энэ асуудлын онолын суурь нь огт шинэ зүйл биш юм. 1983 онд Их Британийн танин мэдэхүйн сэтгэл судлаач Лизанн Бейнбриж (Lisanne Bainbridge) үйлдвэрлэлийн системүүдийг судалсны үндсэн дээр "Ironies of Automation" хэмээх сонгодог эрдэм шинжилгээний өгүүллээ нийтэлж байв.

Түүний дэвшүүлсэн ёгсоо дүгнэлт нь:

1. Системийн өдөр тутмын, давтагддаг, ойлгомжтой ажлуудыг автоматжуулах хамгийн хялбар байдаг.
2. Эдгээр энгийн даалгавруудыг машинд даатгаснаар хүний үүрэг нь зөвхөн "машин шийдэж чадаагүй, гэнэтийн, төсөөлөөгүй онцгой нөхцөл байдал"-д шийдвэр гаргах болж хувирдаг.
3. Гэтэл хүн өдөр тутмын жижиг алдаа, урсгал дасгалаар тархиа цэнэглэж, туршлага хуримтлуулахгүй бол машин шийдэж чадахгүй тэрхүү хэт төвөгтэй сүйрлийг даван туулах зөн совин, ур чадваргүй болж хоцордог.

Өөрөөр хэлбэл, автоматжуулалт хүнийг дадлагагүй болгохын зэрэгцээ түүнд оногдох даалгаврыг хэдэн зуу дахин хүндрүүлж орхидог байна.

Нисэхийн салбар ба эмч нарын гашуун сургамж

Энэ үзэгдэл бусад салбарт аль хэдийн батлагдсан. Агаарын тээвэрт нислэгийн 99%-ийг автомат жолоодлого (autopilot) удирддаг болсноор холын зайн нисгэгчдийн гараар онгоц удирдах ур чадвар мэдэгдэхүйц суларсан судалгаа бий. Тийм ч учраас АНУ-ын Иргэний нисэхийн захиргаа (FAA) autopilot 100% ажиллах боломжтой байсан ч нисгэгчдийг тогтмол гараар удирдах (manual flight hours) хугацааг заавал шаарддаг хатуу дүрэм мөрдүүлдэг.

Эрүүл мэндийн салбарт хийсэн өөр нэгэн бодит туршилтаар дурангийн шинжилгээнд AI ашигладаг эмч нарын бие даан полип (хавдрын урьтал) илрүүлэх чадвар 28%-аас 22% болтлоо буурсныг тогтоожээ. Хүн технологид дасах тусам тархины идэвхтэй сонор сэрэмж, хайлт хийх рефлекс унтдаг.

Программ хангамжийн ертөнц: "Mental Model" мөхөх аюул

Өнөөдөр Datadog, Dynatrace, PagerDuty зэрэг платформ хяналтын хэрэгслүүд болон терминалын AI агентууд нэвтэрснээр инженерийн багуудын ажлын арга барил асар хурдтай өөрчлөгдөж байна.

Өмнө нь яадаг байсан бэ? Шөнө дунд production унахад SRE инженер raw log дундуур грепдэж (grep), distributed trace мөшгиж, thread dump, memory leak ухаж байж системийн амьд бүтэц толгойд нь бүрэн "зураглал" (mental model) болон сийлэгддэг байв. Энэ зовлонт туршлага л инженер хүнд систем хаанаа хэврэг байгааг "үнэрлэх" инженерийн зөн совинг олгодог байсан билээ.

Харин одоо AI агент гарч ирээд: "Root cause нь redis холболтын pool дууссанаас болсон байна. Засахын тулд энэ командыг ажиллуул" гээд бэлэн шийдэл өгч байна. Инженер ч бодолгүйгээр Approve дарна. Өнгөн дээрээ бүтээмж 10 дахин өссөн мэт боловч үнэндээ инженерийн суурь логик атрофид орж (хатаж), баг бүхэлдээ системийнхээ дотоод динамикийг ойлгохоо больж байгаа юм.

Хэрэв хэзээ нэгэн цагт microservice-үүдийн хооронд хачирхалтай distributed deadlock эсвэл шинэ үеийн zero-day цоорхой үүсвэл AI галзуурч (hallucinate), буруу чиг заана. Тэр үед хар хайрцгийг нээж, гараараа удирдах чадвартай инженер үлдээгүй байвал яах вэ?

Инженерийн багууд өөрсдийгөө хэрхэн аврах вэ?

Хэлэлцүүлэгт оролцсон ахлах архитекторууд болон удирдагчид дараах 3 практик зарчмыг санал болгож байна:

1. "Manual Flight Protocol" хэрэгжүүлэх: Онгоцны нисгэгчидтэй адил, инженерийн багууд зарим энгийн гэмтлийг AI-д даатгалгүйгээр, зориуд гараараа forensic шинжилгээ хийж, лог ухах дасгалыг хуваарийн дагуу багийн соёл болгох.
2. AI-г "Оношлогч" биш "Сократын маягийн хөтөч" болгох: AI-д шууд бэлэн хариу өгүүлэхийн оронд "Чи эхлээд сүлжээний хоцролтоо шалгасан уу?", "Энэ метрикийн хазайлтыг юу гэж харж байна?" гэх зэргээр инженерийн сэтгэхүйг өдөөж, сургагч багшийн дүрээр ажиллах agent prompt дизайн хийх.
3. Chaos Engineering & Game Days: Систем дээр зориудаар томоохон уналт үүсгэж, AI хэрэгслүүдийг түр салгасан орчинд багийн залуу хөгжүүлэгчдийг бие даан гал унтраах симуляцид оруулах.

AI хэрэгслүүд бидний ажлын хурдыг нэмэгдүүлж байгаа нь үнэн. Гэхдээ машин таны өмнөөс сэтгэж, та зөвхөн "Yes/No" товчлуур дарагч оператор болох юм бол та ирээдүйн инженерийн ертөнцөд хамгийн амархан солигдох, хамгийн эмзэг сул тал болж үлдэнэ гэдгийг санахад илүүдэхгүй биз ээ.

---

Эх сурвалж: SigNoz Tech Analysis, Hacker News Community Discussion, Dr. Lisanne Bainbridge "Ironies of Automation"