OpenAI "Model Spec"-ээ бүрэн шинэчиллээ: Хиймэл оюуны шинэ стандарт хөгжүүлэгчдэд яагаад чухал вэ?

Хэрэв та OpenAI-ийн API ашиглан чатбот, автоматжуулалтын систем эсвэл код бичих бие даасан агент хөгжүүлж байсан бол зарим үед систем тань ойлгомжгүй шалтгаанаар хэрэглэгчийн хүсэлтийг няцаах, хэт хиймэл эелдэг тон харуулах, эсвэл System Prompt-ийг төгс мөрдөхгүй байх асуудалтай тулгарч байсан байх.

Эдгээр загварын зан төлөвийн суурь тохиргоо чухам хаанаас эхтэй вэ? Үүний хариулт нь OpenAI-ийн загваруудаа сургах (RLHF / post-training), шалгах болон чиглүүлэхэд ашигладаг албан ёсны зан төлөвийн баримт бичиг болох Model Spec юм.

OpenAI энэхүү баримт бичгийнхээ томоохон шинэчлэлийг албан ёсоор танилцууллаа. Шинэчлэлээр өмнөх олон жижиг, хатуу хориглосон дүрэм журмуудыг цуцалж, илүү ерөнхий таван суурь үнэт зүйл дээр суурилсан уян хатан бүтэц рүү шилжүүлжээ. Энэ нь зөвхөн хийсвэр философийн асуудал биш, харин хөгжүүлэгчдийн өдөр тутмын архитектур, агентуудын үйлдэлд шууд нөлөөлөхүйц практик өөрчлөлт юм.

1. Загварын шинэ үндэс: Таван суурь үнэт зүйл

Өмнөх Model Spec хувилбаруудад загвар ямар үед хэрхэн хариулах, ямар үг хэллэг сонгохыг нарийвчлан зааж өгдөг байсан нь шинэ нөхцөл байдалд загварыг хэт болхи эсвэл шаардлагагүйгээр "зөрүүд" болгох эрсдэл дагуулдаг байв. Шинэчлэгдсэн хувилбар нь загварын шийдвэр гаргалтыг дараах 5 зарчимд зангидаж байна:

Faithfulness to human intent (Хүний зорилго, санааг үнэнчээр дагах): Хамгийн чухал суурь багана. Зааврыг зүгээр л үгчлэн биелүүлэх бус, хэрэглэгчийн жинхэнэ санааг тухайн нөхцөл байдал (context)-тай уялдуулан ойлгох.
Harm minimization (Хохирлыг хамгийн бага түвшинд байлгах): Аюулгүй байдлын хатуу заагуудыг мөрдөх, болзошгүй хор хохирлыг тооцоолох.
Honesty and transparency (Үнэнч шударга, ил тод байдал): Өөрийн тодорхойгүй байдлыг нуулгүй илэрхийлэх, эх сурвалж, логик дарааллаа тодорхой тайлагнах.
Human agency (Хүний бие даасан байдал, эрх мэдлийг дэмжих): Хэрэглэгчийн өмнөөс дур мэдэн эцсийн сонголт хийлгүй, хүний шийдвэр гаргах эрхийг үргэлж хамгаалах.
Care (Халамж, хариуцлагатай байдал): Мэргэжлийн болон нийгмийн ёс зүйн хэм хэмжээг хүндэтгэх, системийн тогтвортой байдалд анхаарах.

2. Хөгжүүлэгчдэд юу өөрчлөгдөх вэ?

А. Тушаалын шатлал буюу "Chain of Command" тодорхой болов

Хөгжүүлэгчдийн олон сар маргалдсан "Миний System Prompt яагаад Base Safety Rule-д дарагдаад байна вэ?" гэх асуултад энэ шинэчлэл тодорхой хариулт өглөө. OpenAI эрх мэдлийн дарааллыг ингэж эрэмбэлжээ:

Түвшин 1 (Platform): OpenAI-ийн Model Spec-ийн суурь хязгаарлалтууд (хууль бус үйл ажиллагаа, кибер халдлага, ноцтой хор хохирол).
Түвшин 2 (Developer): Хөгжүүлэгчийн тодорхойлсон системийн дүрэм, бизнесийн хязгаарлалт, role болон function calling эрхүүд.
Түвшин 3 (End-user): Эцсийн хэрэглэгчийн оруулж буй prompt.

Хэрэглэгчийн заавар хэзээ ч хөгжүүлэгчийн тохиргоог давах эрхгүй бөгөөд хөгжүүлэгчийн дүрмүүд нь зөвхөн Түвшин 1-ийн суурь хоригоос бусад бүх талбарт бүрэн эрхтэй байхаар загварчилагдсан байна.

Б. Хэт загварчилсан Style дүрмүүдийг халсан нь

Өмнөх Model Spec-д загварыг ямар өнгө аястай байх тухай хэт олон нарийвчилсан заавар байсны ихэнхийг цуцалжээ. Энэ нь хөгжүүлэгчид өөрсдийн брэндийн өнгө аяс, зан төлөвийг (tone of voice) custom prompt-оор хүчлэх үед загвар эсэргүүцэх бус, илүү дуулгавартай хүлээж авдаг болно гэсэн үг юм. Мөн баримт бичигт хиймэл оюуныг "The Assistant" гэхээсээ илүү шууд "GPT" хэмээн нэрлэж эхэлсэн нь хийсвэр дүр эсгэлтийг багасгах зорилготой аж.

В. Tool Use ба Side Effects-ийн шинэ дүрэм

AI агентууд код бичих, файл үүсгэх, төлбөр тооцоо хийх зэрэг гадаад орчинтой шууд харьцах үед "Side Effects" буюу буцалтгүй үр дагавар үүсдэг. Шинэ Model Spec-д загвар нь:

Файл устгах, өгөгдлийн сан өөрчлөх, санхүүгийн гүйлгээ хийх зэрэг эргэлт буцалтгүй үйлдлүүд дээр хүний баталгаажуулалт (Human-in-the-loop) авахыг үндсэн зан төлөв болгожээ.
Хэрэв тухайн үйлдэл эрсдэлтэй бөгөөд тодорхойгүй бол заавал өөрийн төлөвлөгөөгөө хэрэглэгчид ил тод тайлбарласны дараа үргэлжлүүлэх үүрэгтэй.

3. Та одоо системдээ юуг анхаарах хэрэгтэй вэ?

Evaluation (Eval) тестүүдээ шинэчлэх: Model Spec нь CC0 1.0 (нийтийн эзэмшлийн) лицензээр нээлттэй хэвлэгдсэн тул та өөрийн байгууллагын LLM үнэлгээний pipeline-д (evals) эдгээр 5 үнэт зүйлийг rubric болгон шууд ашиглах боломжтой.
System Prompt-оо цэвэрлэх: Өмнө нь загварын "эелдэг байдал"-ыг дарах гэж бичдэг байсан урт, төвөгтэй negative prompt-уудаа (жишээ нь: "Do not yap, do not apologize, be direct") хөнгөвчилж болно.
Agent Action Logging: Агент тань шийдвэр гаргахдаа ямар зарчмыг (Agency vs. Intent) нэн тэргүүнд тавьсныг хянахын тулд COT (Chain of Thought) логуудыг шинжлэх механизм бүтээгдэхүүндээ суулгахыг зөвлөж байна.

OpenAI одоогоор ажиллаж буй бүх production загварууд энэхүү шинэ үзүүлэлтийг 100% бүрэн биелүүлж амжаагүй байгааг хүлээн зөвшөөрсөн ч, цаашдын бүх finetuning болон шинэ загварууд энэ стандартыг баримтлан сургагдах болно.

Эх сурвалж: OpenAI Safety Announcement, Unite.AI