501B параметртэй ч ердөө 23B-ийг нь ашиглана: Reflection AI нээлттэй эхийн "Beam" загварыг зарлалаа
Программ хангамжийн салбарт AI кодинг туслахууд болон бие даасан агент (agentic workflows) системүүд өдөр тутмын хөгжүүлэлтийн салшгүй хэсэг болоод байна. Гэвч хөгжүүлэгчдийн өмнө тулгардаг хамгийн том хоёр бэрхшээл нь өндөр өртөг бүхий инференс тооцоолол болон хаалттай коммерийн API-уудаас хараат байх явдал байсаар ирсэн.
Google DeepMind-ийн судлаачдын үүсгэн байгуулсан, Nvidia-аас хөрөнгө оруулалт авсан Reflection AI стартап энэ асуудлыг шийдэх зорилгоор цоо шинэ "Beam" загвараа албан ёсоор зарлалаа. Нийт 501 тэрбум (501B) параметртэй энэхүү аварга том загвар нь Sparse Mixture-of-Experts (MoE) архитектурыг ашиглаж, токен тутамд ердөө 23 тэрбум (23B) параметрийг л идэвхжүүлдэгээрээ онцлог юм. Хамгийн гол нь тус загварын жингүүдийг (weights) энэ сард багтаан хөгжүүлэгчдэд Apache 2.0 нээлттэй лицензээр бүрэн үнэгүй цацахаар болжээ.
Sparse MoE: Асар том мэдлэг, өчүүхэн тооцооллын зардал
Beam загварын гол философи нь "Intelligence per token" буюу токен тутамд ноогдох тооцооллын үр ашгийг дээд зэргээр нэмэгдүүлэхэд чиглэсэн байна.
- Параметрийн харьцаа: Загварын нийт параметр 501B боловч нэг токен боловсруулахад тэдгээрийн ердөө 4.6% буюу 23B параметр нь идэвхжинэ.
- 3-4 дахин бага инференс зардал: Энэхүү цомхон эксперт чиглүүлэлтийн (expert routing) ачаар Beam нь GLM-5.2 болон Qwen 3.8-Max зэрэг том хэмжээний загваруудтай дүйцэхүйц сэтгэх чадварыг 3-аас 4 дахин бага инференс тооцооллоор гаргаж чаддаг болохыг Reflection багийнхан онцолжээ.
- Ачаалал тэнцвэржүүлэлт: DeepSeek-V3-ийн нэвтрүүлсэн auxiliary-loss-free load balancing аргачлалыг сайжруулж, экспертүүдийн ачааллыг жигд хуваарилсан байна. Сургалтын төгсгөлд хамгийн их ачаалалтай эксперт нь дундаж ачааллаас ердөө 1.04x зөрсөн нь бүх экспертүүд тэнцвэртэй суралцсаныг баталж байна.
Бенчмарк: Код бичих болон агентын чадвараар тэргүүн эгнээнд
Beam нь энгийн чатбот байхаас илүү программ зохиох, төслийн алдаа засах, терминал дээр тушаал гүйцэтгэх зэрэг бодит хөгжүүлэгчийн ажлыг хийхэд зориулагдсан. Reflection AI-ийн танилцуулсан туршилтын үр дүнгээс дурдвал:
- SWE-bench Verified: 80.9% (Open-source моделиудын дунд рекорд тогтоож, хаалттай frontier моделиудтай өрсөлдөхүйц түвшинд хүрсэн).
- Terminal-Bench v2.1: 80.1% (CLI орчинд bash тушаал бичих, дибаг хийх агент чадвар).
- SWE-bench Pro v2-Hard: 77.2%.
- AIME 2026 (Математик, логик сэтгэлгээ): 97.8%.
- GPQA Diamond: 90.5%.
- Контекст цонх: Загварын архитектур нь 1 сая (1M) токен урттай контекст дэмжихээр бэлтгэгдсэн бөгөөд одоогийн бета API дээр 262,144 токеноор хязгаарлагдаж байна.
Хөгжүүлэгчид өөрсдийн төслийн хэрэгцээнд тааруулан загварын сэтгэх хугацааг тохируулах reasoning effort параметрийг ашиглаж, энгийн ажилд богино, нарийн төвөгтэй алгоритмд урт бодож хариулах горимыг сонгох боломжтой.
Дата ба сургалт: 10,500 GPU дээрх 1.3 тэрбум сандбокс
Beam-ийг бий болгох сургалтын процесс нь нээлттэй эхийн түүхэнд ховор тохиолдох цар хүрээтэй хийгджээ:
- Pre-training үе шат: Загварыг интернет, нээлттэй эх сурвалжуудаас маш нарийн шүүж цэвэрлэсэн 23.8 их наяд (23.8T) токен дээр 6,144 ширхэг Nvidia GB300 NVL72 GPU ашиглан 4 хүрэхгүй долоо хоногийн дотор бүрэн сургаж дуусгасан.
- Аж үйлдвэрийн түвшний RL (Reinforcement Learning): Хамгийн чухал нь агент чадварыг суулгахын тулд 10,500 ширхэг GB300 GPU дээр 4 долоо хоног ажиллажээ. Энэ явцад загвар нь 1 сая орчим виртуал орчинд, нийт 1.3 тэрбум тусгаарлагдсан сандбокс (sandboxes) дотор кодын бодлого туршиж, алдаагаа өөрөө засах 100 сая гаруй rollout хийсэн байна.
- Бүрэн асинхрон архитектур: RL сургалтын үед агентууд rollout хийж байх зуур үндсэн трейнер тасралтгүй суралцаж, шинэчлэгдсэн жингүүдийг дунджаар 12 секундийн дотор инференсийн кластерт хүргэдэг дэд бүтцийг босгожээ.
Хөгжүүлэгчдэд юу өөрчлөгдөх вэ?
Өнөөдрийг хүртэл өндөр чадвартай код бичигч агентуудыг ажиллуулахын тулд томоохон технологийн компаниудын үнэтэй API-д найдахаас өөр аргагүй байсан. Харин Beam загварын жингүүд Apache 2.0 лицензээр бүрэн нээлттэй болсноор:
- Байгууллагын дотоод кодын аюулгүй байдал: Эмзэг кодын баазыг гадаад сервер рүү дамжуулахгүйгээр on-premise сервер дээрээ бие даан ажиллуулах боломжтой болно.
- Хямд зардлаар агент ажиллуулах: 23B идэвхтэй параметртэй тул инференсийн техник хангамжийн шаардлага харьцангуй уян хатан бөгөөд токен тус бүрийн бодит өртөг үлэмж хямдарна.
- Fine-tuning ба хувийн тохируулга: reflection.ai-аас сургалтын стек, техникийн тайлан, үнэлгээний хэрэгслүүдийг хамтад нь нээлттэй болгох тул багууд өөрсдийн технологийн стек (фреймворк, дотоод сангууд)-д тохируулан fine-tune хийх өргөн үүд нээгдэж байна.
Одоогоор Beam нь урьдчилсан туршилтын (waitlist) шатандаа байгаа бөгөөд Apache 2.0 лицензтэй жингүүд болон загварын картууд нь энэ аравдугаар сард багтан Hugging Face болон албан ёсны эх сурвалжуудаар татагдахаар хүлээгдэж байна.
Эх сурвалж: Reflection AI Blog, AICoder & Unite.AI (October 2026)
Сэтгэгдэл
Ачаалж байна...