Ширээний компьютер дээр 816B кодчиллын загвар ажиллана: Meta задгай жинтэй "Muse Spark Open"-ийг Apple-тай хамтран гаргалаа

Llama-ийн эрин үе төгсөж, хиймэл оюуны томоохон компаниуд зөвхөн клоуд үүлэн дэд бүтэц рүү хаалттай загвар түгээх хандлагатай болоод байсан цаг саяхан. Гэтэл өнөөдөр Meta Superintelligence Labs (MSL) баг урьд өмнө нээлттэй жингээр гарч байгаагүй хамгийн том, хамгийн хүчирхэг кодчиллын загвар болох Muse Spark Open-ийг дэлхий даяар Hugging Face дээр үнэгүй байршуулж, хаалттай API-уудын зах зээлийг донсолгоод байна.

Энэхүү шинэ загвар нь зүгээр нэг энгийн LLM биш бөгөөд бүтэн репозитортой бие даан ажиллах (whole-repo generation), алдааг засварлах, тест ажиллуулах, цаашлаад Apple Silicon дээр орон нутагт (locally) өндөр хурдтай ажиллах бүрэн шийдэл болж ирснээрээ инженерүүдийн анхаарлыг татаж байна.

816 тэрбум параметр, гэхдээ ердөө 42 тэрбум нь л зэрэг ажиллана

Техникийн хувьд Muse Spark Open нь нийт 816 тэрбум параметртэй Mixture-of-Experts (MoE) бүтэцтэй. Гэхдээ загвар токен бүр дээр ердөө ~42.7 тэрбум параметрийг л идэвхжүүлдэг (active parameters) учир тооцооллын үр ашиг, инференсийн хурд нь уламжлалт том dense загваруудаас хамаагүй өндөр.

Гол үзүүлэлтүүд:

• Контекст цонх: Бүрэн 1 сая (1,000,000) токен. Том хэмжээний монолит кодын сан, баримт бичиг, хамаарлын модыг бүхэлд нь санах ойд хадгална.
• Оролт/Гаралт: Текст, зураг, видео, аудио дэмждэг native multimodal бүтэцтэй. UI/UX дизайн зургаас шууд frontend код үүсгэх, эсвэл хэрэглэгчийн видео бичлэгээс алдааг оношлох чадвартай.
• Test-Time Reasoning (Тунгаан бодох чадвар): OpenAI o-цуврал шиг гаралт өгөхөөсөө өмнө гүнзгий бодолтын хэлхээ үүсгэдэг. Хөгжүүлэгчид өөрсдийн таскын түвшнээс хамаарч reasoning_effort-ийг low, medium, high, xhigh гэж тохируулах боломжтой.
• Tool Calling ба Агент чадвар: Зэрэгцээ (parallel) функц дуудах, JSON схемээр бүтцэт өгөгдөл гаргах болон CLI командуудыг shell дээр туршин алдаагаа өөрөө засах бүрэн чадвартай.

Apple-тай хийсэн түншлэл: "Таны ширээн дээрх суперкомпьютер"

Энэхүү нээлтийн хамгийн шуугиан тарьсан хэсэг нь Apple-ийн шууд хамтын ажиллагаа байв. Meta загвараа Apple-ийн нээлттэй эхийн MLX array framework дээр үндэслэн тусгайлан оновчилжээ.

Ийм том загварыг өмнө нь зөвхөн хэдэн зуун мянган долларын өртөгтэй Nvidia H100/H200 серверийн кластер дээр л ажиллуулдаг байсан бол одоо хоёр ширхэг Mac Studio (M5 Ultra) төхөөрөмжийг өндөр хурдны сүлжээгээр холбож, нийт 1TB Unified Memory үүсгэн бүрэн эхээр нь ямар ч клоуд сервергүйгээр ажиллуулах туршилтыг танилцууллаа. Apple чипийн 1.2 TB/s санах ойн өргөн зурвасын (bandwidth) ачаар токен гаргалтын хурд нь бодит хугацаанд код бичихэд хангалттай өндөр түвшинд хүрч байна.

Харин тийм хэмжээний өндөр түвшний техник хангамжгүй хөгжүүлэгчдэд зориулж Unsloth баг тус загварын 2-bit Динамик GGUF хувилбарыг зэрэг гаргасан бөгөөд энэ нь 256GB RAM/VRAM бүхий ганц ажлын станц дээр чанараа алдахгүйгээр ажиллах боломжийг олгож эхэлжээ.

Хөгжүүлэгчдэд яагаад чухал вэ?

1. Кодын аюулгүй байдал ба Нууцлал (Privacy First): Олон компаниуд нууцлалтай болон зохиогчийн эрх бүхий код, финтек, банкны системүүдийн эх кодыг гаднын Claude юм уу OpenAI-ийн сервер рүү API-аар илгээхээс татгалздаг. Одоо инженерийн багууд өөрсдийн локал сүлжээ эсвэл дотоод дэд бүтэц дээрээ дэлхийн хамгийн шилдэг хаалттай загваруудтай дүйцэхүйц түвшний AI кодчийг суулгах боломжтой боллоо.

2. Бүтэн репозиторын түвшний даалгавар (Long-Horizon Tasks): Загварыг Muse Code хэрэгслээр дамжуулан бодит нээлттэй эхийн төслүүд (жишээ нь, Ice Cubes Mastodon клиент) дээр туршихад алдаа засах, шинэ боломж нэмэх, бүтэн build хийх хүртэлх бүх дамжлагыг хүний оролцоогүйгээр амжилттай дуусгасан байна. Энэ нь зүгээр л дараагийн мөрийг таадаг autocomplete биш, бүтэн системийн архитекторын түвшинд ажиллаж буйн баталгаа юм.

3. Vendor Lock-in-оос ангижрах: OpenRouter, Fireworks, Nebius болон Groq дээр өнөөдрөөс API хэлбэрээр нэгэн зэрэг тавигдаж эхэлснээр токен үнэ хурдацтай буурч ($1.25 input / $4.25 output), хөгжүүлэгчид ганц монопол үйлчилгээ үзүүлэгчээс хараат байхаа больж байна.

Дүгнэлт

Meta нээлттэй хиймэл оюуны стратегийг дахин дараагийн шатанд гаргалаа. 816 тэрбум параметртэй "Muse Spark Open" нь том хэмжээний хөгжүүлэлтийн студи болон бие даасан инженерүүдэд код бичих, рефакторинг хийх хамгийн найдвартай локал зэвсэг болж байна. Хэрэв та орон нутгийн супер станцтай бол эсвэл багийнхаа серверийг шинэчлэхээр төлөвлөж байгаа бол одоо Hugging Face болон Unsloth-ийн бэлэн GGUF файлуудыг татаж аваад туршиж үзэх цаг болжээ.

Эх сурвалж:

• Meta AI & Superintelligence Labs Announcement (Hugging Face / Meta Blog)
• 9to5Mac: "Meta launches new Muse Spark Open model, optimized to run on Mac Studio"
• Unsloth AI Documentation: "Meta Muse Spark Open - Run Locally Guide"