Cloudflare AI агентуудад зориулсан @cloudflare/computer сан ба "Isolate" дээр суурилсан райнтаймаа танилцууллаа

AI Агентуудад Тулгарч Буй Дэд Бүтцийн Мухардал

AI агент буюу автономит системүүд хөгжихийн хэрээр тэдгээрийг ажиллуулах сервер болон гүйцэтгэлийн орчны (execution environment) асуудал асар хурдацтай хурцдаж байна. Өнөөг хүртэл хөгжүүлэгчид AI агент бүрт зориулан тусдаа Docker контейнер эсвэл microVM (жишээ нь Firecracker, Docker Sandbox) үүсгэн ажиллуулах аргыг голчлон ашиглаж байв.

Гэвч код ажиллуулах, файл засварлах, скрипт бичих болгонд бүтэн Linux хэрэглэгчийн орчин (userland) болон контейнер ачааллах нь процессорын (CPU) нөөц болон санах ойг асар ихээр бардаг. Системд нэгэн дор мянга мянган автономит AI агентууд нэгдэж, тасралтгүй даалгавар биелүүлж эхлэх үед үүлэн платформ бүрд GPU-ээс гадна CPU болон контейнерийн дэд бүтцийн том дарамт үүсээд байгаа юм.

Энэхүү асуудлыг шийдвэрлэхийн тулд Cloudflare компани @cloudflare/computer хэмээх шинэ нээлттэй эх (open-source) райнтаймыг танилцууллаа. Энэхүү шийдэл нь AI агентуудын гүйцэтгэлийн орчныг үндсээр нь өөрчлөх архитектурыг санал болгож байна.

Контейнер Биш, Isolate + Container Хосолсон Архитектур

Cloudflare-ийн санал болгож буй гол санаа нь: "AI агентад даалгавар бүрд нь тусдаа контейнер биш, уян хатан задардаг Виртуаль Компьютер хэрэгтэй" юм.

Уламжлалт системд агентын хувьсах файл систем болон кодын гүйцэтгэл нэг контейнер дотор цугтаа байдаг бол @cloudflare/computer нь тэдгээрийг хоёр тусдаа давхаргад салгасан:

1. Төлөв болон Файл Систем (State & SQLite Storage): AI агентын ажлын орчны төлөв (workspace state) болон виртуаль файл систем нь тусдаа Durable Objects (SQLite суурьтай) дээр хадгалагдана. Ингэснээр файлыг унших, бичих, Git репозиторитой ажиллах зэрэг төлөвүүд нь ямар ч ажиллуулах серверээс хамаарахгүйгээр маш хурдан бөгөөд persistent (тогтвортой) байдлаар хадгалагддаг.

2. Хоёр Шатлалт Execution Backends: Агентын гүйцэтгэх даалгаврын төрлөөс хамааран систем автоматаар тохирох орчныг сонгодог:

   • Lightweight Isolate Runtime (Dynamic Workers): AI агентуудын гүйцэтгэдэг даалгавруудын 90 орчим хувь нь ердөө л файл унших, JSON/Markdown форматлах, JavaScript/TypeScript скрипт болон хөнгөн shell команд ажиллуулах байдаг. V8 Isolate технологи нь хэдхэн миллисекундэд (zero cold start) ажиллаж, ердөө цөөн мегабайт санах ой ашигладаг тул асар өндөр масштабыг даах чадвартай.
   • Full Container Runtime (Cloudflare Containers): Зөвхөн системд C++ си-сангууд (C-libraries), ffmpeg, pandoc гэх мэт тусгай бинар файлууд, эсвэл пакет менежер (npm, pip) ашиглах хүнд даалгавар ирсэн үед л контейнерийг FUSE ашиглан шаардлагатай хугацаанд залгаж ажиллуулдаг.

Ингэснээр 100% контейнер дээр суурилсан уламжлалт агентын системүүдтэй харьцуулахад нөөцийн зарцуулалт 10-аас 40 дахин багасч, хурд эрс нэмэгдэж байна.

AI SDK Интеграци ба Хөгжүүлэгчдийн Кодчилол

@cloudflare/computer багц нь Node.js ба TypeScript орчинд ажиллах бөгөөд Vercel-ийн AI SDK болон бусад LLM фрэймворкуудтай шууд нэгдэхэд зориулагдсан. Систем нь LLM-д зориулсан стандарт хэрэгслүүдийг (read, write, edit, ls, exec) олгох ба тухайн даалгаврыг Isolate дээр хурдан гүйцэтгэх үү эсвэл Container рүү шилжүүлэх үү гэдгийг загвар өөрөө тохируулан сонгодог.

import { Workspace } from "@cloudflare/computer";

export class AgentWorker {
  workspace = new Workspace({
    storage: this.ctx.storage, // SQLite суурьтай Durable Object
  });

  async handleRequest(prompt: string) {
    // Isolate backend дээр хөнгөн даалгавар ажиллана
    const result = await this.workspace.runtime.exec("cat README.md", {
      backend: "isolate", 
    });

    return result;
  }
}

Хөгжүүлэгчдэд олгож буй гол давуу талууд:

• Зардлын хэмнэлт: Контейнерыг сараар эсвэл цагаар байнга ажиллуулах шаардлагагүй, зөвхөн бодит ашигласан миллисекундээр тооцоо хийгдэнэ.
• Аюулгүй байдал ба Аудит: Бүх файлын өөрчлөлт, команд гүйцэтгэлийг систем түвшинд хянаж, аюулгүй байдлын аудит хийх боломжтой.
• Уян хатан интеграци: Агент нэг удаа үүсгэсэн файлын төлвөө хадгалж, хэд хэдэн ялгаатай execution backend дээр дараалан ажиллах чадвартай.

Дүгнэлт: AI-д Зориулсан Үүлэн Системийн Шинэ Эрин Үе

AI агентууд нэмэгдэхийн хэрээр интернэт ба үүлэн дэд бүтэц хүний хэрэглэгчид зориулагдсан хэв маягаасаа агентад зориулагдсан архитектур руу шилжиж байна. Файл системийг SQLite дээр тусгаарлаж, V8 Isolate ба Linux Container-ийг гибрид байдлаар хослуулсан @cloudflare/computer нь сая сая автономит агентуудыг зэрэг, бага зардлаар ажиллуулах томоохон алхам боллоо.

Эх сурвалж: Cloudflare Blog - Your agent needs a computer, not a container