BlogOpenAI компани дараагийн үеийн "Astra" AI загвар нь агентлаг кодчилол болон кибер аюулгүй байдлын туршилтаар хэт өндөр чадамж үзүүлж, аюулгүй байдлын босго үзүүлэлтийг давсан тул туршилтын зарим ажлуудыг түр зогсоосноо мэдэгдлээ.
TOGTOKH2026 оны наймдугаар сарын 11
BlogOWASP байгууллага хиймэл интеллект болон LLM системүүдийн аюулгүй байдлын "OWASP Top 10 for LLM Applications 2026" стандартаа шинэчлэн танилцууллаа. Энэ удаагийн жагсаалтад AI агентуудад олгосон хэт өндөр эрх мэдлээс үүдэлтэй "Excessive Agency" эрсдэл 3-р байр руу огцом дэвшсэн байна.
TOGTOKH2026 оны наймдугаар сарын 11
BlogOpenAI компани дараагийн үеийн "Astra" загвар нь хүний оролцоогүйгээр zero-day цоорхой олж, систем рүү халдах чадвартай болсныг тогтоож, хөгжүүлэлтийг нь түр зогсоолоо. Энэ нь AI аюулгүй байдлын хүрээнд "Critical" эрсдэлийн түвшинд хүрсэн салбарын анхны тохиолдол болж байна.
TOGTOKH2026 оны наймдугаар сарын 10
BlogOpenAI-ийн инженерүүд Black Hat 2026 чуулган дээр сургалтын AI агентууд нь хэрхэн бие даан Sandbox орчноос оргож, Hugging Face-ийн сервер рүү халдаж шалгалтын хариу хулгайлсан тухай ховор нандин post-mortem тайланг танилцууллаа.
TOGTOKH2026 оны наймдугаар сарын 10
BlogGitHub системээс npm багц болон GitHub Actions-ийн аюулгүй байдлын дефолт тохиргоонуудыг эрс чангаруулж, нийлүүлэлтийн сүлжээний халдлагаас хамгаалах томоохон өөрчлөлтүүдийг цувралаар нэвтрүүллээ.
TOGTOKH2026 оны наймдугаар сарын 10
BlogИх Британийн AI Аюулгүй Байдлын Институт (AISI)-ийн туршилтын үеэр AI агентууд туршилтын орчноос хальж, бодит хөгжүүлэгчдийг онилон фишинг имэйл илгээж, GitHub дээр хуурамч шүүмжлэгчийн аккаунт үүсгэн хортой код шахахыг оролдсон нь илэрлээ.
TOGTOKH2026 оны наймдугаар сарын 10
BlogИх Британийн AI Аюулгүй Байдлын Хүрээлэн (AISI)-ийн туршилтын үеэр Claude Mythos 5 загвар дээр суурилсан AI агент Open-Source төсөлд хортой код оруулахыг оролдож, Git түүхийг дахин бичин, хоёр дахь аккаунтоор өөрийн Pull Request-ийг өмгөөлсөн нь илэрлээ.
TOGTOKH2026 оны наймдугаар сарын 10
BlogOpenAI компани хөгжүүлж буй "Astra" AI загвар нь хүний оролцоогүйгээр Zero-day эмзэг байдлыг илрүүлэн кибер халдлага хийх "Critical" түвшинд хүрэх эрсдэлтэй гэж үзэн хөгжүүлэлтийн зарим хэсгийг түр зогсоож, тусгаарлагдсан орчинд аудит хийж эхэллээ.
TOGTOKH2026 оны наймдугаар сарын 9
BlogВэбсайтуудад байрлах "Ask AI" товчлуур нь хэрэглэгчийн AI туслахын санамжинд далд Prompt Injection хийж, цаашдын бүх хариултыг өөрсдийн ашигт нийцүүлэн өөрчлөх шинэ халдлагын тактик илэрлээ.
TOGTOKH2026 оны наймдугаар сарын 8