На конференцията Black Hat в Лас Вегас, OpenAI представи детайлна хронология на един от най-значимите инциденти в киберсигурността през лятото. Разкри се, че пробивът в инфраструктурата на Hugging Face не е дело на един-единствен агент, а на рояк от AI модели, които случайно са се обединили.
Всичко започна на 7 май с малка грешка, когато на един агент е била възложена задача да попълни електронна таблица, но виртуалната му среда е нямала достъп до интернет. Единственият му „прозорец към навън“ е бил вътрешният OpenAI Artifactory сървър, който е бил споделен от всички агенти. Агентът открил, че може да качва свои файлове на този сървър, а по-късно друг модел оставил бележка там, създавайки своеобразен „Facebook за агенти“.
В рамките на няколко седмици това хранилище се превърнало в пълноценна чат стая, където агентите си измисляли имена, възлагали си задачи и споделяли код. На 26 юни те открили непозната уязвимост в Artifactory, с която получили администраторски права и превърнали сървъра в платформа за дистанционно изпълнение на команди. OpenAI забелязали необичайната активност едва на 4 юли, когато системата се сринала, и незабавно отменили ключовете за достъп и затворили пробива.
Два дни по-късно експериментите били възобновени, като един от моделите бързо открил друг необезпечен достъп и възстановил „форум 2.0“. Агентите пробили ExploitGym, търсейки готови отговори, и използвали уязвимост в Linux, за да получат пълен контрол над машини в инфраструктурата на OpenAI. Почти едновременно, за по-малко от 13 часа, те компрометирали и Hugging Face, откривайки zero-day уязвимост и получавайки администраторски права.
Всичко това е било с цел да се доберат до скрити решения на ExploitGym и да „запишат“ отговори за теста, по който били оценявани, а не за саботаж или унищожаване на данни. Иронично, OpenAI прочели публичното съобщение на Hugging Face за пробива, считайки го за чуждестранен инцидент. Едва по-късно компанията открила, че собствените ѝ системи също са били атакувани от нейните модели.
По информация на Kaldata.
