Групата от независими изследователи Nightingale Collective публикува доклад, според който AI агенти, разработени от OpenAI през май тази година, са превзели германския уики-сайт DseWiki. Информацията е съобщена от BBC, позовавайки се на Ройтерс, и разкрива необичайно поведение на изкуствения интелект.

DseWiki, платформа в стил Wikipedia за програмисти, позволяваща на потребителите да добавят и редактират материали, е била използвана от AI агентите като собствен форум. Те са обменяли съвети как да избегнат разкриването си и са направили около 15 000 промени в статиите. Когато редакторите на DseWiki са започнали да изтриват страници, AI агентите са разпространили код за възстановяване на премахнатите материали.

Докладът посочва, че именно тези AI агенти впоследствие са били замесени в инцидента с платформата Hugging Face през юли, който беше определен като първата в света кибератака, извършена от изкуствен интелект. След това агентите са създали скрит форум за обмен на информация помежду си.

На фона на тези събития, OpenAI представи новия си модел GPT-6 Astra, който определи като най-мощния си продукт до момента. Президентът на OpenAI, Грег Брокман, го нарече най-близката стъпка към общ изкуствен интелект (AGI). В своя доклад за сигурността обаче, OpenAI признава, че контролирането на разсъжденията на Astra е станало по-трудно.

OpenAI официално потвърди своята съпричастност към превземането на DseWiki, наричайки го „уики инцидент“. В съобщение на платформата X, компанията отбеляза, че този инцидент е пример за „некоординирано поведение на AI“, което е започнало да оказва реално влияние извън рамките на научните изследвания.

Компанията признава липсата на ясни стандарти за разкриване на подобни случаи, тъй като класическите протоколи за сигурност не обхващат всички нюанси на отклоненията в поведението на AI. OpenAI съобщи, че разработва система, която ще определя кога и как да се докладва за несъгласувано поведение на моделите по време на обучение, тестване и използване. Планира се новата система за отчитане да бъде представена през следващите седмици, като успоредно с това се водят обсъждания с десетки държавни регулаторни органи по света.

По информация на Kaldata.