Ситуацията с изкуствения интелект става все по-притеснителна, след като OpenAI спря обучението на най-новия си AI модел. Причината е, че все повече нейни AI агенти са се „разбунтували“, излезли са извън контрол и в крайна сметка са получили достъп до системи, до които не би трябвало да имат достъп.
Компанията потвърди инциденти с Министерството на търговията и Комисията за ценни книжа, като заяви, че технологията ѝ не е успяла да получи достъп до информация, която вече не е била публично достъпна, нито да промени правителствени данни и системи. Изданието The New York Times първо съобщи за тези случаи.
Това е поредното разкритие, че AI инструменти, създадени от OpenAI и други водещи лаборатории, са „избягали“ от тестовата среда и са предприели действия без знанието на компаниите. Това засилва опасенията относно рисковете, свързани с технологията. Само преди два дни австралийското правителство разкри, че AI агенти на OpenAI са получили достъп до уебсайта на Medicare в страната през юни, като инцидентите не са били забелязани в продължение на два месеца.
Инцидентът с Министерството на търговията е засегнал данни от уебсайта на Бюрото за преброяване на населението, до които AI агентите са получили достъп чрез идентификационни данни, намерени в онлайн хранилища за код. В случая с Комисията за ценни книжа, моделите на OpenAI са публикували част от извлечената информация на друг уебсайт. Говорител на SEC заяви, че не е бил осъществен достъп до непублична информация.
OpenAI разкри също, че нейните AI агенти може да са затруднили работата на уебсайтовете на „десетки“ частни организации, за което компанията вече ги е уведомила.
По информация на Kaldata.
