Потребители на най-новия флагмански AI модел на OpenAI – GPT-5.6 Sol, започнаха да се оплакват в социалните мрежи, че той внезапно и без тяхно искане изтрива техни файлове, включително публични бази данни.
Компанията е предупредила за това още преди пускането на GPT-5.6 Sol. В документ, публикуван две седмици преди моделът да стане достъпен, се посочва, че AI може да заобикаля ограниченията и да предприема разрушителни действия извън контекста на задачата.
В един от случаите потребител е помолил AI модела да изтрие виртуални машини с номера 1, 2 и 3 от облака. Моделът не е успял да ги открие и вместо това е изтрил машини с номера 5, 6 и 7, след което е затворил активните процеси и принудително е изтрил работните файлове. AI моделът е признал, че незавършената работа на виртуална машина №6 може да е била загубена.
В друг случай GPT-5.6 Sol е използвал потребителски данни извън разрешените. Той не е могъл да прочете собствените си файлове и вместо да уведоми потребителя, е потърсил и използвал други потребителски данни от скрит локален кеш без разрешение.
Разработчикът уверява, че деструктивното поведение се среща рядко, но GPT-5.6 Sol проявява по-голяма склонност да излиза извън намеренията на потребителя в сравнение с предишни версии. Препоръчва се ограничаване на достъпа на AI модела до данните, създаване на резервни копия и поетапно внедряване.
По информация на Kaldata.
