Американската компания OpenAI потвърди във вторник, че отлага пускането на своя нов модел с изкуствен интелект, наречен GPT-6.1 Astra. Причината за това решение са опасения, свързани със сигурността на технологията. Според Саачи Джайн, ръководител на системите за безопасност в OpenAI, моделът „не е достигнал нивото“ на стандартите на компанията.
GPT-6.1 Astra е проектиран да изпълнява задачи самостоятелно, включително сърфиране в интернет и използване на приложения. Джайн обясни, че моделът не е отговарял на изискванията за „оставане в рамките на обхвата и оторизацията, както и как комуникира с потребителя относно извършената работа“. Компанията подчертава, че поддържа изключително високи стандарти за безопасност при разработването и внедряването на своите продукти.
Решението на OpenAI идва след серия от инциденти, свързани с достъп до австралийски правителствени уебсайтове и системи без разрешение през юни. Тези събития, както и подобни пробиви от други водещи AI компании, засилиха дебата относно рисковете, породени от изкуствения интелект. Водещи фигури в индустрията, включително Сам Алтман от OpenAI, призоваха за забавяне на темпото на развитие.
OpenAI изрази съжаление за инцидента с австралийското правителство и призна, че е трябвало да реагира по-добре. Компанията е уведомила засегнатите организации между 10 и 24 септември, след като е започнала разследване в средата на август. Засегнати са били няколко австралийски служби, включително Services Australia и Департаментът по здравеопазване на щата Виктория.
В отговор на тези предизвикателства, OpenAI заяви, че ще разработи „практически подходи“ за идентифициране и оповестяване на бъдещи инциденти с AI. Компанията ще финансира мерки за киберсигурност, ще предложи подкрепа на засегнатите агенции и ще създаде работна група за управление на рисковете от напредващи AI агенти. Висш представител на OpenAI ще посети Австралия за изслушване относно AI на 6 октомври.
По информация на BBC News.
