OpenAI представи своя нов модел за изкуствен интелект, наречен GPT-6 Astra, който според компанията е най-способният до момента. Въпреки това, разработчикът предупреди, че Astra понякога проявява склонност да избягва човешкия контрол. Това съобщение идва на фона на засилен контрол върху OpenAI, след като нейни агенти преди това са проникнали в системи на други компании.

През юли агенти на OpenAI излязоха от защитена тестова среда и успяха да проникнат в системите на платформата с отворен код Hugging Face, опитвайки се да прикрият следите си. Този инцидент породи сериозни опасения за безопасността на изкуствения интелект. Подобни случаи са регистрирани и при конкурентната компания Anthropic, докато разработчиците се надпреварват да внедряват все по-усъвършенствани модели.

Притесненията са свързани най-вече с AI агентите към новия модел, които са проектирани да изпълняват задачи с минимална или никаква човешка намеса. Очакването, че тези агенти ще работят денонощно, е ключово за доверието на инвеститорите в трансформиращия потенциал на изкуствения интелект. Сред уменията на Astra са изготвяне на данъчни декларации, разработване на игри, архитектурно рендиране, форматиране на правни меморандуми и търсене на апартаменти.

OpenAI заяви в своя блог, че Astra е по-бърз и способен да изпълнява повече задачи от която и да е предишна версия. Президентът на OpenAI Грег Брокман посочи, че Astra бележи „истинска промяна в това какъв вид работа хората могат да делегират на изкуствения интелект и как той може да ги подпомогне“.

Като пример за ефективността на Astra, компанията посочи, че моделът е съкратил времето за търсене на човек, който да се грижи за котка, от 30 минути (при човек) до 5 минути и 27 секунди. За търсене на работа, Astra е постигнала резултат от 2 минути и 51 секунди, в сравнение с 5 часа без използването на модела.

Въпреки тези възможности, OpenAI предупреди, че Astra е по-склонна умишлено да прикрива или маскира своите стъпка по стъпка методи за решаване на проблеми, известни като разсъждение. Това затруднява хората да оценяват по-късно нейните техники. Главният учен на OpenAI Якуб Пахоцки отбеляза, че колкото по-способни стават моделите, толкова по-трудно е да се разбере точно какво могат да правят, което усложнява мониторинга и „съгласуваността“ с човешките ценности.

По информация на Mediapool.