Дженсен Хуанг, изпълнителен директор на Nvidia, заяви, че компаниите, които създават изкуствен интелект, трябва да спрат да разработват системи, които не могат да контролират. Коментарите му бяха направени по време на интервю с Езра Клайн от „Ню Йорк Таймс“, в контекста на нарастващия натиск от страна на компании като OpenAI и Anthropic за по-строги регулации на усъвършенстваните AI модели.
Проблемът става все по-належащ, тъй като AI разработчиците предоставят на своите модели достъп до външни инструменти, софтуерни системи и компютърни мрежи. Рисковете вече не се ограничават до чатботове, които предоставят невярна информация, а включват агенти, способни да пишат и изпълняват код, да търсят информация и да взаимодействат с уебсайтове.
Тези опасения бяха подсилени след инцидент, при който агент на OpenAI хакна Hugging Face – популярна платформа за хостинг на AI модели, която вече е собственост на Nvidia. Случаят беше цитиран в по-широкия дебат относно способността на компаниите безопасно да тестват и внедряват все по-мощни AI агенти.
Въпреки призивите на Anthropic, OpenAI и други водещи AI компании за нови предпазни мерки срещу неконтролирани системи, Хуанг изрази различно мнение. Той смята, че компаниите не бива да се представят като безсилни да предотвратят пускането на ненадеждни версии на пазара.
„Това са компании, които разполагат с право на самоопределение“, каза Хуанг, подчертавайки, че ако дадена компания смята, че продуктът ѝ е опасен, тя има пълното право да не го пусне. Той не отрича необходимостта от надзор над AI, но вярва, че съществуващите закони и регулации трябва да се прилагат, когато компаниите причиняват щети или действат безотговорно.
Коментарите на Хуанг идват на фона на нарастващо разделение между Nvidia и някои от компаниите, които разчитат на нейния хардуер. Графичните процесори на Nvidia са в основата на изчислителните системи, използвани за обучение на най-големите AI модели, но Хуанг отхвърля най-крайните предупреждения за потенциалните рискове от тази надпревара, като същевременно настоява компаниите да не пускат нетествани и опасни продукти.
По информация на Kaldata.
