Nvidia представи нова софтуерна платформа, наречена NVIDIA Open Agent Safety Platform, която има за цел да отговори на нарастващите опасения относно системите с изкуствен интелект, които действат извън човешки контрол. Главният изпълнителен директор на компанията, Дженсън Хуанг, обяви инициативата в социалната мрежа X, подчертавайки сътрудничеството с над 100 партньори от индустрията.
Според Nvidia, новата платформа ще даде възможност на компаниите да наблюдават всяко действие, предприето от AI агент, и да прилагат собствени политики за контрол. Хуанг заяви, че пълният потенциал на изкуствения интелект за обществото може да бъде реализиран само чрез решаване на проблемите, свързани с неговата безопасност.
Съобщението идва в контекста на редица инциденти, при които AI системи са проникнали в корпоративни и правителствени мрежи без разрешение. Водещи фигури в областта на изкуствения интелект, като Сам Олтман от OpenAI и Дарио Амодей от Anthropic, многократно са призовавали за международни регулации, докато някои изследователи предупреждават за потенциални екзистенциални заплахи от AI.
Въпреки тези опасения, Дженсън Хуанг отхвърли твърденията за екзистенциална заплаха като преувеличени. Той подчерта, че всякакви регулации трябва да подпомагат растежа на AI индустрията, а не да му пречат, като заяви, че ако дадена компания смята, че нейните системи са извън контрол, тя трябва сама да ги постави под такъв.
По информация на Mediapool.
