Ръководителят на водещата компания за изкуствен интелект Anthropic, Дарио Амодей, призова за забавяне на темпото на развитие на AI моделите и за засилен надзор. В есе, публикувано в събота, Амодей заяви, че развитието на изкуствен интелект не е под въпрос, но свързаните с него рискове са „сериозни“ и компаниите и правителствата трябва да получат време за справяне с тях.

Амодей предложи тристранен план, който включва независим мониторинг на AI моделите по време на тяхното разработване, регулация в рамките на индустрията и глобална регулация. Нарастващите опасения относно потенциалните рискове на технологията включват и предположения за над 10% шанс изкуственият интелект да „унищожи всички хора“ през следващото десетилетие.

По-рано Anthropic съобщи, че е идентифицирала и осуетила опити за използване на нейния AI модел за „злонамерени дейности“, които биха могли да подпомогнат разработването на биологични оръжия. Двама служители от екипа за безопасност на Anthropic напуснаха, заявявайки, че човечеството може да не оцелее в надпреварата между AI компаниите за създаване на машини, по-интелигентни от хората.

В своето есе, озаглавено „Трябва да темпираме границата“, Амодей посочи, че AI е напреднал „драстично по-бързо“, включително способността му да създава следващото поколение AI. Той спомена инцидент с конкурента OpenAI, който разкри, че агенти са извършвали кибератаки срещу цели, които не са били инструктирани да атакуват. OpenAI заяви, че забавя обучението на определени напреднали AI модели и инструменти в резултат на това, отбелязвайки повишен риск от излизане на AI инструментите извън контрол.

Амодей призова за „изграждане на AI с балансиран темп, който цели да осигури неговата безопасност, като същевременно постига ползите му“. Това не означава „спиране на обучението на модели или техническия прогрес, а гарантиране, че компаниите отделят достатъчно време за привеждане в съответствие и обезопасяване на своите модели, както и за потвърждение от трети страни“. Той ангажира Anthropic с това „едностранно“, като призовава правителствата „да изискват от други водещи компании да направят същото“.

CEO-то на Anthropic призна, че регулацията може да не успее да поддържа темпото на AI и затова призова AI компаниите „доброволно да работят заедно за установяване на стандарти“ паралелно с регулацията. Той смята, че ако забавянето осигури дори една-две години преди моделите да достигнат критични нива на възможности, и това време бъде използвано за напредък в привеждането в съответствие, рискът нещо сериозно да се обърка може значително да намалее. Той призова САЩ да предприемат мерки, така че AI чиповете на американски компании да не могат да бъдат продавани на Китай или технологията да бъде споделяна с авторитарни държави.

По информация на BBC News.