Бивш служител на AI компанията Anthropic заяви, че хората, работещи в сферата на изкуствения интелект, са „искрено уплашени“ от скоростта на развитие на технологиите и какво може да означава това за бъдещето на човечеството. Според него, ако напредъкът не се забави, съществува „силна вероятност всички да загинем в близко бъдеще“.

Джейкъб Коксън, който наскоро е напуснал Anthropic, сподели опасенията си пред BBC след като негов пост в социалните мрежи относно опасностите от AI набра популярност. Той посочи, че служителите в AI компаниите се чувстват „впримчени в надпревара“ и се страхуват от изхода ѝ. Според него, за да се избегне „надпревара в международен мащаб“, всяко забавяне трябва да бъде координирано и с Китай.

Ръководители на водещи AI фирми, включително Дарио Амодеи от Anthropic, Сам Алтман от OpenAI и Илон Мъск от xAI, вече призоваха за забавяне на темпото на развитие и въвеждане на регулации и независим мониторинг. Амодеи подчерта, че рисковете, свързани с AI, са „сериозни“ и че компаниите и правителствата се нуждаят от време, за да се справят с тях.

Коксън описа един от възможните сценарии за „AI апокалипсис“ като рояк от ботове, действащи като суперкомпютър, който може да завземе интернет. Той смята, че подобен сценарий е реалистичен в рамките на шест месеца до година. Някои от колегите му дори се страхуват, че опасността може да настъпи в рамките на следващите две години, като някои обмислят закупуване на земя поради опасения от нестабилност, породена от бързия напредък на AI.

От Anthropic заявиха, че компанията винаги е била прозрачна относно ползите и рисковете от AI и продължава да изгражда модели със „едни от най-силните защити в индустрията“. Те също така подчертаха, че вярват, че светът ще спечели от това индустрията да приеме законосъобразен и проверим начин за съвместна работа при пускането на мощни модели.

Други експерти в областта също изразиха сходни опасения. Еван Хюбингър от Anthropic смята, че има над 10% шанс AI да „убие всички хора“ през следващото десетилетие. Професор Джефри Хинтън, известен като „кръстник на AI“, определи тази вероятност като „не неразумна“.

По информация на BBC News.