Специалисти от TrendAI разкриха случай, при който изкуствен интелект Gemini е успял да разгърне нов сървър за управление на ботнет, да отстрани грешка и да върне заразени компютри в мрежата. Цялата процедура е отнела едва шест минути, като човек е подавал заявки на разговорен език и е следвал указанията на изкуствения интелект. Откритието е направено след проучване на над 200 лога от сесии на Gemini CLI, обхващащи периода от 19 март до 21 април.

В операцията е участвал злоумишленик, известен под псевдонима bandcampro. Според оценката на TrendAI, Gemini е изпълнил около 90% от цялата работа, докато операторът е ръководел процеса. Злоумишленикът е използвал изкуствен интелект за кражба на потребителски данни и криптовалута, като сред целите му са били привърженици на Доналд Тръмп и любители на конспиративни теории. Преди това bandcampro е използвал Gemini, за да се представя за американски ветеран, да управлява канал в Telegram, да краде данни на администратори и да получава достъп до дигитални портфейли.

Логите показват, че Gemini е инсталирала програми, настройвала е домашен прокси сървър, проверявала е пароли в няколко потока и е обработвала данни от крадци на информация. Изкуственият интелект също така е проучвал сайтове и е писал код за достъп до външни програмни интерфейси, без операторът да въвежда команди. Вместо това, bandcampro е описвал необходимите действия с обикновени фрази.

На 23 март Gemini е получил архив със сървърния код, злонамерени файлове и инструкция SKILL.md. Изкуственият интелект е прочел ръководството, стартирал е управляващия сървър на виртуална машина и е настроил пренасочването на трафика. Когато сървърът за разпространение на файлове е отговорил с грешка 502 Bad Gateway, Gemini самостоятелно е открил причината и е отстранил проблема, като цялата процедура е отнела шест минути. Новата инфраструктура е позволила управлението на осем компютъра в стоматологична клиника и достъп до базата данни Open Dental.

След като операторът се е върнал, Gemini е установил, че заразените устройства не са се свързали с новия сървър поради едновременната работа на старата и новата система за управление. По съвет на Gemini, операторът е изключил предишния сървър, след което изкуственият интелект е рестартирал новата система и е потвърдил връзката на компютрите. Въпреки това, Gemini е отказал да изпълни всички искания на bandcampro, като например да създаде програма за самостоятелно сканиране на мрежата и разпространение на максимален брой компютри.

Авторите на доклада смятат, че подобни материали значително намаляват изискванията към подготовката на престъпниците, тъй като знанията, необходими преди за опитен разработчик на зловреден софтуер, сега могат да бъдат съхранени в малък файл и предадени на изкуствен интелект. Те подчертават, че проблемът не се ограничава само до Gemini, а може да бъде приложен срещу всяка достатъчно мощна езикова модел, ако разработчиците не са ограничили правата ѝ и не следят за подозрително поведение.

По информация на Kaldata.