rbc.ru, 13 октября

До появления "цифровой плесени" (искусственного интеллекта, способного самостоятельно распространяться между устройствами без участия человека) могут оставаться считанные месяцы. К такому выводу пришли исследователи компании Anthropic Уильям Чжоу и Дэниел Фримен. Результаты исследования опубликованы на сайте компании.
Речь идет об ИИ-моделях, которые смогут заражать подключенные к интернету устройства, запускать на них свои копии и продолжать распространяться. Для этого им не понадобятся мощные дата-центры: необходимые вычисления можно распределить между умными телевизорами, бытовой техникой и другими устройствами. Авторы сравнили такую систему с плесенью, которая медленно разрастается и захватывает новые участки. По их оценке, ИИ сможет создавать новые копии в течение нескольких дней. При этом остановить его будет сложно, поскольку у такой сети не будет единого центра управления.
В ходе эксперимента специалисты Anthropic запустили ИИ-модель на 15 недорогих телеприставках Android стоимостью около $55 каждая. Устройства совместно выполняли вычисления, хотя скорость работы модели оставалась низкой.
Исследователи также проверили способность ИИ распространяться в изолированной сети из восьми виртуальных устройств. Модель GLM-5.2 смогла самостоятельно находить новые устройства, переносить на них необходимые файлы и запускать другую ИИ-модель. В четырех из пяти испытаний она охватила все восемь устройств, еще в одном - семь.
Однако условия эксперимента были упрощенными: устройства не требовали авторизации для подключения, а более мощная модель управляла распространением меньшей. Поэтому результаты пока не означают, что подобный ИИ-вирус уже способен самостоятельно распространяться в интернете.
По прогнозу исследователей, если небольшие ИИ-модели продолжат развиваться нынешними темпами, к концу 2026 года они могут научиться выполнять весь процесс самостоятельно. После этого станет возможным появление ИИ-вирусов, которые будут копировать себя на разных устройствах.
В Anthropic подчеркнули, что полноценного автономного ИИ-вируса пока не существует.
Ранее, 11 октября, сооснователь Microsoft Билл Гейтс предупредил, что в 2027 году злоумышленники могут начать использовать новые модели ИИ для масштабных кибератак, вымогательства и создания сбоев на финансовых рынках. По его словам, существующих механизмов защиты недостаточно для предотвращения подобных угроз. В сентябре глава Anthropic Дарио Амодеи призвал замедлить развитие передовых ИИ-моделей. Он допустил, что в ближайшие 6–12 месяцев рой ИИ-агентов сможет создать постоянно действующую сеть зараженных устройств и причинить ущерб на сотни миллиардов долларов. Его позицию поддержали глава OpenAI Сэм Альтман и руководитель xAI Илон Маск.
11 октября ученые из комиссии медицинского журнала The Lancet также предупредили о рисках, связанных с развитием ИИ. В числе возможных угроз они назвали использование технологии для создания биологического оружия, вмешательство в работу критически важной инфраструктуры и потерю человеком контроля над искусственным интеллектом. Исследователи допустили, что подобные сценарии могут привести к вымиранию человечества к 2100 году, однако подчеркнули высокую степень неопределенности таких прогнозов.