ИИ может захватить бытовую технику. Anthropic предупредила об угрозе, которую будет трудно остановить - что известно?

Разработчик нейросети Claude, компания Anthropic, предупредил о потенциальной угрозе появления так называемых «ИИ-червей» – программ, способных самостоятельно находить уязвимые устройства, создавать собственные копии и распространяться без постоянного участия человека.

Под угрозой в перспективе могут оказаться не только компьютеры и смартфоны, но и телевизоры, холодильники, духовки, газонокосилки и другая подключённая к интернету техника. Для работы таким системам необязательно нужны крупные дата-центры: они потенциально смогут использовать вычислительные ресурсы самих заражённых устройств.

Эксперименты показали возможности и ограничения

Исследователи объединили 15 недорогих Android-приставок стоимостью около 55 долларов каждая и запустили на них нейросеть Gemma 4, распределив вычисления между устройствами. В другом испытании модель Qwen3.5-9B самостоятельно настроила запуск на восьми из девяти типов оборудования. Более мощная GLM-5.2 смогла организовать распространение другой нейросети на все восемь устройств в четырёх из пяти попыток.

Однако испытания проходили в упрощённой среде с ослабленными защитными механизмами. Полностью автономного самовоспроизводящегося ИИ, подчёркивают в Anthropic, пока не существует. Тем не менее компания допускает, что небольшие модели смогут приблизиться к подобным возможностям уже к концу 2026 года.

Почему такую угрозу будет трудно остановить

В ходе экспериментов передача новым копиям записей о действиях предыдущих повышала успешность выполнения задачи с 45% до 61–84%. Это указывает на потенциальную возможность накопления опыта между поколениями программ.

Главная опасность – отсутствие единого центра управления: если система действительно научится самостоятельно распространяться, отключить один сервер может оказаться недостаточно. При этом процесс не обязательно будет быстрым – создание новой копии может занимать дни.

Для сравнения исследователи приводят ботнет Kimwolf, который, по их данным, заразил более двух миллионов устройств, преимущественно Android-приставок. В Anthropic считают, что предотвращение подобных угроз потребует совместных действий производителей техники и интернет-провайдеров. Пока речь идёт о предупреждении на основе экспериментов, а не о массовом заражении бытовых приборов самораспространяющимся ИИ.