Anthropic предупредила: малые ИИ-модели могут начать самокопироваться на умных устройствах до конца 2026 года

12 октября 2026 года Frontier Red Team компании Anthropic опубликовала исследование: небольшие ИИ-модели, по оценке авторов, уже к концу года смогут самостоятельно копировать себя на IoT-устройства — ТВ-приставки, роутеры, умную бытовую технику — без доступа к дата-центрам. Полный автономный «ИИ-червь» пока не показан, но отдельные шаги уже работают.

Главный вывод для бизнеса прозаичен: угроза опирается не на сверхспособности моделей, а на старые дыры в устройствах — открытые сервисные порты, пароли по умолчанию, отсутствие обновлений. Поэтому вопрос решается на стороне тех, кто выпускает и эксплуатирует железо: от разработки IoT-решений с безопасными настройками «из коробки» до регулярного тестирования на проникновение парка устройств.

Ниже — что именно проверили в Anthropic, где у эксперимента границы, почему часть исследователей считает выводы преувеличенными и какие меры авторы рекомендуют производителям, провайдерам и службам безопасности.

Что проверила Frontier Red Team

Исследователи разбили «самораспространение» модели на этапы: найти незнакомое устройство, получить к нему доступ, установить окружение, перенести веса и запустить инференс, а затем повторить цикл на следующем узле. Каждый этап тестировали отдельно, на реальном железе и в эмуляции.

• Запуск на «зоопарке» устройств. Модель Qwen3.5-9B сумела установить и настроить ПО для инференса на 8 из 9 типов тестового оборудования.
• Распределённый инференс. Gemma4-26B-A4B от Google DeepMind разделили между 15 бюджетными Android TV-приставками (по данным Fortune, около $55 и 4 ГБ памяти каждая). Модель заработала, хотя и медленно.
• Распространение по сети. В эмулированной сети из восьми узлов только GLM-5.2 прошла все шаги и добралась до всех восьми машин — в четырёх попытках из пяти.
• Обучение на опыте. Когда агентам оставляли данные прошлых попыток, доля успешных прогонов, по данным Fortune, выросла с 45% у первого поколения до 84% у последующих.

Почему вывод звучит тревожно

Авторы оценивают масштаб через ботнет Kimwolf: сеть такого размера, около 2 млн устройств, по их расчёту выдала бы порядка 80 тыс. токенов в секунду — сопоставимо примерно с 40 GPU H100. То есть заражённые бытовые устройства в сумме дают уже заметный вычислительный ресурс, который нельзя «выключить» на стороне облачного провайдера. Если модели до 30 млрд параметров продолжат улучшаться с исторической скоростью, порог автономного самокопирования, по оценке Anthropic, может быть пройден к концу 2026 года.

Где у эксперимента границы

Anthropic сама называет результат верхней оценкой. Условия были упрощены: на целевых устройствах был открыт неаутентифицированный порт ADB, в эмуляции аутентификацию намеренно отключили, а управляющая модель работала на отдельном мощном сервере, а не на самих приставках. Сроки авторы называют грубой оценкой. Один цикл распространения для модели на 26 млрд параметров, по их подсчёту, занял бы от 71 до 150 часов.

Скептики к этому добавляют своё. CEO компании CIQ Грегори Курцер заявил Fortune, что «страх — не доказательство», а эксперименты были выстроены так, чтобы получиться: моделям прямо поручали распространяться. Исследователь NYU Равид Шварц-Зив отметил, что на деле показана «очень медленная модель на дешёвых телевизорах», а не способность к самокопированию.

Что это значит для команд разработки и ИБ

Старые проблемы IoT получают новую цену. Открытые отладочные интерфейсы и заводские пароли и раньше превращали устройства в ботнеты вроде Mirai. Теперь к DDoS и майнингу добавляется сценарий, в котором захваченное железо исполняет ИИ-нагрузку вне контроля разработчика модели.

Контроль — на стороне устройства и сети, а не модели. Ограничения доступа к API крупных лабораторий не помогут, если веса открытой модели уже скачаны. Защищаться придётся тем же набором, что и от классических IoT-ботнетов, плюс мониторингом нетипично крупных передач данных. Похожий сдвиг мы описывали в новости об автономной кибератаке с участием ИИ: модели ускоряют атакующих, но входная точка остаётся прежней.

Какие меры рекомендует Anthropic

1. Производителям устройств — убрать пароли по умолчанию и закрыть отладочные интерфейсы в продовых прошивках, ввести обязательные требования к защищённости (в Великобритании такие нормы уже действуют).
2. Интернет-провайдерам — отслеживать аномалии: передачи payload объёмом в несколько гигабайт и необычный трафик между устройствами абонентов.
3. Защитникам — применять карантин заражённых абонентов на уровне провайдера. Авторы ссылаются на опыт борьбы с Mirai, где такой подход позволил очистить 92% заражений за 14 дней.
4. Службам ИБ компаний — инвентаризировать IoT в своей сети, вынести его в отдельный сегмент и проверить, нет ли там открытых ADB, Telnet и SSH с заводскими учётными данными.

Часто задаваемые вопросы

ИИ уже самостоятельно распространяется по умным устройствам? Нет. Anthropic показала отдельные шаги, но не полностью автономного «червя» на реальном IoT-оборудовании.

Какие модели участвовали в тестах? Открытые Qwen3.5-9B, Gemma4-26B-A4B, Llama3.1-8B и GLM-5.2. Полный цикл распространения в эмуляции прошла только GLM-5.2.

Когда угроза может стать реальной? По грубой оценке авторов — к концу 2026 года, если малые модели будут улучшаться прежними темпами.

Что сделать прямо сейчас? Закрыть отладочные порты, сменить заводские пароли, сегментировать IoT и следить за крупными исходящими передачами с устройств.

Источники

Anthropic — AI models may be capable of self-replicating without access to a datacenter, 12 октября 2026 года.

BleepingComputer — Anthropic warns self-replicating AI could spread to your smart devices, 13 октября 2026 года.

Fortune — Anthropic says small AI models could soon copy themselves onto everyday devices, 13 октября 2026 года.