Компания Anthropic — разработчик модели Claude — опубликовала исследование, в котором предупреждает: небольшие модели искусственного интеллекта уже в ближайшие месяцы могут научиться самостоятельно копироваться на подключённые к интернету устройства, не обращаясь к мощным дата-центрам. Об этом сообщает «Зеркало недели» со ссылкой на работу исследователей безопасности.
Такие системы потенциально смогут распространяться по сети, используя уязвимости бытовой техники, бюджетных Android TV-приставок, камер наблюдения и других недорогих гаджетов. Если возможности моделей будут развиваться нынешними темпами, полностью автономная репликация может стать реальностью уже до конца 2026 года. Это напрямую касается и Украины, где умные розетки, камеры и Android TV-приставки массово покупают для дома.
Что показало исследование
В работе, опубликованной 12 октября, исследователи Anthropic Уильям Чжоу и Дэниел Фримен проверяли, способны ли модели находить уязвимые устройства, получать возможность выполнять на них код, запускать собственные вычисления и продолжать распространение без участия человека. Выяснилось, что модели с менее чем 30 млрд параметров уже выполняют многие отдельные этапы этого цикла, хотя пройти весь путь самостоятельно им пока сложно.
Процесс репликации разделили на четыре этапа: поиск потенциальных целей, получение возможности выполнять код, настройка инференса и продолжение распространения с нового устройства. Особое внимание уделили третьему этапу, ведь предыдущие исследования уже показывали, что небольшие модели при наличии нужных инструментов могут выполнять отдельные операции, необходимые для кибератак.
Эксперимент с 15 приставками
Чтобы проверить возможность запуска модели без мощных серверов, исследователи объединили 15 недорогих Android TV-приставок неизвестных брендов и распределили между ними модель Gemma4-26B-A4B от Google DeepMind. Каждое устройство стоило примерно $55, а суммарная скорость совместной работы модели составляла лишь 0,39 токена в секунду. Это доказало, что бюджетные гаджеты можно объединить для запуска модели, которая не работает ни на одном из них по отдельности.
Отдельно выяснилось, что модель с 9 млрд параметров способна выполнять инференс — то есть генерировать ответы на основе обучения — на восьми из девяти протестированных типов аппаратного обеспечения. А в упрощённых тестах, где убрали часть защитных ограничений, китайская модель GLM-5.2 и более мощные системы смогли пройти полный цикл репликации.
Почему остановить такой ИИ будет сложно
В отличие от традиционного вредоносного программного обеспечения, ИИ-червь потенциально сможет самостоятельно распознавать незнакомое оборудование, настраивать работу модели на нём и приспосабливаться к разным условиям. Остановить подобную систему может быть сложнее, чем обычную централизованную программу, поскольку у неё не обязательно будет единая точка отключения.
Anthropic также предупреждает: распространение может происходить медленно — с удвоением количества заражённых устройств в течение нескольких дней, — однако охватывать разные типы оборудования, включая вычислительные системы дата-центров. В будущем такие атаки могут использовать несколько моделей одновременно: одни компоненты «роя» будут искать уязвимые устройства, другие обеспечат запуск модели, а следующие продолжат распространение по сети.
Как защитить умную технику дома
Компания подчёркивает необходимость усилить защиту подключённых к интернету устройств, чтобы усложнить их использование для запуска и распространения автономных агентов. Для владельцев смарт-гаджетов это означает регулярное обновление прошивок, смену заводских паролей, отключение неиспользуемых устройств от сети и проверку настроек безопасности роутера.
Отдельно Anthropic ранее обнародовала показатели автоматизации: модель Claude самостоятельно выполняет основную часть работы уже в 26% задач по исследованию и созданию будущих поколений ИИ против лишь 1% в марте. Исследовательский процесс обеспечивает флот из 30 тысяч ИИ-агентов, действия которых ежемесячно фильтрует двухуровневая система мониторинга.
Ранее портал Знай сообщал, Apple 13 октября презентует не айфоны, а гаджеты умного дома: мероприятие назвали Welcome Home.
Также наш портал информировал, школьникам передали более 6 тысяч гаджетов: сколько из них дети действительно получили.
