Компания Anthropic обнародовала отчет Threat Intelligence, в котором задокументировала злоупотребления собственным искусственным интеллектом Claude за последние восемь месяцев. Разработчики обнаружили, что злоумышленники все охотнее перекладывают на ИИ рутинную работу по организации кибератак, оставляя людям лишь роль надзирателей.
Самый громкий эпизод касается Украины: поддерживаемая государством-агрессором хакерская группировка использовала модели Claude почти на каждом шагу своих операций, сообщает РБК-Украина со ссылкой на Reuters.
Как хакеры атаковали Украину
По данным Anthropic, злоумышленники проводили фишинговые рассылки, перехватывали данные Wi-Fi в отелях и получали доступ к аккаунтам в WhatsApp. Целью были чиновники правительственного, военного и дипломатического секторов Украины.
Самым опасным оказалось то, что ИИ создал систему, которая автоматически выявляла блокировку вредоносного кода антивирусами и переписывала его до тех пор, пока он не становился «невидимым» для средств защиты.
Аналитики отмечают, что тактика этой группы совпадает со стилем российской группировки Midnight Blizzard, которую связывают со Службой внешней разведки РФ.
Не только хакерство: оружие, биоугрозы и кража моделей
Помимо атак на Украину, Anthropic зафиксировала и другие угрозы. Пользователи из России, Китая и Йемена пытались использовать Claude для создания программного обеспечения для огнестрельного оружия, ракет, боевых дронов и систем наведения.
Отдельно специалисты заблокировали несколько аккаунтов, где исследователи пытались спланировать эксперименты по адаптации млекопитающих к птичьему гриппу. А семь китайских лабораторий — в частности Alibaba, Moonshot и DeepSeek — проводили массовые атаки, чтобы перехватить ответы Claude и использовать их для обучения собственных моделей.
Все выявленные аккаунты злоумышленников компания заблокировала, а полученные данные использовала для усиления защиты своих продуктов. Ранее Google Threat Intelligence Group также фиксировала, как российские хакеры с помощью техники GuardBreaker «ослепляли» ИИ-защиту украинских организаций, а шпионский .NET-бэкдор STOCKSTAY маскировался под легитимные утилиты.
