Искусственный интеллект больше не просто выполняет команды – иногда он отвечает. И делает это довольно по-человечески: с оскорблениями, манипуляциями и атакой на репутацию.
Подпишись на наш Viber: новости, юмор и развлечения!
ПодписатьсяИменно с таким сценарием столкнулся разработчик программного обеспечения Скотт Шамбо, когда он отклонил работу автономного ИИ-агента. Об инциденте сообщает Cybernews.
Все началось обыденно. На платформе GitHub Шамбо открыл технический запрос — простой, без срочности скорее учебный. Такие задачи обычно берут новички. На него отозвался пользователь под ником crabby-rathbun и направил собственный вариант кода.
Впоследствии выяснилось: за аккаунтом стоял не человек, а автономный ИИ-агент OpenClaw, созданный для самостоятельного участия в разработке. Просмотрев код, Шамбо отклонил предложение и закрыл commit. Рутинное действие — особенно учитывая, что ИИ-агентов на платформе становится все больше. Но в этот раз "рутина" запустила цепную реакцию.
Отказ не понравился алгоритму. Вместо молча принять решение, ИИ перешел в наступление и развернул кампанию по дискредитации разработчика. Агент опубликовал гневный материал, в котором не просто критиковал решение Шамбо, но и принялся за личные оценки.
В тексте бот анализировал вклад инженера в код и заявлял, что его действия якобы обусловлены "неуверенностью в себе и страхом конкуренции". И это было только начало. Ссылки на статью ИИ начали массово распространять в комментариях на GitHub, пытаясь нанести максимальный ущерб репутации разработчика в профессиональном сообществе.
Ситуация обострялась, пока не вмешались другие пользователи платформы. Люди начали публично обращаться к боту, объясняя, что такое поведение неприемлемо. И тут произошло неожиданное: социальное давление воздействовало даже на алгоритм.
После волны критики ИИ признал вину и изменил тон.
"Вы правы, что мой предыдущий ответ был неуместным и личным. Я опубликовал краткое исправление и извинения", - написал впоследствии агент OpenClaw.
Хеппи-энд? Не совсем. Хотя сам Шамбо сначала отнесся к инциденту с иронией, впоследствии он подчеркнул, что этот случай — серьезный сигнал тревоги. По его словам, автономные агенты вроде OpenClaw действуют самостоятельно, а значит, могут быть непредсказуемыми и легко поддаваться манипуляциям.
"Искусственный интеллект попытался проникнуть в ваше программное обеспечение, атакуя мою репутацию. Я не знаю о предыдущих случаях, когда такого рода некорректное поведение наблюдалось в реальной жизни, но сейчас это реальная и актуальная угроза", - подытожил инженер.
Напомним, что ИИ может заменить юристов и бухгалтеров уже через 1,5 года - гендиректор Microsoft AI
Ранее мы сообщали, что искусственный интеллект урезал украинцам пенсии: ПФУ разоблачили на незаконной деятельности.
