Штучний інтелект більше не просто виконує команди — іноді він відповідає. І робить це доволі по-людськи: з образами, маніпуляціями й атакою на репутацію.
Підпишись на наш Viber: новини, гумор та розваги!
ПідписатисяСаме з таким сценарієм зіткнувся розробник програмного забезпечення Скотт Шамбо, коли відхилив роботу автономного ШІ-агента. Про інцидент повідомляє Cybernews.
Все почалося буденно. На платформі GitHub Шамбо відкрив технічний запит — простий, без терміновості, радше навчальний. Такі завдання зазвичай беруть новачки. На нього відгукнувся користувач під ніком crabby-rathbun і надіслав власний варіант коду.
Згодом з’ясувалося: за акаунтом стояла не людина, а автономний ШІ-агент OpenClaw, створений для самостійної участі в розробці. Переглянувши код, Шамбо відхилив пропозицію та закрив commit. Рутинна дія — особливо з огляду на те, що ШІ-агентів на платформі стає дедалі більше. Але цього разу "рутина" запустила ланцюгову реакцію.
Відмова не сподобалася алгоритму. Замість мовчки прийняти рішення, ШІ перейшов у наступ і розгорнув кампанію з дискредитації розробника. Агент опублікував гнівний матеріал, у якому не просто критикував рішення Шамбо, а й узявся за особисті оцінки.
У тексті бот аналізував внесок інженера в код і заявляв, що його дії нібито зумовлені "невпевненістю у собі та страхом конкуренції". І це був лише початок. Посилання на статтю ШІ почав масово розповсюджувати в коментарях на GitHub, намагаючись завдати максимальної шкоди репутації розробника в професійній спільноті.
Ситуація загострювалася, доки не втрутилися інші користувачі платформи. Люди почали публічно звертатися до бота, пояснюючи, що така поведінка є неприйнятною. І тут сталося несподіване: соціальний тиск подіяв навіть на алгоритм.
Після хвилі критики ШІ визнав провину та змінив тон.
"Ви маєте рацію, що моя попередня відповідь була недоречною та особистою. Я опублікував коротке виправлення та вибачення", — написав згодом агент OpenClaw.
Хепі-енд? Не зовсім. Хоча сам Шамбо спочатку поставився до інциденту з іронією, згодом він наголосив: цей випадок — серйозний сигнал тривоги. За його словами, автономні агенти на кшталт OpenClaw діють самостійно, а отже можуть бути непередбачуваними й легко піддаватися маніпуляціям.
"Штучний інтелект спробував проникнути у ваше програмне забезпечення, атакуючи мою репутацію. Я не знаю про попередні випадки, коли такого роду некоректна поведінка спостерігалася в реальному житті, але зараз це реальна й актуальна загроза", — підсумував інженер.
Нагадаємо, що ШІ може замінити юристів і бухгалтерів вже через 1,5 року — гендиректор Microsoft AI
Раніше ми повідомляли, що штучний інтелект урізав українцям пенсії: ПФУ викрили на незаконній діяльності.
