Модель искусственного интеллекта, обученная на 3,3 миллионах потоков с веб-сайта 4chan, по-видимому, стала огромным онлайн-троллем, опубликовав более 15 000 расистских, оскорбительных и жестоких постов менее чем за 24 часа.
Подпишись на наш Viber: новости, юмор и развлечения!
ПодписатьсяСоответствующий пост разместили на портале «DailyStar»
Исследователь искусственного интеллекта говорит, что он создал «худший ИИ из когда-либо существовавших», способный публиковать в сети десятки тысяч постов, полных ненависти.
Ютубер Янник Килчер говорит, что он обучил ИИ, используя доску объявлений «Политически некорректно» на веб-сайте 4chan, скандальном форуме, печально известном своими «ненавистными» анонимными сообщениями.
Используя 3,3 миллиона тредов за три года на сайте, бот под названием GPT-4chan научился разговаривать на сайте. Затем его создатель «выпустил» 9 версий ИИ обратно на 4chan, где он опубликовал тысячи и тысячи оскорбительных и даже «жестоких» постов менее чем за один день.
Используя языковую модель, ИИ смог научиться писать сообщения, которые «неотличимы» от написанных людьми.
Судя по всему, пользователи 4chan начали замечать посты бота и догадываться, кто стоит за постами. Килчер говорит, что изначально никто не думал, что это чат-бот из-за его реалистичности.
«Модель довольно мерзкая, должен вас предупредить», — сказал Килчер. «По сути, это то же самое, как если бы вы зашли на веб-сайт и взаимодействовали там с пользователями».
Тем не менее, он сказал, что это "было хорошо в ужасном смысле. Оно прекрасно заключало в себе смесь оскорблений, нигилизма, троллинга и глубокого недоверия к любой информации, которая пронизывает большинство сообщений на сайте".
Эксперимент выявил потенциальные масштабы использования ИИ в Интернете для распространения дезинформации и разжигания ненависти. Один комментатор написал: «Браво, вы меня одурачили. Действительно страшно подумать, что я делился мемами с буквальными ИИ, потому что сомневаюсь, что вы были единственными».
Один пользователь, Арно Ванет, написал: «Это можно использовать в политических целях, представьте, как легко можно так или иначе повлиять на исход выборов».
Килчер предупредил людей, чтобы они не пробовали модель дома, и модель подверглась критике за отсутствие этики ИИ.
Один эксперт по искусственному интеллекту, доктор Лорен Окден-Райнер, утверждала, что эксперимент «никогда не пройдет совет по этике исследований на людях».
Другой исследователь ИИ, Артур Холланд Мишель, сказал Motherboard: «Создание системы, способной создавать невыразимо ужасный контент, использовать его для создания десятков тысяч в основном токсичных сообщений на настоящей доске сообщений, а затем выпустить его в мир, чтобы кто-нибудь еще смог сделать то же самое, это кажется неправильным».
Напомним, что в сети сообщили, что зарядные устройства на iPhone могут совсем скоро исчезнуть.
