За ошибки и "галлюцинации" искуственного интеллекта можно будет получать деньги

На страховом рынке Lloyd's of London появился новый продукт, который покрывает убытки компаний, связанные с ошибками искусственного интеллекта (ИИ).

Это решение было разработано стартапом Armilla, и оно призвано защитить бизнес от дорогих судебных исков, если клиент или другая третья сторона пострадала из-за неправильной работы ИИ-инструментов, например, чат-ботов.

Об этом пишет Financial Times.

Многие компании стремятся внедрить ИИ для повышения эффективности, но, как показывает практика, такие технологии могут ошибаться. Например, чат-боты иногда "галлюцинируют" или делают странные выводы, что может привести к неловким ситуациям и даже к судебным искам.

Подобное случилось пару месяцев назад в банке Virgin Money, когда их ИИ-бот сделал выговор клиенту за использование слова "virgin" (девственный, невинный – ред.). И в курьерской компании DPD, чей чат-бот назвал своего владельца "худшей компанией доставки в мире".

Так вот теперь компании могут застраховать свои ИИ-системы, чтобы не нести убытков, если чат-бот или другая система ИИ окажутся не такими эффективными, как ожидалось. Например, если чат-бот начал ошибаться в 15% случаев, хотя раньше ошибался только в 5%, то это может стать основанием для выплаты по страховке.

Картхик Рамакришнан, генеральный директор Armilla, утверждает, что такой продукт может помочь компаниям смело внедрять ИИ, зная, что они защищены от возможных последствий ошибок.