Что произойдёт, когда программное обеспечение, которое все стремятся внедрить, окажется слишком рискованным, чтобы кто-либо согласился его страховать? Согласно материалу Financial Times, мы скоро это выясним.
Крупнейшие страховщики, включая AIG, Great American и WR Berkley, обратились к американским регуляторам с просьбой разрешить им исключать обязательства, связанные с искусственным интеллектом, из корпоративных страховых полисов. Один из андеррайтеров охарактеризовал выдачу результатов ИИ как «слишком чёрный ящик», сообщает FT.
Как отмечает издание, у страховой отрасли есть веские причины для тревоги. Например, в марте модуль Google AI Overview ошибочно обвинил одну солнечную компанию в юридических проблемах, что привело к судебному иску на 110 миллионов долларов. В прошлом году Air Canada была вынуждена выполнить скидку, которую выдумал их чат-бот. А мошенники воспользовались цифровым клоном топ-менеджера, чтобы в ходе видеозвонка, выглядевшего совершенно достоверно, выманить 25 миллионов долларов у лондонской инжиниринговой фирмы Arup.
Однако страховщиков пугают не отдельные крупные выплаты, а системный риск — риск тысячи одновременных требований к выплатам, если массово используемая модель ИИ допустит ошибку. Как отметил один из руководителей компании Aon, страховщики способны справиться с убытком в 400 миллионов долларов в отношении одной компании. То, к чему они не готовы, — это сбой агентного ИИ, который приведёт к 10 000 выплат одновременно.
Источник: TechCrunch