¿Qué sucede cuando el software que todos intentan introducir se vuelve demasiado riesgoso para que nadie pueda asegurarlo? Según un informe del Financial Times, estamos a punto de descubrirlo.
Grandes aseguradoras como AIG, Great American y WR Berkley están pidiendo permiso a los reguladores estadounidenses para excluir de las pólizas corporativas los pasivos relacionados con la IA. Un asegurador describe los resultados de los modelos de IA al Financial Times como “una caja negra demasiado grande”.
La industria tiene buenas razones para tener miedo, nos recuerda la historia. AI Overview de Google acusó falsamente a una empresa solar de tener problemas legales, lo que provocó una demanda de 110 millones de dólares en marzo. Air Canada se quedó estancada el año pasado al honrar un descuento inventado por su chatbot. Y el año pasado, los estafadores utilizaron una versión clonada digitalmente de un alto ejecutivo para robar 25 millones de dólares de la firma londinense de diseño e ingeniería Arup durante una videollamada que parecía completamente real.
Lo que realmente asusta a las aseguradoras no es un pago enorme; Existe el riesgo sistémico de miles de reclamaciones simultáneas cuando entra en juego un modelo de IA ampliamente utilizado. Como dijo un ejecutivo de Aon, las aseguradoras pueden absorber una pérdida de 400 millones de dólares para una empresa. Lo que no pueden manejar es un percance de la IA del agente que provoca 10.000 bajas a la vez.
About The Author
