Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en el Inteligencia artificial Myft Digest: entregado directamente a su bandeja de entrada.
Las aseguradoras de Lloyd’s de Londres han lanzado un producto para cubrir a las empresas por pérdidas causadas por las herramientas de inteligencia artificiales que funcionan mal, ya que el sector tiene como objetivo beneficiarse de las preocupaciones sobre el riesgo de alucinaciones y errores costosos por los chatbots.
Las políticas desarrolladas por Armilla, una nueva empresa respaldada por Y Combinator, cubrirán el costo de los reclamos judiciales contra una empresa si es demandado por un cliente u otro tercero que ha sufrido daños debido a una herramienta de IA de bajo rendimiento.
El seguro será suscrito por varias aseguradoras de Lloyd y cubrirá costos, como pagos por daños y tarifas legales.
Las empresas se han apresurado a adoptar la IA para aumentar la eficiencia, pero algunas herramientas, incluidos los bots de servicio al cliente, se han enfrentado a errores vergonzosos y costosos. Tales errores pueden ocurrir, por ejemplo, debido a los defectos que hacen que los modelos de lenguaje de IA se “alivien” o inventen las cosas.
Virgin Money se disculpó en enero después de que su chatbot con AI reprendió a un cliente por usar la palabra “Virgin”, mientras que Courier Group DPD el año pasado deshabilitó parte de su bot de servicio al cliente después de que juró a los clientes y llamó a su propietario la “peor empresa de servicios de entrega en el mundo”.
Un tribunal el año pasado ordenó a Air Canada que honre un descuento que su chatbot de servicio al cliente había compuesto.
Armilla dijo que la pérdida por vender los boletos a un precio más bajo habría sido cubierto por su póliza de seguro si se descubriera que el chatbot de Air Canada se había desempeñado peor de lo esperado.
Karthik Ramakrishnan, director ejecutivo de Armilla, dijo que el nuevo producto podría alentar a más empresas a adoptar IA, ya que muchos están disuadidos actualmente por el temor de que herramientas como los chatbots se rompan.
Algunas aseguradoras ya incluyen pérdidas relacionadas con la IA dentro de los errores de tecnología general y las políticas de omisiones, pero generalmente incluyen límites bajos en los pagos. Una política general que cubre hasta $ 5 millones en pérdidas podría estipular un sublimit de $ 25,000 para pasivos relacionados con la IA, dijo Preet Gill, un corredor de Lockton, que ofrece los productos de Armilla a sus clientes.
Los modelos de lenguaje de IA son dinámicos, lo que significa que “aprenden” con el tiempo. Pero las pérdidas por errores causados por este proceso de adaptación normalmente no estarían cubiertos por los típicos errores de tecnología y las políticas de omisiones, dijo Logan Payne, un corredor de Lockton.
Un error de una herramienta de IA no sería suficiente para activar un pago bajo la política de Armilla. En cambio, la portada se activaría si la aseguradora juzgara que la IA había realizado por debajo de las expectativas iniciales.
Por ejemplo, el seguro de Armilla podría pagar si un chatbot le dio a los clientes o empleados información correcta solo el 85 por ciento del tiempo, después de hacerlo inicialmente en el 95 por ciento de los casos, dijo la compañía.
“Evaluamos el modelo de IA, nos sentimos cómodos con su probabilidad de degradación y luego compensamos si los modelos se degradan”, dijo Ramakrishnan.
Tom Graham, jefe de asociación de Chaucer, una aseguradora de Lloyd’s que está suscribiendo las políticas vendidas por Armilla, dijo que su grupo no firmaría políticas que cubran los sistemas de IA que juzgan para ser propensos a desglose. “Seremos selectivos, como cualquier otra compañía de seguros”, dijo.
About the Author
