7 min read
“La responsabilidad por IA ya no se trata solo de las personas que usan IA.” Esa frase es de Simon Hughes, director comercial de la aseguradora de riesgos cibernéticos Cowbell, en el anuncio del 10 de noviembre de una póliza independiente de responsabilidad por IA para pequeñas y medianas empresas de EE. UU. Es una frase certera, y es cierta. Pero mi opinión es simple: para la mayoría de los negocios de una sola persona, la primera línea de defensa contra los errores de la IA no es una póliza, es un conjunto de frenos que tú controlas. El seguro viene después, si es que llega.
Qué está vendiendo realmente Cowbell
Hay que reconocerlo: es un producto real que responde a un cambio real. La póliza está pensada para negocios que usan agentes de IA, es decir, herramientas de IA que toman acciones en tu nombre (enviar cotizaciones, liberar pagos, presentar trámites) en lugar de solo redactar textos para que tú los revises. Según el comunicado, la cobertura se activa con un “incidente de IA”, que incluye que una herramienta de IA se salga del alcance autorizado, actúe sin la aprobación requerida, exponga datos, produzca resultados inexactos u opere fuera de tus controles.
En la parte de daños propios, puede pagar la respuesta al incidente, la corrección o el retiro de resultados defectuosos, las pérdidas por transacciones no recuperadas y los cargos descontrolados por uso de IA, incluidas las facturas generadas con claves de API robadas (las contraseñas que permiten que un software use un servicio de IA). En la parte de terceros, cubre los gastos de defensa y las indemnizaciones por reclamos como infracción de derechos de autor o discriminación algorítmica. La póliza entra en vigor el 1 de enero de 2027, se vende solo a través de corredores de seguros mayoristas y el precio no se ha revelado.
El comunicado incluso trae escenarios hipotéticos que le sonarán incómodamente creíbles a cualquiera que esté experimentando con agentes: un agente de cuentas por pagar que libera pagos duplicados sin autorización, o un agente de cotizaciones que entra en un bucle, envía cotizaciones equivocadas y acumula cargos por uso.
Por qué dudo que alguien que trabaja solo necesite esto todavía
Nada de eso convierte a la póliza en una mala idea. La convierte en un producto diseñado para una empresa que ya le entregó autoridad real al software. La mayoría de las personas que trabajan solas con las que hablo no lo han hecho, y no deberían apurarse. Tres razones:
1. Probablemente no le has dado a un agente suficiente poder como para necesitarla
Si tu IA redacta correos que tú envías, prepara facturas que tú apruebas y sugiere pagos que tú liberas, la IA no ha actuado por su cuenta. El error, si lo hay, sigue siendo humano, y probablemente ya esté cubierto por el seguro de responsabilidad profesional o de responsabilidad civil general que tienes. Hazle esa pregunta a tu corredor antes de comprar algo nuevo.
2. La evaluación del riesgo premiará los controles que podrías crear gratis
Cowbell dice que evalúa el riesgo de IA con tres factores: observabilidad, autonomía y gobernanza. En palabras simples: ¿puedes ver lo que hizo tu IA?, ¿cuánto puede hacer sin preguntarte? y ¿tienes reglas por escrito sobre ella? Esos son exactamente los hábitos que evitan los incidentes desde el principio. Créalos ahora y obtendrás la mayor parte de la protección sin pagar prima.
3. Las pérdidas más baratas son las que nunca ocurren
Los escenarios del comunicado comparten un patrón. En cada uno, un agente hizo algo costoso sin que nadie lo aprobara. Para un negocio de una sola persona, un paso de aprobación obligatorio no es burocracia. Es un hábito de diez segundos que elimina por completo la mayor categoría de riesgo, como explicamos cuando los agentes de IA obtuvieron la capacidad de pagar a proveedores.
La lista de verificación del botón de apagado que debes armar antes de buscar una póliza
Si solo vas a hacer una cosa después de leer esto, que sea esta lista. Corresponde directamente a las preguntas de observabilidad, autonomía y gobernanza que te hará quien evalúe tu riesgo.
- Puntos de aprobación en todo lo que mueva dinero o salga del negocio. Pagos, reembolsos, cotizaciones, contratos y correos salientes a contactos nuevos deben esperar el clic de una persona.
- Topes de gasto en cada cuenta de IA. Fija un límite de uso mensual y una alerta de facturación en cada servicio de IA. Es tu defensa contra bucles descontrolados y claves robadas.
- Claves guardadas como contraseñas. Guarda las claves de API en un administrador de contraseñas, nunca en un documento compartido, y renueva cualquier clave que alguna vez hayas pegado en un chat o en un archivo público.
- Una hoja de reglas de IA de una página. Anota cada herramienta de IA que usas, qué tiene permitido hacer, qué no debe hacer nunca y quién revisa su trabajo. Ese es tu documento de gobernanza.
- Registros que de verdad revisas. Elige herramientas que guarden un historial de lo que hizo la IA y échale un vistazo cada semana. Esa es tu observabilidad.
- Una forma conocida de detenerlo todo. Aprende a pausar cada automatización en menos de un minuto: el interruptor en Zapier, el botón de apagado en tu herramienta de agentes, el botón para revocar el acceso de cada cuenta conectada.
- Barreras contra agentes engañados. Un agente que lee correos o páginas web puede ser manipulado con instrucciones ocultas. Nuestra guía para principiantes sobre la inyección de instrucciones (prompt injection) explica el truco en palabras simples.
Si quieres un marco más amplio, el NIST AI Risk Management Framework (el marco gratuito del gobierno de EE. UU. para gestionar riesgos de IA) cubre el mismo terreno para organizaciones más grandes. No necesitas leerlo completo, pero es una buena señal de que “gobernar, mapear, medir, gestionar” se está convirtiendo en el lenguaje común del riesgo de IA.
Cuándo sí empieza a tener sentido un seguro de responsabilidad por IA
No digo que nunca. En el momento en que cambien tus respuestas a estas preguntas, llama a un corredor:
- Un agente puede gastar dinero o emitir reembolsos sin tu aprobación, aunque sea dentro de un límite.
- Tus clientes dependen de trabajo producido por IA que no revisas línea por línea, como informes automáticos, traducciones o cifras de impuestos.
- Una IA habla con tus clientes en tiempo real por chat, teléfono o mensaje de texto, y podría prometer algo que no puedes cumplir.
- Un contrato con un cliente te exige tener cobertura específica para IA, algo que probablemente será más común en 2027.
Si alguno de esos puntos ya describe tu negocio, vale la pena conversar sobre el producto. Antes de firmar, pregunta qué se considera “alcance autorizado”, si está cubierto un error que tú aprobaste, cuál es el deducible (la parte que pagas de tu bolsillo) y cómo se combina la póliza con tu seguro de responsabilidad profesional actual.
La verdadera señal detrás de este lanzamiento
Lo más interesante del anuncio de Cowbell no es la póliza. Es que una aseguradora ya considera que “la IA actuando por su cuenta dentro de un pequeño negocio” es lo bastante común como para ponerle precio. Eso te dice hacia dónde va la industria, y debería hacer que cada persona que trabaja sola sea un poco más deliberada sobre cuánta autonomía entrega. El seguro transfiere el riesgo. Los frenos lo eliminan. Empieza por los frenos, pon tus reglas por escrito y vuelve a pensar en el seguro cuando tu IA empiece a hacer cosas que ya no revisas. ¿Cuál de los siete puntos de la lista le falta hoy a tu negocio? Cuéntanos en los comentarios.
