Durante años comprábamos software haciéndonos una pregunta muy sencilla:

—¿Funciona?

Si la respuesta era sí, adelante.

Con la inteligencia artificial esa pregunta ya no basta.

Ahora hay otra mucho más importante:

• ¿Quién responde cuando se equivoca?

Porque una IA no falla como un programa tradicional.

• Puede redactar un contrato con un error.
• Aprobar una operación que no debía.
• Rechazar un cliente válido.
• O recomendar una decisión aparentemente razonable… que termina costando mucho dinero.

Y entonces la conversación cambia por completo.

Ya no hablamos de tecnología.

Hablamos de responsabilidad.

Por eso empieza a surgir un mercado que probablemente crecerá mucho durante los próximos años.

• No sólo hablamos de seguros específicos para determinados riesgos relacionados con la IA.
• También de contratos mejor redactados, niveles de servicio más exigentes y cláusulas que definan con claridad quién asume las consecuencias cuando algo sale mal.

Porque una cosa es que un proveedor te garantice disponibilidad y otra muy distinta que responda por las decisiones que toma su sistema.

Como CEO, creo que merece la pena acostumbrarse a hacer algunas preguntas antes de implantar cualquier solución basada en IA.

• ¿Qué ocurre si el modelo se equivoca?
• ¿Quién valida las decisiones importantes?
• ¿Podemos reconstruir cómo llegó a esa conclusión?
• ¿Existe un procedimiento para corregir un error rápidamente?

Si nadie sabe responderlas, el riesgo no está en la inteligencia artificial.

Está en la gestión.

También conviene recordar algo.

No toda la responsabilidad puede trasladarse al proveedor.

Si una empresa utiliza la IA sin supervisión, sin controles y sin procedimientos, difícilmente podrá exigir después que otro asuma todas las consecuencias.

La tecnología necesita gobierno y eso sigue siendo responsabilidad de la dirección.

Creo que dentro de pocos años nos parecerá normal hablar de estas cuestiones.

Igual que hoy nadie firma un contrato importante sin revisar las responsabilidades de cada parte, con la inteligencia artificial ocurrirá exactamente lo mismo.

Adoptar una tecnología nueva no consiste sólo en aprender a utilizarla. 

Consiste también en entender los nuevos riesgos que incorpora y prepararse antes de que aparezcan.

La inteligencia artificial seguirá mejorando.

La pregunta es si nuestras empresas mejorarán al mismo ritmo la forma de gestionar sus consecuencias.

Porque cuando todo funciona, nadie pregunta quién responde.

La verdadera prueba llega el día que algo falla.

Otros artículos relacionados:

• Transformar la tecnología de una pyme para crecer (sin romper nada)
• El nuevo riesgo no está en la IA. Está en cómo la usamos
• Cuando el cliente ya no busca… y es su agente IA quien compra por él
• No vendas más IA. Vende menos riesgo ¿Puedo fiarme?
• Integrar la IA en tu empresa ¿Cuál es el objetivo?
• Agentes de IA autónomos: ¿el siguiente gran salto en la automatización?
• IA para empresarios: Qué hacer (y qué no) para no quedarte fuera
• ¡Alucina, vecina! Alucinaciones en la IA
• El cliente ya no compra solo … ahora viene acompañado de IA
• Shadow AI ¿Sabes cuántas IAs trabajan ya en tu empresa?
• El CEO aumentado: más capacidad y responsabilidad