Imagina que tu director comercial recibe una llamada.
Un cliente está encantado… Le acaban de ofrecer un descuento del 40%.
El problema es que nadie en la empresa ha autorizado semejante descuento.
Y hay algo peor.
No es el único cliente que ha recibido la oferta.
- El responsable ha sido un agente de inteligencia artificial que lleva seis meses atendiendo consultas, preparando presupuestos y negociando dentro de ciertos límites.
Hasta ahora funcionaba estupendamente.
Alguien decide desconectarlo.
Perfecto.
Pero las veinte ofertas ya están enviadas.
Algunas han sido aceptadas.
Otras han generado pedidos en el sistema.
Y una tiene un compromiso de entrega que producción no puede cumplir.
Hemos despedido al agente.
Ahora toca resolver lo que ha dejado detrás.
El ejemplo es hipotético, pero el problema empieza a ser muy real.
En junio de 2026, MuleSoft, del grupo Salesforce, presentó un mecanismo para detener agentes que se comporten de manera inesperada.
Me parece significativo.
Hasta hace poco, la gran conversación empresarial consistía en descubrir todo lo que podíamos encargar a la IA.
Ahora empieza otra: cómo recuperar el control cuando un agente o algo no funciona.
Porque detener un programa y deshacer sus consecuencias son dos cosas muy diferentes.
- Si un agente ha enviado un correo, no podemos retirarlo de la bandeja del cliente.
- Si ha confirmado un pedido, alguien tendrá que revisarlo.
- Y si ha modificado datos que utilizan otros sistemas, desconectarlo quizá no sea suficiente.
Piensa en una empresa con cincuenta agentes.
- Uno atiende clientes.
- Otro tramita devoluciones.
- Un tercero gestiona compras.
- Algunos se comunican entre sí.
¿Podemos detener uno sin paralizar a los demás?
¿Sabemos qué operaciones tiene pendientes?
¿Quién se ocupa de los compromisos que ya ha generado?
Esto no debería resolverse en una reunión de emergencia, con el director de Sistemas buscando desesperadamente un botón rojo.
Deberíamos haberlo pensado antes de ponerlo a trabajar.
Igual que no entregamos a un empleado recién contratado la facultad de firmar cualquier contrato, tampoco deberíamos conceder a un agente autoridad ilimitada.
Pero hay una diferencia importante.
Cuando una persona abandona la empresa, sabemos que debemos transferir sus asuntos pendientes.
Con un agente tendremos que hacer algo parecido, probablemente mucho más deprisa.
Y sin olvidar que la responsabilidad ante el cliente sigue siendo nuestra.
Eso me lleva a una cuestión que va más allá de la inteligencia artificial.
La tecnología puede ayudarnos a preparar contratos, detectar riesgos y ejecutar tareas, pero hay decisiones cuyo alcance exige conservar el criterio y la responsabilidad.
Antes de incorporar un nuevo agente, yo comprobaría algo muy sencillo: que podemos detenerlo, saber qué ha hecho y hacernos cargo de lo que deja pendiente.
Porque contratar inteligencia artificial será cada vez más fácil.
Lo que distinguirá a una empresa bien dirigida será saber cuándo quitarle las llaves.
Otros artículos relacionados:
- La pregunta que nadie hacía sobre la IA ¿Quién responde si se equivoca?
- Cuando el cliente ya no busca… y es su agente IA quien compra por él
- Inteligencia Artificial Agéntica: expertos en tu negocio
- Cuando la IA deja de responder y empieza a actuar
- El cliente ya no compra solo … ahora viene acompañado de IA
- La deuda que no aparece en el balance ¿Con qué datos funciona la IA?
- Transformar la tecnología de una pyme para crecer (sin romper nada)
- De la inteligencia artificial a la inteligencia aumentada para transformar negocios
- Agentes de IA autónomos: ¿el siguiente gran salto en la automatización?
- El nuevo riesgo no está en la IA. Está en cómo la usamos
- No vendas más IA. Vende menos riesgo ¿Puedo fiarme?
0 comentarios