Antes de aprobar un agente, pregunta con qué usuario entra

La decisión que esto cambia: la próxima vez que un proveedor te presente un agente de IA que "opera" tu negocio, la pregunta que decide la compra ya no es qué tan bueno es el modelo. Es con qué credenciales entra a tus sistemas y qué límite tiene lo que puede hacer.

Europa Press reportó que la carrera por automatizar con IA está poniendo el foco en datos, permisos y seguridad. Suena a nota de área técnica. No lo es. Es la consecuencia de un cambio muy concreto: los sistemas de IA pasaron de sugerir a ejecutar.

Un chatbot equivocado te avergüenza; un agente equivocado te mueve dinero

El año pasado la mayoría de las empresas probó asistentes: escribían correos, resumían documentos, respondían preguntas. El peor escenario de esas herramientas era una respuesta mal redactada o una tontería frente a un cliente. Incómodo, recuperable.

Lo que se está vendiendo ahora es otra cosa. Un agente que revisa el pedido, decide si aplica el descuento y lo aplica. Que detecta un cargo duplicado y emite la nota de crédito. Que ve un lead frío en el CRM y le manda el correo, con tu dominio y tu firma. Para hacer cualquiera de esas cosas necesita una llave: un usuario, un token, una conexión a tu ERP, a tu CRM, a tu correo.

Ahí es donde se rompe. En la mayoría de las implementaciones que he visto, esa llave es la de alguien de sistemas que por conveniencia tiene acceso a todo. No es mala fe: es que era la credencial que estaba a la mano y el proyecto tenía prisa. El resultado es que un software con criterio probabilístico opera con los permisos de tu persona más poderosa, y nadie lo escribió en ningún lado.

El riesgo real casi nunca es dramático. No es que el agente decida hacerte daño. Es que se le da una instrucción ambigua, o un cliente le escribe algo raro, y hace exactamente lo que le pidieron, treinta veces, muy rápido. La velocidad es la ventaja del agente y también es lo que convierte un error chico en un error grande antes de que alguien lo note.

Trátalo como un empleado nuevo, no como una herramienta

El marco mental que mejor funciona en las juntas es este: un agente es un empleado nuevo del que no conoces las referencias.

A un empleado nuevo no le das las llaves de la caja fuerte el primer día. Le das acceso a lo que necesita para su función, le pones un tope de autorización, y todo lo que hace queda registrado con su nombre. Nadie considera eso desconfianza; es cómo funciona una empresa.

Aplicado a agentes, se traduce en cuatro cosas concretas:

Cuenta propia. El agente entra con su propio usuario, no con el de una persona. Suena obvio y es lo que más veces se salta, porque crear el usuario toma una semana y conectar el existente toma diez minutos.

Acceso mínimo. Sólo a los módulos que necesita para su tarea. Si el agente atiende facturación, no tiene por qué ver nómina. La pregunta de control es: ¿qué es lo peor que podría hacer con estos permisos si se equivoca a las tres de la mañana?

Límite de monto o de volumen. Arriba de cierta cantidad, o de cierto número de acciones por hora, requiere aprobación humana. Este es el control más barato y el que más pena ahorra.

Bitácora con nombre. Todo lo que ejecutó, cuándo, y con qué instrucción. Si no puedes reconstruir por qué hizo algo, no lo puedes defender ante un cliente, ante un auditor ni ante tu consejo.

Nada de esto requiere tecnología nueva. Es gobierno de accesos, que tu empresa ya hace con las personas y simplemente no ha extendido al software que ahora actúa como persona.

Qué hacer el lunes

1. Haz la pregunta directa. A quien esté probando cualquier automatización con IA: ¿con qué usuario se conecta y qué puede hacer con esa cuenta? Si la respuesta tarda o incluye la frase "es la cuenta de fulano", ya encontraste el pendiente.

2. Lista las acciones irreversibles. En una hoja: mover dinero, emitir notas de crédito, cambiar precios, borrar registros, mandar comunicación masiva a clientes. Ninguna de esas se automatiza sin aprobación humana en la primera versión. Ninguna.

3. Define un tope y escríbelo en el contrato o en el ticket del proyecto. Un número. "Hasta cinco mil pesos, el agente decide; arriba, aprueba una persona". Que sea explícito y que el proveedor lo firme.

4. Pide ver la bitácora antes de aprobar el piloto, no después. Si el proveedor no te puede mostrar cómo se ve el registro de acciones, el producto no está listo para tu operación, por buena que sea la demo.

La pregunta para tu junta

Si el agente que vamos a encender se equivoca cien veces en una hora, ¿qué es lo peor que pasa y quién se entera?

Si nadie en la mesa puede responder eso con un número y un nombre, todavía no están listos para encenderlo. Y esa no es una razón para no hacerlo: es la lista de pendientes de las próximas dos semanas.