Un agente de IA que responde correos: cómo marcamos los límites de KAI

KAI es el miembro de inteligencia artificial de nuestro equipo. Aparece con su nombre en la página del equipo, porque no queríamos esconder el uso de la inteligencia artificial en segundo plano. Pero ponerle nombre a una inteligencia artificial es la parte fácil. La verdadera pregunta es cuánto trabajo le deja usted.

Hoy KAI lee los correos que llegan a la empresa. Los rutinarios los responde por sí mismo y organiza reuniones. En los que no son rutinarios solo prepara un borrador, y la decisión de enviarlo o no la toma alguien del equipo. Este artículo explica dónde trazamos esa línea y por qué.

Las dos opciones fáciles eran erróneas

Hay dos opciones que se le ocurren a uno primero. La primera es que el agente lo envíe todo por sí mismo. La segunda es que una persona apruebe cada respuesta antes de enviarla.

La primera es claramente arriesgada. Un modelo de lenguaje puede inventarse un precio o una fecha de entrega con total seguridad. La otra parte lo lee como un compromiso de la empresa.

La segunda parece segura, pero en la práctica no funciona. Ya lo explicamos en otro artículo sobre la gobernanza de la inteligencia artificial. En un sistema que pide aprobación para cada respuesta, al cabo de un tiempo la tasa de aprobación se acerca al cien por cien. La persona que aprueba deja de leer el texto. Sobre el papel hay supervisión humana. En la realidad decide el sistema.

Con qué criterio trazamos la línea

Para considerar rutinario un correo nos hicimos dos preguntas. ¿Se conoce la respuesta de antemano? Si fuera errónea, ¿se podría corregir con facilidad?

Si respondemos que sí a las dos, la tarea es rutinaria. Proponer una hora para una reunión, confirmar la recepción de un documento o responder a una pregunta general con la información del sitio entran en esta categoría. Si KAI propone una hora equivocada, la otra parte la corrige en el siguiente mensaje y nadie sale perjudicado.

Si respondemos que no aunque sea a una, la tarea no es rutinaria. Toda conversación que incluya precios, alcance, contratos, fechas de entrega o datos personales está en esta categoría. Aquí KAI prepara un borrador, pero el mensaje no sale sin la decisión de alguien del equipo.

La ventaja de esta distinción es que mantiene la aprobación humana escasa pero significativa. Cada mensaje que requiere aprobación exige pensar de verdad. Quien aprueba sabe que lo que tiene delante es importante.

Indicar en la firma que es una inteligencia artificial

En la firma de cada correo que envía KAI se indica que el mensaje lo ha escrito un sistema de inteligencia artificial. Lo hacemos por dos motivos.

El primero es la honestidad. La otra parte no debe creer que escribe a una persona y confiar en consecuencia. El segundo es la normativa. El Reglamento (UE) 2024/1689 de Inteligencia Artificial exige que las personas sepan que están interactuando con una inteligencia artificial. Para nuestros interlocutores en Europa es una obligación. Para los de Turquía, también es un buen hábito.

Lo que no puede hacer

KAI no tiene poder de firma en la empresa. No puede hacer ofertas, no puede cerrar contratos y no puede interpretar la normativa. Estos límites no están solo en una lista de reglas. También están trazados en las herramientas que el agente puede usar. Si usted no le da un permiso a un agente, tampoco necesita confiar en que no lo usará.

KAI accede a un modelo de lenguaje a través de OpenRouter. Esto significa que las conversaciones van a un proveedor de servicios en el extranjero. Lo explicamos aparte en nuestro aviso informativo. Allí también pedimos que no se envíe por correo información confidencial, datos personales de categoría especial ni secretos comerciales.

Dónde se pone a prueba este diseño

La línea entre lo rutinario y lo no rutinario no siempre es nítida. «No puedo ir a la reunión, ¿podría ser otro día?» es un mensaje rutinario. «No puedo ir a la reunión porque vamos a suspender el proyecto» no lo es. Los dos empiezan con la misma frase.

Por eso, en caso de duda, el comportamiento por defecto es preparar un borrador. KAI no considera rutinario un mensaje del que no está seguro. Equivocarse en esa dirección, es decir, dejarle trabajo innecesario a una persona, sale más barato que equivocarse en la contraria.

Qué trasladamos a los proyectos de clientes

El criterio que usamos en nuestro propio trabajo se traslada también a los sistemas que montamos para los clientes. No activamos ni desactivamos la autonomía de un agente con un solo interruptor. Clasificamos las tareas según si la respuesta se conoce de antemano y si el error se puede deshacer. Según su categoría, el agente termina la tarea o deja un borrador.

Este criterio no es perfecto. Pero podemos escribir con claridad dónde se sitúa, y un límite que podemos escribir es un límite que podemos auditar.