Um agente de IA que responde a e-mails: como definimos os limites do KAI

A KAI é o membro de inteligência artificial da nossa equipa. Aparece com o seu nome na página da equipa, porque não quisemos esconder nos bastidores o uso de inteligência artificial. Mas dar um nome a uma inteligência artificial é a parte fácil. A verdadeira questão é quanto trabalho lhe deixamos.

Hoje, a KAI lê os e-mails que chegam à empresa. Responde sozinha aos de rotina e marca reuniões. Nos que não são rotina, apenas prepara um rascunho, e é alguém da equipa que decide se o envia ou não. Este texto explica onde traçámos essa linha e porquê.

As duas opções fáceis estavam erradas

Há duas opções que ocorrem logo. A primeira é o agente enviar tudo sozinho. A segunda é cada resposta ser aprovada por uma pessoa antes de ser enviada.

A primeira é claramente arriscada. Um modelo de linguagem pode inventar um preço ou um prazo de entrega com um tom muito seguro. A outra parte lê isso como um compromisso da empresa.

A segunda parece segura, mas na prática não funciona. Já o explicámos noutro artigo sobre governação da inteligência artificial. Num sistema que pede aprovação para cada resposta, a taxa de aprovação aproxima-se, ao fim de algum tempo, dos cem por cento. Quem aprova deixa de ler o texto. No papel há supervisão humana. Na realidade, é o sistema que decide.

Com que critério traçámos a linha

Para considerar um e-mail de rotina, fizemos duas perguntas. A resposta é conhecida de antemão? Se estiver errada, corrige-se com facilidade?

Se a resposta às duas for sim, a tarefa é de rotina. Propor um horário para uma reunião, confirmar a receção de um documento ou responder a uma pergunta geral com a informação do site entram nesta categoria. Se a KAI propuser um horário errado, a outra parte corrige-o na mensagem seguinte e ninguém sai prejudicado.

Se a resposta a uma delas for não, a tarefa não é de rotina. Toda a correspondência que envolva preços, âmbito, contratos, prazos de entrega e dados pessoais está nesta categoria. Aqui a KAI prepara um rascunho, mas a mensagem não sai sem a decisão de alguém da equipa.

A vantagem desta distinção é manter a aprovação humana rara, mas com significado. Cada mensagem que pede aprovação exige mesmo reflexão. Quem aprova sabe que o que tem à frente é importante.

Escrever na assinatura que é inteligência artificial

Na assinatura de cada e-mail que a KAI envia, indica-se que a mensagem foi escrita por um sistema de inteligência artificial. Fazemo-lo por duas razões.

A primeira é a honestidade. A outra parte não deve julgar que está a falar com uma pessoa e confiar em função disso. A segunda é a regulamentação. O Regulamento (UE) 2024/1689 exige que as pessoas saibam quando estão a interagir com uma inteligência artificial. Para os nossos interlocutores na Europa, isto é uma obrigação. Para os que estão na Turquia, é também um bom hábito.

O que ela não pode fazer

A KAI não tem poderes de assinatura na empresa. Não pode apresentar propostas, celebrar contratos nem interpretar legislação. Estes limites não estão apenas numa lista de regras. Estão também traçados nas ferramentas que o agente pode usar. Quando não se dá uma permissão a um agente, também não é preciso confiar nele para que não a use.

A KAI acede a um modelo de linguagem através do OpenRouter. Isto significa que a correspondência vai para um prestador de serviços no estrangeiro. Explicámo-lo à parte no nosso aviso de privacidade. Aí pedimos também que não se enviem por e-mail informações confidenciais, dados pessoais de categorias especiais ou segredos comerciais.

Onde este desenho tem dificuldades

A linha entre rotina e não rotina nem sempre é nítida. «Não posso ir à reunião, pode ser noutro dia?» é uma mensagem de rotina. «Não posso ir à reunião porque vamos suspender o projeto» já não é. As duas começam com a mesma frase.

Por isso, em caso de dúvida, o comportamento por omissão é preparar um rascunho. A KAI não considera de rotina uma mensagem sobre a qual não tem certeza. Errar num sentido, ou seja, deixar trabalho a uma pessoa sem necessidade, sai mais barato do que errar no sentido contrário.

O que levamos para os projetos dos clientes

O critério que usamos no nosso próprio trabalho passa também para os sistemas que construímos para os clientes. Não ligamos nem desligamos a autonomia de um agente com um único interruptor. Classificamos as tarefas consoante a resposta seja ou não conhecida de antemão e consoante o erro seja ou não reversível. Conforme a categoria, o agente ou termina a tarefa ou deixa um rascunho.

Este critério não é perfeito. Mas conseguimos escrever claramente onde se situa, e um limite que conseguimos escrever é um limite que conseguimos verificar.