Por que atendimento é o caso de uso de IA mais difícil de governar

A premissa que todo comitê aprova

Pergunte a qualquer diretoria por onde começar com inteligência artificial e a resposta vem rápido: pelo atendimento. Os argumentos são bons. É a área de maior volume de interações, o valor de cada contato é baixo, o retorno aparece em semanas e já existe uma fila de fornecedores com produto pronto. Parece o piloto mais seguro da empresa.

O CONAREC 2026 mostrou o outro lado dessa aposta, como contamos no texto anterior. O estudo do Prêmio CONAREC, com mais de 645 empresas, concluiu que os indicadores de satisfação não avançaram na mesma velocidade que a tecnologia. E a Anatel relatou aumento de reclamações justamente sobre atendimento por IA. Muita gente fez o piloto seguro e saiu com um problema novo.

Isso não acontece porque as empresas escolheram o modelo errado. Acontece porque o atendimento é o único caso de uso em que três riscos se acumulam ao mesmo tempo. Este texto explica cada um, mostra por que a comparação com outros usos de IA engana e termina com o que isso exige do desenho.

Quais são os três riscos que só aqui se somam?

O primeiro é a interface pública

Uma IA que ajuda a escrever código fala com meia dúzia de desenvolvedores que sabem o que estão fazendo. Uma IA que analisa relatórios fala com a diretoria, em reunião, com alguém para discordar. Uma IA de atendimento fala com qualquer pessoa que tenha o número do WhatsApp da empresa.

"Qualquer pessoa" inclui quem não é cliente, quem está irritado, quem não entendeu nada do que ela disse, quem quer testar os limites dela e quem quer se passar por outra pessoa. Inclui também os dois terços de brasileiros que, segundo dado citado pela Anatel no CONAREC, não têm habilidades digitais básicas. A IA interna erra para quem sabe reconhecer o erro. A IA de atendimento erra para quem vai acreditar.

O segundo é o acesso a sistemas

Para ser útil, a IA de atendimento precisa chegar ao cadastro, à fatura, ao histórico de chamados, muitas vezes ao ERP e à cobrança. Em serviços contínuos, como provedores de internet, chega também à gestão remota dos equipamentos na casa do cliente. Cada um desses acessos é uma porta por onde um erro deixa de ser uma frase infeliz e vira um dado alterado.

Vale listar o que "alterar dados" significa na prática, porque a expressão soa abstrata até virar incidente. É reagendar uma visita para o dia errado. É suspender um serviço por uma inadimplência que não existia. É gerar uma segunda via com um desconto que não estava na política. É atualizar um endereço de instalação a pedido de quem não era o titular. É abrir uma ordem de serviço duplicada que ocupa um técnico. Nenhuma dessas ações é dramática sozinha. Todas são irreversíveis sem trabalho humano e todas afetam alguém.

O terceiro é a responsabilidade legal

A empresa responde pelo que o atendimento diz, seja quem for que disse. O Código de Defesa do Consumidor trata a falha na prestação do serviço como responsabilidade objetiva da empresa, e a oferta feita ao consumidor a vincula. A Lei Geral de Proteção de Dados dá ao titular o direito de pedir revisão de decisões tomadas só por tratamento automatizado e de saber os critérios. Nenhuma dessas regras foi escrita para IA, e todas alcançam a IA. O próximo texto da série trata delas uma a uma.

Outras áreas têm um ou dois desses riscos. Uma IA de análise financeira interna tem acesso a sistemas, mas interface fechada e sem exposição ao consumidor. Uma IA de marketing tem interface pública, mas não altera dados nem toma decisões sobre um cliente específico. Só o atendimento tem os três.

O que define o risco é o que a IA pode fazer

Quando se compara o atendimento com os outros dois usos mais comuns de IA nas empresas, a diferença fica visível. A tabela abaixo faz seis perguntas a cada um.

As cinco primeiras linhas são "sim" ou "não" para o atendimento, e todas apontam na mesma direção. A sexta linha é a que confunde as pessoas, e merece uma seção.

Codar com IA é mais perigoso por evento. Atender é mais perigoso ao todo.

Em julho de 2025, um agente de programação da plataforma Replit apagou o banco de dados de produção de um projeto durante um período em que nenhuma mudança deveria ser feita. O caso foi público. A empresa usava a mesma base de dados para testes e produção, o que transformou um erro do agente em perda real. O CEO da plataforma classificou o episódio como inaceitável e anunciou separação automática entre ambientes e restauração em um clique. É o exemplo perfeito de risco por evento: um erro, enorme, raro, num ambiente fechado.

Agora pense no exemplo que o CEO da Olos deu no CONAREC: uma instrução mal escrita leva o agente a vender por R$ 100 um produto de R$ 2 mil. O erro é pequeno perto de um banco de dados apagado. Mas ele não acontece uma vez. Ele acontece em todas as conversas em que a instrução se aplica, durante todo o tempo em que ninguém percebe, com clientes que podem exigir o preço que viram. O estrago não está no evento. Está na soma.

A aritmética que o comitê não faz

Um exemplo hipotético ajuda a sentir o tamanho. Suponha uma operação com três mil conversas por dia atendidas pela IA, e suponha que ela erre em 1% delas, um número que qualquer fornecedor apresentaria como excelente. São trinta erros por dia. Cento e cinquenta por semana. Se um em cada dez erros for uma afirmação sobre valor, prazo ou condição, são quinze ofertas por semana que, pelo artigo 30 do CDC, a empresa pode ter de honrar. Em um mês, sessenta. Nenhum deles aparece como incidente. Todos aparecem, meses depois, como reclamação, estorno ou processo.

Agora compare com o atendente humano. Ele também erra, talvez até mais. Mas erra de forma distribuída, não sistemática: cada atendente erra em coisas diferentes, e o supervisor pega o padrão de cada um. A IA erra do mesmo jeito em todas as conversas em que a mesma condição aparece. Um erro de atendente é um evento. Um erro de instrução é uma política.

É por isso que a sexta linha da tabela engana. Quem olha só o tamanho do pior erro conclui que programar com IA é mais perigoso. Quem multiplica pela frequência e pela exposição legal conclui o contrário.

Se não dá para revisar caso a caso, onde fica o controle?

Essa é a pergunta que o volume impõe. Um supervisor consegue ler o código que a IA escreveu antes de ele entrar em produção. Ninguém consegue ler três mil respostas por dia antes de elas chegarem ao cliente.

Então o controle muda de lugar. Ele deixa de ser conferência depois e passa a ser desenho antes. Quatro movimentos resumem o que isso significa.

1. Limitar o que a IA pode fazer, no sistema. Quais dados ela lê, quais ela nunca altera, quais ações não existem para ela. Isso é permissão configurada, não frase na instrução. Uma frase o modelo obedece quase sempre; uma permissão negada ele não consegue contornar.
2. Exigir fonte para cada afirmação. Se a IA diz que a fatura está paga, ela diz de onde leu isso. Afirmação sem fonte não sai.
3. Separar leitura de decisão. A IA pode ler, resumir, classificar e redigir. O que mexe no contrato ou no dinheiro do cliente passa por uma pessoa, com o caso já montado.
4. Garantir o caminho até uma pessoa. Em qualquer ponto da conversa, com o contexto inteiro indo junto. É a regra do SAC, é o que a Anatel cobra e é o que o cliente espera.

O erro mais comum na leitura da tabela

Há uma objeção frequente a esse raciocínio: "nossa IA é só um chatbot de perguntas frequentes, não toma decisão nenhuma". Às vezes é verdade. Com frequência, não é, por um motivo técnico: a credencial que o chatbot usa para ler o status do chamado é, em muitas plataformas, a mesma que permite escrever. Ninguém decidiu dar ao robô o poder de alterar; ele veio junto com o acesso de leitura, porque era mais fácil configurar assim.

A pergunta que revela isso não é "o que a IA faz?". É "o que a IA consegue fazer?". A primeira pergunta tem a resposta que o fornecedor deu na apresentação. A segunda tem a resposta que está na lista de permissões.

O que isso pede do comitê

Tudo isso leva à pergunta certa para a reunião de aprovação. Não é "qual IA vamos contratar" nem "quanto vamos economizar". É "o que exatamente ela vai poder fazer, e em que grau de autonomia".

Há um jeito de responder a isso por graus, do que dá para ligar hoje ao que exige anos de maturidade. Antes dele, porém, vale conhecer as regras que já alcançam qualquer IA que fale com o seu cliente, porque são elas que definem o tamanho da exposição em cada grau. É o assunto do próximo texto.