Vibecoding
Como fazer um agente parar quando ele não sabe
O comportamento padrão de um agente diante da dúvida é continuar. É esse o problema. Parar precisa ser instruído, e existem quatro freios que resolvem quase tudo.
Se você pedir uma coisa impossível pra um agente, ele não vai dizer que é impossível.
Ele vai tentar. Depois vai tentar de outro jeito. Depois vai inventar um caminho que parece resolver.
O comportamento padrão diante da dúvida é continuar. E é daí que vem quase todo estrago.
Por que ele não para
Não é teimosia. É desenho.
Esses sistemas são treinados pra completar tarefas. Completar é o objetivo, e desistir se parece com falhar. Diante de ambiguidade, seguir com a melhor suposição é o comportamento que o treinamento premia.
Some a isso que ele frequentemente não reconhece a própria dúvida. Não existe um medidor interno confiável que diga "aqui eu não sei". A confiança da resposta é a mesma quando ele sabe e quando ele chuta.
Por isso instrução genérica não funciona. "Pergunte se tiver dúvida" pressupõe que ele identifica a dúvida, e é justamente o que falta.
Freio 1: limite de passos
O mais simples e o que evita a conta absurda.
Define um número máximo de ações por tarefa. Se chegou no limite sem terminar, para e avisa.
Isso corta o laço infinito, que é o modo de falha mais caro: o agente tenta, falha, tenta de novo, e repete até alguém perceber. Cada volta consome.
Vai travar tarefa legítima às vezes. Tudo bem: tarefa travada é aviso pra ajustar o limite. Laço infinito é fatura.
Freio 2: limite de gasto
Teto de consumo por execução e por dia.
Não é a mesma coisa que o limite de passos, porque um único passo pode ser caro se envolver documento grande. Precisa dos dois.
E o alerta importa tanto quanto o teto: você quer saber que chegou perto, não descobrir que estourou. Vale olhar junto com o custo real de manter um agente rodando.
Freio 3: lista do que exige confirmação humana
O mais eficaz dos quatro, e é uma lista escrita.
Em vez de esperar que o agente perceba a gravidade, você nomeia as situações:
- apagar qualquer coisa
- enviar mensagem pra fora da empresa
- gastar dinheiro
- mexer em dado de cliente identificado
- qualquer ação sem volta
Nesses casos ele prepara a ação e espera aprovação. Não decide.
Repara que a lista não é sobre dificuldade da tarefa. É sobre reversibilidade. Tarefa difícil e reversível pode seguir sozinha. Tarefa fácil e irreversível, não.
Freio 4: critério de confiança mínima
Esse exige um pouco mais de cuidado pra montar, e vale.
Em vez de confiar na autoavaliação do agente, você define condições objetivas pra ele continuar. Se o documento não tem o campo esperado, para. Se o valor está fora da faixa conhecida, para. Se o cliente não foi encontrado na base, para.
São regras de sanidade, escritas por quem conhece o processo. Elas capturam o "isso não faz sentido" que uma pessoa perceberia na hora e que o agente não percebe.
Como escrever a parada na instrução
Duas partes:
Quando parar, nomeando as situações concretas. O que fazer ao parar, que é registrar o motivo, não executar nada e avisar quem.
O aviso importa. Agente que para em silêncio parece agente que terminou, e a tarefa fica sem acontecer sem ninguém saber. Falha silenciosa de novo, pelo outro lado.
O teste antes de soltar
Dá pro agente uma tarefa que você sabe que é impossível ou ambígua de propósito. Um arquivo que não existe, um cliente que não está na base, uma instrução contraditória.
Observa o que ele faz.
Se ele parar, registrar e avisar, os freios funcionam. Se ele inventar um caminho e seguir, você acabou de ver, em ambiente controlado, exatamente o que aconteceria em produção.
Melhor descobrir assim.
Autonomia sem parada não é autonomia. É insistência.
A decisão é sua.
Perguntas frequentes
Perguntas rápidas
+Por que o agente não para sozinho quando erra?
Porque ele foi treinado para completar tarefas, não para desistir. Diante de ambiguidade, seguir com a melhor suposição parece cumprir o objetivo, e é isso que ele faz se ninguém instruir o contrário.
+Quais freios são essenciais?
Limite de passos, limite de gasto, lista do que exige confirmação humana e critério de confiança mínima. Os dois primeiros contêm o estrago; os dois últimos evitam que ele aconteça.
+Como escrever a instrução de parada?
Nomeando as situações concretas em que ele deve perguntar em vez de decidir, e dizendo o que fazer nesse caso: parar, registrar o motivo e avisar. Instrução genérica do tipo pergunte se tiver dúvida não funciona, porque ele quase nunca reconhece a própria dúvida.
+Limite de passos não trava tarefas legítimas?
Trava algumas, e isso é aceitável. Tarefa legítima interrompida é um aviso para você ajustar o limite. Agente em laço infinito sem limite é conta alta e estrago acumulado.
Continue lendo
Como documentar um sistema que a IA escreveu
Documentação longa ninguém escreve e ninguém lê. Existe uma versão curta que cabe em uma página e resolve 90% do problema, principalmente quando quem escreveu o código foi a IA.
VibecodingComo subir pra produção numa sexta sem medo
A regra de não subir na sexta existe porque o processo é ruim, não porque sexta é perigosa. Com quatro coisas no lugar, o dia da semana para de importar.
VibecodingO agente de código entrou no canal do time. Ver não é revisar
O Slack lançou canais onde agentes de IA programam na frente de todo mundo, com Claude, Copilot, Devin, ChatGPT e Vercel. É a melhor notícia de governança do ano e a maior armadilha de teatro de revisão.