Segurança
Como usar IA em cima de dado sensível sem entregar o dado
Dá pra corrigir prova, analisar contrato e resumir atendimento com IA sem mandar nome, CPF e documento pro modelo. A técnica é simples e quase ninguém aplica.
Corrigir prova com IA. Analisar contrato com IA. Resumir atendimento com IA.
Os três casos têm o mesmo problema: o material está cheio de gente identificada. E a saída da maioria é mandar tudo pro modelo e torcer.
Dá pra fazer diferente, e não é complicado.
A ideia central
Separe o que a IA precisa entender do que ela não precisa saber.
Pra corrigir uma redação, o modelo precisa do texto da redação. Não precisa do nome do aluno, da matrícula, nem do CPF da mãe dele.
Pra apontar cláusula de risco num contrato, precisa do texto da cláusula. Não precisa do endereço das partes.
Quase sempre, o que identifica a pessoa é irrelevante pra tarefa. A gente manda junto por preguiça, não por necessidade.
Técnica 1: troque o identificador por um código
Antes de enviar, substitua nome, CPF, e-mail e telefone por marcadores estáveis: ALUNO_1, CLIENTE_A, PARTE_1.
A tradução entre o marcador e a pessoa real fica só no seu banco. Nunca sai.
O modelo entende a estrutura do texto exatamente igual, porque pra tarefa dele tanto faz se o nome é João ou ALUNO_1. Quando a resposta volta, você troca de volta antes de mostrar na tela.
Duas regras fazem isso funcionar: o marcador tem que ser estável dentro do mesmo documento (o mesmo aluno é sempre ALUNO_1, senão o texto perde sentido), e a substituição tem que rodar no servidor, nunca no navegador.
Técnica 2: mande o trecho, não o arquivo
O reflexo é jogar o PDF inteiro. É caro, é lento e aumenta a superfície de exposição.
Se a pergunta é sobre a cláusula de rescisão, mande a cláusula de rescisão. Se a correção é da questão 3, mande a questão 3.
Isso corta custo e risco de uma vez só. E melhora a resposta, porque contexto irrelevante atrapalha o modelo. É o mesmo raciocínio de RAG: recuperar o pedaço certo em vez de despejar tudo.
Técnica 3: decida o que nunca sai
Faça uma lista curta e explícita do que jamais é enviado pra fora, aconteça o que acontecer. Documento de identidade, dado bancário, dado de saúde, senha, chave.
Essa lista vira regra no código, num único lugar por onde toda chamada passa. Não vira "a gente lembra de tirar". Lembrar não é controle.
Enquanto isso for combinado verbal, um dia alguém com pressa manda tudo. Sempre é assim.
O que isso não resolve
Anonimizar não te dispensa do resto da LGPD. Você ainda precisa de base legal pra tratar aquele dado, de aviso de privacidade dizendo que existe uso de IA, de contrato com o fornecedor e de prazo pra apagar.
Também não resolve o caso em que a identidade é a própria tarefa. Se o sistema precisa comparar assinatura ou validar documento, não tem como esconder o documento. Aí o caminho é outro: fornecedor com contrato adequado, retenção zero e registro de quem acessou o quê.
O teste antes de subir
Pega uma chamada real do seu sistema e olha exatamente o que sai pela rede. Não o que você acha que sai. O que sai.
Se tiver nome completo, CPF ou e-mail ali dentro sem necessidade, você achou seu trabalho de amanhã.
É a camada 3 do Protocolo de 5 Camadas, a de blindagem, e é a que mais gente pula porque o sistema funciona sem ela. Funciona até o dia em que não funciona.
Dado que não sai não vaza.
A decisão é sua.
Perguntas frequentes
Perguntas rápidas
+A IA guarda o que eu mando pra ela?
Depende do contrato do provedor. Vários oferecem modo em que o dado não é usado para treino, e alguns têm retenção zero. Mas mesmo com o melhor contrato, o dado trafega e passa por registro em algum ponto. A regra que não falha é não mandar o que não precisa ser mandado.
+O que conta como dado sensível?
Qualquer coisa que identifique uma pessoa ou revele algo protegido: nome completo, CPF, e-mail, telefone, endereço, dado de saúde, dado financeiro, número de processo. Na dúvida, pergunte se você mostraria aquilo num telão em evento público.
+Como anonimizar sem perder a qualidade da resposta?
Troque o identificador por um marcador estável, como ALUNO_1 ou CLIENTE_A, e mantenha a tradução só no seu banco. A IA entende a estrutura do texto igual. Quando a resposta voltar, você substitui de volta antes de mostrar pro usuário.
+Isso resolve a LGPD?
Ajuda muito, mas não substitui o resto: base legal pra tratar o dado, aviso de privacidade dizendo que há uso de IA, contrato com o fornecedor e prazo de retenção. Minimizar o dado enviado é a parte técnica, e é a que mais reduz risco na prática.
Continue lendo
Os 3 lugares por onde dado sensível vaza num app feito com IA
Não é hacker. Na prática, quase todo vazamento em app feito com IA vem de três lugares chatos e previsíveis. Os três dão pra conferir hoje, sem ser programador.
SegurançaComo separar dado real de dado de teste (o que a LGPD cobra)
Testar com a base de produção é o atalho mais comum e o mais caro. Separar ambiente é mais simples do que parece, e a LGPD não trata isso como detalhe.
SegurançaO risco não é o código que você escreve. É o que você instala
Hackers injetaram malware no open source da Microsoft. A lição pra quem constrói com IA: seu maior risco não é o código que você escreve: é o que você instala.