Segurança
Como definir o que o time pode e não pode colar numa IA
A regra genérica não funciona porque cada um interpreta de um jeito. Existe um método de três níveis que qualquer pessoa aplica em cinco segundos, sem precisar consultar ninguém.
A regra mais comum sobre IA nas empresas é também a mais inútil: "não cole dados confidenciais".
Não funciona porque confidencial é palavra, não é critério.
Pra uma pessoa, contrato é confidencial. Pra outra, contrato é documento de trabalho normal. As duas seguem a regra e fazem coisas opostas.
O que uma regra boa precisa ter
Duas propriedades, e a segunda é a que ninguém pensa:
Concreta, nomeando documentos que existem no dia a dia da empresa.
Rápida, decidível em cinco segundos. Se exigir consulta, a pessoa com prazo apertado vai decidir sozinha, e o objetivo da regra era justamente evitar isso.
Três níveis resolvem.
Nível 1: livre
Vai inteiro, sem preparo.
- material já publicado (site, post, apresentação divulgada)
- texto que você escreveu e não tem dado de ninguém dentro
- documentação pública, artigo, notícia
- código sem segredo e sem lógica proprietária
Regra mental: se isso pudesse aparecer num telão em evento aberto sem problema nenhum, é livre.
Nível 2: cuidado, só sem identificação
Vai, mas só depois de tirar quem é quem.
- e-mail de cliente, sem nome, sem contato, sem empresa
- registro de atendimento, sem identificar a pessoa
- texto de contrato, sem as partes
- planilha de números, sem a coluna de nome
O jeito prático de fazer isso: troca nome, e-mail, telefone e documento por marcadores como CLIENTE_A, PARTE_1. A IA entende a estrutura do texto exatamente igual, e a associação com a pessoa real fica só com você. É a mesma técnica que descrevi em usar IA sobre dado sensível.
Esse é o nível que mais aparece no dia a dia, e é o que mais gente trata como se fosse nível 1.
Nível 3: proibido
Não sai, em nenhuma hipótese, com nenhuma justificativa de prazo.
- documento de identidade, CPF, passaporte
- dado bancário, cartão, chave Pix
- dado de saúde
- senha, chave de API, token
- base de dados de clientes, mesmo parcial
- documento sob sigilo contratual ou judicial
Curta de propósito. Lista de proibição longa não é decorada, e o que não é decorado não é seguido.
A regra dos cinco segundos
A pessoa está no meio de uma tarefa, com pressa. Ela precisa decidir sem abrir documento nenhum.
Por isso os três níveis precisam caber na cabeça, e por isso a dúvida tem resposta padrão: na dúvida entre dois níveis, vale o mais restritivo.
Regra que exige julgamento fino não sobrevive à pressa. Regra binária sobrevive.
Como fazer isso virar real
Uma reunião de trinta minutos, e não é você quem lista.
Pede pro time trazer os cinco documentos que eles mais mandariam pra uma IA. Classifica junto, ali, com os documentos reais na mesa.
Duas coisas acontecem. A classificação sai concreta, com os nomes que o time usa. E o time participa da decisão, o que muda completamente a chance de ser seguida.
Sai da reunião com uma página. Essa página é o núcleo da política de IA da empresa.
O caso que ninguém prevê
Vale um aviso final sobre o nível 2.
Anonimizar mal é pior que não anonimizar, porque cria confiança falsa. Tirar o nome mas deixar o CPF não é anonimizar. Tirar o nome mas deixar "o cliente da rua tal que comprou em março" também não.
Se sobrou informação suficiente pra identificar a pessoa, ainda é nível 3.
Cinco segundos, três níveis, uma página. É o suficiente pra tirar a decisão de risco das mãos de quem está com pressa.
A decisão é sua.
Perguntas frequentes
Perguntas rápidas
+Por que não basta dizer para não colar dado confidencial?
Porque confidencial é palavra, não critério. Para uma pessoa contrato é confidencial, para outra não. A regra precisa nomear tipos concretos de documento que existem no dia a dia da empresa.
+Como funcionam os três níveis?
Livre é o que pode ser enviado inteiro, como texto público e material já divulgado. Cuidado é o que só vai depois de tirar a identificação, como e-mail de cliente sem nome e sem contato. Proibido nunca sai, como documento de identidade, dado bancário e senha.
+E quando a informação está no meio do caminho?
Trate como o nível mais restritivo dos dois. Na dúvida entre cuidado e proibido, é proibido. Regra que exige julgamento fino não é aplicada sob pressão.
+Como tirar a identificação de um texto rapidamente?
Substituindo nome, e-mail, telefone e documento por marcadores como CLIENTE_A. A IA entende a estrutura do texto igual, e a associação com a pessoa real fica só com você.
Continue lendo
Como usar IA em cima de dado sensível sem entregar o dado
Dá pra corrigir prova, analisar contrato e resumir atendimento com IA sem mandar nome, CPF e documento pro modelo. A técnica é simples e quase ninguém aplica.
SegurançaOs 3 lugares por onde dado sensível vaza num app feito com IA
Não é hacker. Na prática, quase todo vazamento em app feito com IA vem de três lugares chatos e previsíveis. Os três dão pra conferir hoje, sem ser programador.
SegurançaComo separar dado real de dado de teste (o que a LGPD cobra)
Testar com a base de produção é o atalho mais comum e o mais caro. Separar ambiente é mais simples do que parece, e a LGPD não trata isso como detalhe.