3 sinais de que a IA está te enrolando

A IA tem um problema perigoso: ela erra com a mesma cara de quem acerta. Não gagueja, não avisa, não coloca um "acho que". Ela afirma. E soa convincente afirmando bobagem.

Isso tem nome: alucinação. E você precisa aprender a farejar.

Antes: por que a IA inventa

A IA não sabe nada, no sentido humano. Ela prevê a próxima palavra mais provável.

Na maioria das vezes, o mais provável é o certo. Mas às vezes o mais provável é um texto que soa certo e é falso. Ela preenche o buraco com algo plausível, não verdadeiro.

Ela não está mentindo. Não tem intenção. Mas o efeito, pra você, é o mesmo: informação errada com cara de verdade.

Aqui estão os três sinais pra ligar o alerta.

Sinal 1: certeza demais, fonte de menos

Desconfie quando a IA afirma algo específico com total segurança e nenhuma fonte.

"O estudo X de 2019 provou que Y." "A lei Z determina exatamente W." "A média do setor é 37%."

Soa autoridade. Mas cadê a fonte? Se ela cravou um número ou um fato preciso sem dizer de onde tirou, acenda o farol.

O que fazer: pergunte "qual a fonte disso?". Se ela inventa um link que não abre ou recua e reformula, era chute.

Sinal 2: resposta genérica que ignora sua pergunta

Você faz uma pergunta específica e recebe uma resposta que serviria pra qualquer pergunta parecida.

Isso costuma significar que a IA não sabe a resposta do seu caso, então devolve o lugar-comum. Ela enrola pra não dizer "não sei".

O que fazer: repare se a resposta engaja com o detalhe da sua pergunta ou fica na superfície. Se está genérica, pressione: "responda especificamente pro meu caso, que é [detalhe]". Se ela continua genérica, provavelmente não sabe.

Sinal 3: detalhes bonitos demais

Este é o mais traiçoeiro, porque parece o oposto de enrolação.

A IA te dá uma citação exata, com autor, ano e página. Um número redondo e preciso. Uma estatística específica. Detalhes tão perfeitos que dão vontade de acreditar.

Mas pergunte-se: ela teria como saber isso com essa precisão? Citações literais e dados exatos são exatamente o tipo de coisa que a IA inventa com mais confiança, porque o formato é fácil de imitar.

O que fazer: quanto mais preciso e verificável o detalhe, mais você deve verificar. Cole a citação num buscador. Cheque o número na fonte oficial.

A regra que resolve

Uma pergunta simples desarma quase toda alucinação:

Como você sabe disso? Qual a fonte?

A IA honesta te dá a fonte ou admite que está estimando. A resposta enrolada gagueja, inventa fonte ou reformula pra fugir.

Vale o ponto: nem toda resposta segura é mentira. A IA acerta muito. O ponto não é desconfiar de tudo, é desconfiar do que você vai publicar, usar numa decisão ou repassar como verdade.

Confiança da IA não é prova de verdade. Fonte é.

A decisão é sua.