Garbage In Garbage Out (GIGO)

Explicação para leigos

Garbage in, garbage out é uma regra antiga da computação: se entra dado ruim, sai resultado ruim. Não importa a qualidade do programa. Um cálculo bem feito sobre um número errado continua errado.

A IA generativa não aboliu essa regra. Ela mudou o que acontece com o erro. Antes, um dado ruim costumava produzir um resultado visivelmente ruim. Agora, a IA pode pegar informação frágil, incompleta ou falsa e devolver uma explicação organizada, fluente e convincente. O lixo continua sendo lixo, mas passa a parecer conhecimento.

Três coisas amplificam o problema:

• Fluência: o modelo é treinado para produzir texto plausível, não para garantir que cada afirmação seja verdadeira.
• Escala: a mesma narrativa frágil pode ser reescrita para muitas pessoas, adaptada a cada uma.
• Circularidade: a resposta gerada pode ser publicada, indexada e usada como base para a próxima resposta. O erro volta a entrar como se fosse dado novo.

Exemplo prático

Uma PME pede à IA uma pesquisa sobre um fornecedor ou um mercado. Recebe uma síntese bem redigida, com tópicos organizados e até referências. Parece profunda.

Ao conferir, descobre que uma das fontes é uma matéria que copiou outra, um post não tem autoria e uma referência não sustenta a frase citada. Nenhuma frase isolada é absurda. O conjunto é que simula profundidade.

Quem usa essa síntese para decidir pode estar decidindo sobre aparência de conhecimento, não sobre evidência.

Por que isso importa

Para gestores, profissionais e PMEs, a consequência é direta: fluência não é evidência. Uma resposta bem escrita não prova que a fonte é boa, que o dado está certo ou que a conclusão decorre da premissa.

O custo aparece quando a síntese vira decisão, relatório, contrato ou proposta. O erro de entrada, que antes ficava visível, agora pode chegar com aparência de autoridade.

A boa notícia: o princípio também aponta a solução. Se entra evidência rastreável, diversa e bem documentada, a chance de sair algo útil aumenta. A qualidade da saída começa na qualidade da entrada e na capacidade de verificar o caminho entre as duas.

Cuidados

• Ferramentas de busca e citação, como RAG, ajudam, mas não resolvem tudo. Recuperar uma fonte não prova que ela é boa nem que sustenta a frase.
• Citação não é comprovação. Uma referência pode existir e ainda assim estar errada ou fora de contexto.
• Procedência não é verdade. Saber de onde veio uma frase mostra o caminho, não garante que o caminho sustenta a conclusão.
• Dado sintético não é lixo por definição. O risco está em misturar sem procedência, substituir dados reais e não distinguir geração de observação.
• Para afirmações importantes, verifique a fonte primária antes de agir.