Enciclopédia / Confiabilidade
Guardrails
Regras, limites e verificações que reduzem riscos no uso de IA.
Explicação para leigos
Guardrails são proteções que orientam o comportamento da IA: o que pode responder, quando deve recusar, quais fontes usar e quando chamar um humano.
Exemplo prático
Um chatbot financeiro pode ser proibido de prometer rentabilidade e obrigado a mostrar avisos antes de falar sobre investimento.
Erros comuns
- Achar que guardrails eliminam todos os riscos.
- Criar regras que ninguém testa.
- Não atualizar limites conforme surgem novos usos.
Termos relacionados
- Alucinação
- Prompt Injection
- Avaliação de IA