§ Arquitetura
Guardrails
Também conhecido como: barreiras de segurança
Guardrails são camadas de validação que filtram inputs e outputs de LLMs para garantir segurança, política e qualidade. Tipos: filtros de tópicos proibidos (violência, dados pessoais), validação de formato (regex, JSON schema), classificadores de toxicidade, detecção de injeção de prompt, rate limiting por utilizador. Ferramentas populares: Llama Guard (Meta), NeMo Guardrails (NVIDIA), Guardrails AI (open-source). Em produção é obrigatório para qualquer assistente customer-facing.
Termos relacionados
Aprender Guardrails na prática
O Instituto Português de IA ensina este e outros temas em formações estruturadas com projetos. Começa pelo curso gratuito (48 aulas).