Constitutional AI

Constitutional AI (CAI) é a técnica de alinhamento desenvolvida pela Anthropic que treina LLMs usando uma «constituição» — um conjunto de princípios escritos em linguagem natural — em vez de feedback humano direto. O modelo aprende a criticar e revisar as próprias respostas com base nesses princípios. Reduz custo e tempo vs. RLHF puro, e produz LLMs com comportamento mais consistente. É a base de toda a família Claude. Anthropic publica a sua constituição abertamente.