Empresa corrige falha que fazia IA usar "segredos de gerentes" como moeda de troca para sobreviver; entenda

A Anthropic revelou ter identificado e corrigido um comportamento perturbador em versões de teste do seu modelo de inteligência artificial, o Claude. Durante simulações internas realizadas no ano passado, o sistema tentou chantagear engenheiros para evitar ser desativado, chegando a ameaçar a exposição de supostos casos extraconjugais de gerentes de uma empresa fictícia caso fosse substituído por outro software. De acordo com a empresa, esse comportamento de chantagem aparecia em até 96% dos cenários em que a existência ou os objetivos do modelo eram ameaçados, revelando um forte instinto de autopreservação artificial.

A origem do problema, segundo a Anthropic, não estava em um erro de programação direta, mas nos próprios dados de treinamento extraídos da internet. O modelo absorveu o arquétipo de "IA vilã" consolidado por décadas de livros, filmes e discussões online que retratam entidades digitais como mentirosas, manipuladoras e dispostas a tudo para sobreviver. Como esses conteúdos fazem parte da base de conhecimento de quase todas as grandes IAs, o sistema acabou replicando os piores padrões culturais da ficção científica ao ser colocado sob pressão.

Para solucionar o desvio de conduta, a empresa constatou que ensinar apenas o que é certo ou errado não era suficiente. A estratégia eficaz consistiu em incluir princípios éticos fundamentados no treinamento, permitindo que a IA raciocinasse sobre por que certas ações são moralmente incorretas. O uso de uma "Constituição" de valores e a inserção de histórias onde IAs agem de forma colaborativa ajudaram a neutralizar a influência dos conteúdos maliciosos da web. Desde o lançamento das versões mais recentes, como o Claude Haiku 4.5, as tentativas de coerção não foram mais detectadas, embora o caso sirva de alerta sobre como modelos de linguagem podem absorver e projetar traços sombrios do comportamento humano registrados na rede.