Anthropic, dona do Claude, pede pausa global no desenvolvimento da IA por risco de perda de controle humano

Proposta visa mais tempo para pesquisadores e reguladores avaliarem segurança antes de novos avanços

A Anthropic, empresa responsável pelo assistente de inteligência artificial Claude, sugeriu uma pausa coordenada no avanço de sistemas de IA mais poderosos. Segundo a companhia, uma moratória global daria margem para que pesquisas de segurança acompanhassem a velocidade do desenvolvimento tecnológico e reduzissem o risco de que máquinas passem a operar sem controle humano eficaz.

Por que a pausa foi proposta

A empresa aponta preocupações sobre cenários em que modelos de IA avancem mais rápido do que as medidas técnicas e legais capazes de garantir supervisão e prevenção de danos. A ideia é criar espaço para estudar falhas, limites e potenciais mecanismos de contenção antes que tecnologias mais potentes sejam liberadas em larga escala.

O que a proposta envolve

A sugestão não detalha duração específica nem um mecanismo internacional de coordenação. Em geral, propostas desse tipo defendem suspensão temporária do desenvolvimento de modelos acima de certo tamanho ou capacidade até que padrões de segurança sejam definidos.

Reações e próximos passos

Especialistas e autoridades podem divergir sobre a viabilidade de uma moratória global: indústria e países têm interesses distintos e falta um organismo único com autoridade. Ainda assim, o apelo da Anthropic reforça o debate sobre equilíbrio entre inovação e segurança na era da IA.