Chris Olah no Vaticano: por que o cofundador da Anthropic diz que IA não pode ficar só nas mãos das big techs
O fundador da Anthropic participou da apresentação da primeira encíclica do Papa Leão XIV sobre inteligência artificial e pediu envolvimento de líderes religiosos, governos e sociedade civil
O cofundador da empresa de inteligência artificial Anthropic, Chris Olah, afirmou no Vaticano que o desenvolvimento da IA não pode permanecer concentrado exclusivamente nas mãos das grandes empresas de tecnologia. A declaração foi feita durante a apresentação da encíclica Magnifica humanitas, a primeira do Papa Leão XIV dedicada ao tema da inteligência artificial.
O evento reuniu representantes do setor tecnológico e autoridades religiosas, num esforço incomum para posicionar a Igreja Católica como voz moral diante das rápidas mudanças provocadas pela tecnologia. Segundo reportagem da Reuters, Olah sentou-se ao lado do pontífice durante a apresentação.
Risco de substituição em larga escala
Olah alertou que existe “uma possibilidade real” de que a IA substitua o trabalho humano “em escala muito ampla”. “Se isso acontecer, apoiar os trabalhadores substituídos será um imperativo moral de proporções históricas”, disse ele, apontando a necessidade de políticas e mecanismos de proteção social caso ocorra deslocamento massivo de empregos.
Além do impacto no emprego, Olah destacou três áreas que exigem atenção urgente: o risco de perdas generalizadas de trabalho; a necessidade de garantir que os benefícios da IA sejam distribuídos globalmente; e o desafio de interpretar o comportamento de sistemas cada vez mais complexos e opacos.
Pressões comerciais e necessidade de fiscalização externa
O executivo afirmou que empresas como a Anthropic operam sob fortes pressões comerciais, geopolíticas e pessoais, fatores que podem conflitar com o interesse público. “Todo laboratório de IA de fronteira (…) opera dentro de um conjunto de incentivos e restrições que às vezes podem conflitar com fazer a coisa certa”, afirmou, acrescentando que mesmo pesquisadores bem-intencionados são influenciados por essas forças.
Por isso, segundo Olah, é essencial a existência de fiscalização externa: líderes religiosos, governos e sociedade civil teriam papel importante para criticar, desafiar e orientar o desenvolvimento de sistemas poderosos para caminhos mais seguros e equitativos.
Contexto e posições anteriores
A Anthropic é conhecida por desenvolver a família de modelos Claude. A empresa já entrou em atrito com o governo do ex-presidente Donald Trump ao advogar por limites no uso de seus modelos em aplicações militares, como armas autônomas e vigilância doméstica.
Olah elogiou o envolvimento da Igreja nas discussões éticas sobre tecnologia e reforçou que “as questões levantadas pela IA são maiores do que a própria comunidade de pesquisa em IA” — na visão dele, vozes críticas e reflexivas são necessárias para garantir que os avanços tecnológicos resultem em benefícios amplos e compartilhados.
Fonte: Reuters.
