CEO da OpenAI pede desculpas por não alertar polícia sobre conta banida do ChatGPT oito meses antes do massacre em escola de Tumbler Ridge
Sam Altman diz estar profundamente arrependido; primeiro-ministro provincial rebate que pedido é insuficiente e família processa a empresa por negligência
O CEO da OpenAI, Sam Altman, afirmou estar profundamente arrependido por a empresa não ter informado as autoridades policiais sobre sinais preocupantes detectados em uma conta do ChatGPT que, posteriormente, foi ligada à suspeita do tiroteio em Tumbler Ridge. A carta de Altman ao primeiro-ministro da província da Colúmbia Britânica, David Eby, foi divulgada em 24 de abril.
Atiradora foi banida do ChatGPT oito meses antes
Segundo a OpenAI, a conta da mulher transgênero de 18 anos foi identificada por sistemas de detecção de abuso e banida em junho, oito meses antes da tragédia ocorrida em 10 de fevereiro. Naquele dia, a suspeita matou a mãe e o meio-irmão em casa e, em seguida, abriu fogo em uma escola secundária local, onde matou cinco crianças e um professor antes de tirar a própria vida. Uma menina ficou gravemente ferida.
A empresa afirmou que não reportou a conta às autoridades na época porque a atividade não teria sido considerada grave o suficiente para justificar o encaminhamento à polícia.
Como o ChatGPT detecta e reporta suspeitas de violência
A OpenAI diz empregar sistemas automatizados de moderação que analisam conteúdo em tempo real. Contas podem ser restringidas ou banidas por violações que incluem promoção de violência, exploração sexual, incentivo à automutilação e ao suicídio. Em casos que os algoritmos identificam como de alto risco, o conteúdo é encaminhado para revisão humana e, quando há uma ameaça crível, dados pertinentes podem ser compartilhados com as autoridades policiais.
Reações: governo, polícia e processo judicial
O primeiro-ministro David Eby classificou o pedido de desculpas como “necessário, e ainda assim grosseiramente insuficiente”, cobrando respostas mais concretas sobre responsabilidades e prevenção. Após o ataque, autoridades canadenses convocaram a equipe de segurança da OpenAI e ameaçaram medidas regulatórias caso mudanças não fossem implementadas. A empresa afirmou que reforçará suas medidas de segurança e criou um canal de contato direto com a polícia.
Além disso, a família de uma das vítimas feridas entrou com uma ação judicial por negligência contra a OpenAI. No processo, os parentes alegam que a empresa tinha conhecimento de um plano da suspeita para um “evento com mortes em massa” e não adotou medidas adequadas.
O pedido de desculpas de Sam Altman e os próximos passos
Na carta, Altman disse estar “profundamente arrependido” por não ter alertado as autoridades e explicou que aguardou para fazer o pronunciamento para respeitar o luto da comunidade de Tumbler Ridge. Ele afirmou também que a OpenAI trabalhará com governos em todos os níveis para reduzir o risco de tragédias semelhantes no futuro.
As investigações e o processo judicial devem continuar, e a resposta regulatória das autoridades canadenses pode definir novos parâmetros para como empresas de tecnologia devem tratar sinais de risco em plataformas de inteligência artificial.
