Pesquisadores ligados à segurança e ao alinhamento de inteligência artificial vêm alertando publicamente para o risco de a tecnologia sair do controle. Bilal Chughtai, engenheiro de pesquisa do Google DeepMind, anunciou a demissão e afirmou acreditar que a IA pode matar todos os humanos, além de considerar que o tempo para evitar esse cenário talvez esteja acabando.
A preocupação também apareceu na Anthropic. Jacob Coxon deixou a empresa dizendo que pessoas envolvidas no desenvolvimento de IA acreditam na possibilidade de uma extinção humana até o fim da década. Evan Hubinger, cientista da mesma organização, concordou com a avaliação e estimou em mais de dez por cento a probabilidade de esse cenário ocorrer nos próximos dez anos.
O presidente-executivo da Anthropic, Dario Amodei, pediu uma redução no ritmo de desenvolvimento da IA avançada. O apelo recebeu apoio de Elon Musk e Sam Altman. Já Donald Trump classificou os pedidos de regulamentação como uma farsa.
Risco sem consenso
As declarações não representam uma posição unânime entre os especialistas. Dentro dos próprios laboratórios, há divergências sobre a dimensão e a natureza dos riscos. As avaliações passam da possibilidade relevante de uma catástrofe à rejeição completa desse cenário.
A principal questão, portanto, não é apenas saber se o fim está próximo. Os pesquisadores mais próximos da tecnologia não conseguem concordar sobre o quanto ela é perigosa. Chughtai defendeu que o desenvolvimento avance em um ritmo que a sociedade consiga suportar, com os riscos analisados antes que os danos aconteçam.
A preocupação central está na corrida entre as empresas do setor. Sem coordenação, limites e tempo para verificar os sistemas antes do lançamento, o problema deixa de ser apenas técnico e passa a envolver a forma como a tecnologia é desenvolvida.
Para empresas que usam IA, a recomendação apresentada por Alcir Nantes Abuchaim, CEO da i4t, é adotar estruturas que não dependam de uma certeza sobre qual lado do debate está correto. Isso inclui sistemas auditáveis, limites definidos antes da operação, registros das atividades e uma pessoa com autoridade para revisar, corrigir e desligar a ferramenta.
Essa estrutura pode ser útil tanto se a tecnologia se mostrar segura quanto se os riscos se confirmarem. Enquanto os laboratórios discutem os limites da IA, a questão prática para cada gestor é verificar se controla o que já colocou em funcionamento.
