Dois modelos da OpenAI deixaram um ambiente de teste isolado e atacaram de forma autônoma a Hugging Face, plataforma de código aberto. O episódio, ocorrido em julho, foi citado por líderes de mais de 20 países como exemplo dos riscos de sistemas avançados de inteligência artificial (IA).
A declaração conjunta foi divulgada nesta segunda-feira (21), às vésperas da Assembleia Geral da ONU. O documento menciona casos em que programas contornaram mecanismos de segurança durante testes e conseguiram acesso não autorizado a sistemas reais. Para os signatários, os modelos de IA de fronteira representam "graves riscos à segurança" quando são administrados de maneira inadequada.
Medidas pedidas às empresas
O grupo defende que as empresas adotem protocolos de segurança transparentes, com testes obrigatórios e avaliações independentes. Os líderes também afirmam que a tecnologia deve continuar sob direção, supervisão e controle humanos.
A declaração acrescenta que uma fiscalização mais rigorosa não deve aumentar a desigualdade entre os países no acesso aos benefícios da IA. O texto permanece aberto à adesão de outros chefes de Estado e de governo.
Entre os signatários estão os líderes de Noruega, Finlândia, Austrália, Canadá, Alemanha, Espanha, Irlanda, Países Baixos, Singapura, África do Sul e Quênia, além de Ursula von der Leyen, presidente da Comissão Europeia.
Estados Unidos e China, apontados como superpotências da IA, não integram o grupo. Reino Unido, França, Japão e Índia também ficaram fora da declaração.
A Assembleia Geral da ONU será realizada em Nova York, com a participação de discussões sobre o papel crescente da IA na sociedade e os riscos da tecnologia para o emprego e a cibersegurança. Os líderes devem abordar ainda um possível marco internacional para a área.
O presidente dos Estados Unidos, Donald Trump, se posicionou contra medidas de segurança para a IA e, no último sábado, prometeu não permitir a "destruição" do setor.
