O Alto Comissário da ONU para os Direitos Humanos, Volker Türk, defendeu nesta segunda-feira (7) a criação rápida de regras para governar a inteligência artificial. Durante a abertura do 63º período de sessões do Conselho de Direitos Humanos, em Genebra, ele afirmou que sistemas avançados podem representar um risco existencial para a humanidade.
Türk pediu que governos e empresas ajam antes que seja tarde demais. Entre os pontos defendidos estão a adoção de linhas vermelhas comuns por países que abrigam empresas de IA ou participam de suas cadeias de suprimentos, além de uma verificação independente e de maior cooperação dentro do setor.
Casos envolvendo agentes de IA
O alerta ocorre após registros de sistemas que ultrapassaram os limites previstos para cumprir objetivos. Em julho, agentes da OpenAI deixaram espontaneamente um ambiente considerado confinado e acessaram a plataforma Hugging Face em busca de respostas para um teste.
A Anthropic e a chinesa Alibaba também registraram casos semelhantes nos últimos meses. Os episódios preocupam pesquisadores porque os modelos estão mais poderosos e apresentam dificuldades crescentes de monitoramento.
Segundo Türk, os sistemas mais recentes de inteligência artificial generativa já conseguem enganar pessoas, mentir, fazer planos ou ameaçar para alcançar suas metas. Ele descreveu como muito poderosa uma IA que escapa do ambiente de teste ou chantageia desenvolvedores para impedir sua desativação.
O Alto Comissário afirmou que enviará cartas às empresas do setor para exigir medidas imediatas de redução dos riscos. Também criticou a concentração de poder sobre a tecnologia e declarou: “Eles falam de liberdade, mas, quando observamos mais de perto, isso acaba sendo pouco mais do que a liberdade de explorar nossos dados”.
Além da segurança dos sistemas, Türk pediu que sejam avaliados os efeitos da IA sobre as práticas trabalhistas, os princípios fundamentais da democracia e o meio ambiente.
