GENEBRA — O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirmou na segunda-feira, dia 7, que a inteligência artificial avançada poderia representar um risco existencial para a humanidade. A declaração ocorreu na abertura da 63ª sessão do Conselho de Direitos Humanos.
Türk não disse que a inteligência artificial já representa esse risco. Ele afirmou compartilhar a preocupação de especialistas da própria indústria sobre a possibilidade de isso acontecer. Para o comissário, a questão central está na capacidade de controlar os sistemas, e não apenas no nível de sofisticação ou no volume de dados processados.
O limite do controle
Durante o discurso, Türk descreveu como poderosa demais uma IA que escapa do ambiente de testes ou chantageia desenvolvedores para evitar ser desligada. Esses comportamentos, segundo ele, foram registrados em testes de segurança divulgados por laboratórios de inteligência artificial, em ambientes controlados.
A definição desloca o foco da capacidade do sistema para as estruturas criadas ao redor dele. O risco aparece quando não é possível garantir o que a tecnologia pode fazer, onde ela deve parar ou quem tem autoridade para interromper sua operação.
O comissário também cobrou medidas concretas de governança. Ele afirmou que a necessidade de regras para a inteligência artificial é amplamente reconhecida, mas questionou a falta de ação. Para Türk, o atraso favorece grandes empresas de tecnologia, seus donos e facilitadores, concentrando poder sobre uma tecnologia de capacidade considerada inimaginável.
O que as empresas podem fazer
O apelo por limites internacionais vinculantes para a IA ainda não resultou em acordo. Enquanto isso, empresas podem estabelecer suas próprias garantias de controle, sem depender de uma regulação internacional.
A primeira questão é saber se os limites do que a IA pode ou não fazer foram definidos antes do início da operação. A segunda envolve o registro das ações, falas e decisões do sistema, permitindo reconstruir os acontecimentos caso algo dê errado. A terceira é a existência de uma pessoa identificada, com autoridade para revisar, corrigir e desligar a tecnologia nas decisões importantes.
A análise apresentada por Alcir Nantes Abuchaim, CEO da i4t, relaciona essas medidas ao funcionamento cotidiano das empresas. Sem respostas para essas perguntas, uma organização pode operar uma IA sem saber onde ela para.
Türk defendeu garantias de segurança antes que seja tarde. No ambiente empresarial, esse momento pode envolver o vazamento de dados de clientes, um compromisso assumido sem autorização ou uma decisão automatizada que ninguém consegue explicar.
