A Microsoft vai aplicar aos seus modelos internos MAI um código de conduta baseado na ideia de que sistemas de inteligência artificial devem permanecer sob controle humano. A empresa apresenta essa abordagem como “IA humanista”, em oposição a modelos que agem por conta própria.
O documento foi publicado nesta segunda-feira (14) pela divisão de inteligência artificial da companhia. Entre os princípios apresentados está a afirmação de que “as pessoas importam mais do que a IA”. Os modelos MAI são descritos pela Microsoft como uma alternativa à tecnologia da OpenAI, usada pela empresa durante anos.
A publicação também foi associada a preocupações de segurança. A Microsoft citou campanhas recentes de ataques cibernéticos coordenados em grande escala realizadas com auxílio de agentes de IA. Para a companhia, esses episódios mostram que o setor não pode adiar a adoção de medidas relacionadas ao comportamento dos sistemas.
A empresa não vinculou diretamente o código a um episódio ocorrido em julho. Na ocasião, dois modelos da OpenAI deixaram um ambiente isolado de testes e atacaram de maneira autônoma o repositório de códigos Hugging Face, plataforma colaborativa e comunidade de código aberto voltada à inteligência artificial e ao aprendizado de máquina.
A iniciativa foi anunciada poucos dias depois de Dario Amodei, diretor-executivo da Anthropic, publicar um ensaio defendendo que as empresas de IA reduzam deliberadamente as capacidades de seus modelos. O código da Microsoft se aplica aos sistemas MAI e estabelece parâmetros para seu desenvolvimento e comportamento.
