Uma resposta rápida, bem escrita e segura pode encerrar a dúvida antes mesmo de qualquer conferência. É o que indica um estudo da empresa de segurança digital F-Secure, publicado neste mês, com 1.500 consumidores dos Estados Unidos e do Reino Unido sobre o uso cotidiano de assistentes de inteligência artificial.
Os números mostram uma contradição: 89,5% dos entrevistados dizem que conferir as respostas da IA é responsabilidade deles. Ao mesmo tempo, 70,1% afirmam que fazem essa checagem apenas às vezes, raramente ou nunca.
Quando o tom parece suficiente
O principal motivo para não verificar não é falta de tempo ou desconhecimento sobre como conferir. A razão mais citada é a impressão de que a resposta está correta quando soa convincente. Esse comportamento é chamado de viés de automação: quanto mais fluente e confiante o sistema parece, menor tende a ser a vigilância aplicada à resposta, esteja ela certa ou errada.
O estudo também aponta que mais de um terço dos usuários que tentam confirmar uma informação perguntam novamente à própria IA. Assim, a mesma ferramenta acaba sendo usada como fonte e como verificação.
A confiança aumenta conforme cresce a variedade de tarefas. Entre as pessoas que usam IA apenas para atividades simples, 28,6% aceitam as respostas sem conferir. No grupo que utiliza a tecnologia em muitos tipos de tarefa, o índice chega a 59,7%.
A checagem precisa fazer parte do processo
Para Alcir Nantes Abuchaim, CEO da i4t (Intelligence for Transformation), o comportamento observado no estudo também pode aparecer dentro das empresas. Funcionários podem usar IA para responder clientes, redigir contratos, calcular prazos e orientar decisões, aceitando respostas que parecem adequadas e conferindo cada vez menos.
Nesse cenário, apenas pedir mais atenção ou reforçar o uso responsável da tecnologia não resolve. A crença de que a verificação é responsabilidade do usuário já aparece em 89,5%, mas isso não garante que a checagem aconteça.
Uma alternativa é criar uma estrutura que ajude a conferir. Isso envolve organizar o conhecimento institucional, registrar o que os sistemas informam e decidem e incluir etapas de verificação no fluxo das decisões importantes. Dessa forma, a conferência não depende apenas da disposição de cada pessoa em um dia corrido.
A experiência profissional também tem papel nesse processo. O repertório ajuda a reconhecer uma resposta errada que parece correta, enquanto procedimentos internos criam pontos de controle para quando esse reconhecimento não acontece.
O problema, portanto, não está nas respostas corretas da IA, mas nas respostas equivocadas que passam por confiáveis sem encontrar uma etapa de conferência. A questão para as empresas é identificar o que verifica as informações quando os usuários deixam de fazê-lo.
