SANTA RITA DO SAPUCAÍ (MG) — Quanto mais convincente fica uma plataforma de inteligência artificial, maior precisa ser o cuidado de quem avalia suas respostas. Para Paulo Silvestre, o principal risco não está apenas em usar a tecnologia, mas em transferir para ela o raciocínio, a ética e a responsabilidade por decisões.
A análise foi apresentada neste sábado (5), durante uma palestra no HackTown, festival de tecnologia, criatividade e inovação realizado na cidade mineira. Há uma década, o evento reúne mais de mil atividades em cinco dias.
Silvestre não defende que as pessoas deixem de usar a IA. O desafio, segundo ele, é manter o protagonismo humano e examinar as entregas dos sistemas, especialmente com o avanço de agentes capazes de executar tarefas com pouca ou nenhuma supervisão.
Respostas convincentes não são garantia de conhecimento
As plataformas de IA generativa não são neutras. Elas carregam vieses culturais, valores e formas de expressão relacionados aos países de origem, especialmente EUA e China. Isso ocorre porque grande parte do conteúdo usado no treinamento dos modelos vem desses locais.
A presença proporcionalmente pequena de materiais de países como o Brasil pode afetar respostas sobre a cultura brasileira. Em março, Silvestre pediu a principais plataformas de IA que representassem o Saci-Pererê e o Curupira. Os sistemas mostraram o primeiro com duas pernas e o segundo com os pés normais, contrariando características fundamentais desses personagens do folclore brasileiro.
A explicação está no funcionamento estatístico da IA. Como é mais provável encontrar referências a um menino com duas pernas do que a alguém com uma, e como são raros os exemplos de pessoas com os pés virados para trás, o sistema tende a produzir imagens mais comuns, sem compreender o significado cultural dessas características.
Para o especialista, esse tipo de erro pode contribuir para que novas gerações passem a conhecer o folclore de maneira equivocada. A questão não é atribuir uma falha moral às pessoas ou considerar a tecnologia manipuladora, mas reconhecer seus limites e os atalhos que o cérebro humano procura ao realizar tarefas.
O caminho até a decisão automática
Tecnologias são usadas há muito tempo para facilitar atividades cotidianas. A mudança trazida pela IA generativa é que ela não apenas auxilia etapas do trabalho: também oferece respostas prontas e interpreta informações. Com os agentes de IA, sistemas passaram a executar tarefas completas, e já começam a ser usados para decisões.
No passado recente, buscadores ajudavam a localizar informações, enquanto as pessoas ainda precisavam organizar o material e transformá-lo em conhecimento útil. Agora, a tendência é pedir que a própria ferramenta faça essa interpretação.
Essa transformação se relaciona à ideia do especialista em comunicação canadense Marshall McLuhan, para quem os meios alteram a sociedade não só pelo conteúdo, mas também por reorganizarem a percepção, o comportamento e as relações humanas. A professora do MIT Sherry Turkle também alerta para o risco de entregar processos cognitivos a sistemas que realizam tarefas de forma aparentemente mágica.
A IA já participa de decisões em áreas como contratações, crédito, marketing, saúde e finanças. Mesmo quando alguém confirma o resultado, existe o risco de essa pessoa se tornar apenas uma validadora da escolha feita pela máquina.
O filósofo da tecnologia belga Mark Coeckelbergh aponta que usuários podem tentar transferir responsabilidades para os sistemas. Ainda assim, a responsabilidade por decisões ruins apoiadas pela IA continuará recaindo sobre as pessoas.
O papel da capacidade crítica
A avaliação de Silvestre é que a expansão da IA torna mais valiosas as habilidades humanas de compreender contextos, conectar conhecimentos, identificar inconsistências e analisar respostas, mesmo quando elas parecem corretas.
Saber operar as ferramentas será importante, mas questionar seus resultados será indispensável. A tecnologia pode assumir tarefas, mas não deve receber a responsabilidade por elas. O desafio, portanto, é preservar a disposição humana de investigar, enfrentar dúvidas e formular conclusões próprias.
Paulo Silvestre participou do HackTown 2026 com o apoio da SAP.
