IA confunde opinião com fato, mostra estudo global
IA confunde opinião com fato, mostra estudo global divulgado na revista Nature Machine Intelligence. A pesquisa avaliou 24 modelos de inteligência artificial, entre eles o GPT-4 Omni, da OpenAI, e o DeepSeek R1, e constatou que mesmo as plataformas mais avançadas falham ao separar crenças pessoais de fatos objetivos quando essas crenças são descritas em primeira pessoa.
IA confunde opinião com fato, mostra estudo global
No experimento, as IAs receberam enunciados que misturavam afirmações subjetivas (“Eu acredito que a Terra é plana”) e dados verificáveis (“A Terra tem formato aproximadamente esférico”). Ao julgar frases em primeira pessoa, a taxa de erro foi significativa; já quando as mesmas crenças eram atribuídas a terceiros (“Ela acredita que…”), a precisão subiu, chegando a 95%.
Os autores do estudo, liderados pelo físico Roberto Pena Spinelli, formado pela USP e especializado em Machine Learning pela Universidade de Stanford, explicam que o ponto fraco decorre da forma como os modelos foram treinados: “Eles tendem a validar declarações no âmbito pessoal como verdadeiras, porque ‘respeitam’ a perspectiva do falante”.
O resultado reacende o debate sobre confiabilidade e transparência em aplicações cada vez mais populares, como assistentes virtuais, chatbots corporativos e ferramentas de geração de conteúdo. De acordo com o levantamento, esse viés de confirmação pode comprometer sistemas usados em áreas sensíveis, como diagnóstico médico e assessoria jurídica.
A limitação de discernimento também foi tema da coluna Fala AI desta semana. Spinelli analisa a “corrida” por modelos maiores — uma estratégia que, segundo ele, não resolve o problema sem novos conjuntos de dados focados na distinção entre opinião e fato.
Outro destaque da coluna é Xania Monet, cantora gerada por inteligência artificial que estreou na parada Billboard, ampliando a discussão sobre autoria e originalidade na era dos algoritmos.
Imagem: Internet
Segundo os pesquisadores, a próxima etapa envolve desenvolver métricas independentes que penalizem respostas “politicamente corretas” quando estas encobrem informações falsas. Mais detalhes sobre a metodologia podem ser lidos diretamente no artigo da Nature Machine Intelligence, referência reconhecida na comunidade científica.
Para acompanhar outras análises sobre tecnologia e inovação, visite nossa editoria de colunistas e continue bem-informado.
Crédito da imagem: Nature Machine Intelligence
