Mesmo com sistemas mais avançados, empresas como OpenAI e Google enfrentam desafios crescentes com respostas imprecisas
Tudo sobre Inteligência Artificial
No mês passado, um bot de IA usado no suporte técnico da Cursor, ferramenta voltada para programadores, causou confusão ao informar erroneamente que os usuários não poderiam mais usar o software em mais de um computador.
O alerta falso, que gerou reclamações e cancelamentos, foi atribuído a um erro do próprio sistema de IA, como esclareceu o CEO da empresa.
Esse caso ilustra um problema recorrente: sistemas de IA, mesmo os mais avançados, ainda cometem erros — chamados de “alucinações” — ao gerar informações incorretas com aparente confiança.
Leia mais:
Apesar dos avanços desde o lançamento do ChatGPT, as taxas de erro seguem preocupantes, especialmente com os chamados “modelos de raciocínio”, desenvolvidos por empresas como OpenAI, Google e DeepSeek, como explica o New York Times em um artigo.
Sistemas poderosos alucinam mais
- Paradoxalmente, quanto mais sofisticados os sistemas, maior tem sido a incidência de alucinações.
- Em testes recentes, os modelos mais poderosos da OpenAI — como o o3 e o o4-mini — apresentaram taxas de erro de até 79%, superando os modelos anteriores.
- Segundo pesquisadores, isso ocorre porque esses sistemas geram respostas com base em probabilidades e não têm uma compreensão real de verdade ou falsidade.
Segurança da IA em jogo
Apesar de tentativas de melhorar a precisão com técnicas como aprendizado por reforço, os erros persistem, inclusive em tarefas simples como resumir notícias. Isso compromete o uso seguro da IA em áreas sensíveis como medicina, direito e negócios.
Especialistas apontam que o problema está longe de ser resolvido. Embora novas ferramentas estejam sendo desenvolvidas para rastrear as origens dos erros, a forma como esses modelos operam ainda é em grande parte opaca, o que desafia a confiabilidade da tecnologia.
Colaboração para o Olhar Digital
Leandro Criscuolo é jornalista formado pela Faculdade Cásper Líbero. Já atuou como copywriter, analista de marketing digital e gestor de redes sociais. Atualmente, escreve para o Olhar Digital.
Bruno Capozzi é jornalista formado pela Faculdade Cásper Líbero e mestre em Ciências Sociais pela PUC-SP, tendo como foco a pesquisa de redes sociais e tecnologia.
