Quando uma pessoa percebe algo que não está presente, essa experiência é comumente denominada “alucinação”. Este fenômeno ocorre quando a percepção sensorial não se alinha aos estímulos externos. Além das experiências humanas, sistemas que utilizam inteligência artificial (IA) também podem apresentar alucinações. Quando um algoritmo produz informações que parecem verossímeis, mas que se revelam imprecisas ou enganosas, este fenômeno é classificado como “alucinação de IA”. Pesquisadores identificaram esses comportamentos em diversos tipos de sistemas de IA, incluindo chatbots como o ChatGPT, geradores de imagens como o Dall-E e veículos autônomos.
A introdução de sistemas de IA nas atividades cotidianas pode acarretar riscos associados às suas alucinações. Embora alguns casos tenham consequências menores, como um chatbot que fornece uma resposta incorreta, outros podem implicar consequências severas. Em contextos jurídicos, como decisões judiciais que utilizam software de IA para sentenças, ou em seguradoras de saúde que aplicam algoritmos para avaliar a cobertura de pacientes, as alucinações de IA podem culminar em resultados críticos. Em situações extremas, como na operação de veículos autônomos, essas falhas podem ser potencialmente fatais, uma vez que a IA é responsável por identificar obstáculos e pedestres.
Os efeitos das alucinações variam conforme o tipo de sistema de IA em questão. Nos grandes modelos de linguagem, usados em chatbots, as alucinações aparecem na forma de informações que, embora aparentem ser genuínas, são, na verdade, falsas, inventadas ou irrelevantes. Um exemplo notável ocorreu em 2023, quando um advogado em Nova York apresentou um resumo legal gerado com o auxílio do ChatGPT, que, inadvertidamente, mencionava um caso judicial fictício. Isso demonstra o risco de informações alucinadas levarem a resultados judiciais comprometidos.
Para sistemas de IA projetados para reconhecimento de imagens, as alucinações surgem quando o IA atribui legendas que não correspondem à realidade da imagem analisada. Um exemplo pode ser a identificação errônea de uma única mulher falando ao telefone como “uma mulher sentada em um banco”, o que pode ter repercussões sérias em contextos que exigem precisão.
As alucinações em IA são frequentemente causadas por falhas na compreensão das informações que são apresentadas ao sistema. Esses sistemas são desenvolvidos através da coleta extensiva de dados, que são processados para identificar padrões. Por exemplo, se um sistema for alimentado com mil fotos de diferentes raças de cães, ele aprenderá a distinguir entre elas. No entanto, ao ser exposto a uma imagem não relacionada, como um muffin de mirtilo, ele pode cometi erros, como associar o muffin a um chihuahua.
É vital diferenciar entre alucinações de IA e resultados criativos produzidos com intenção. Criatividade em IA é esperada em tarefas artísticas, enquanto as alucinações são problemáticas em contextos que necessitam de informações precisas. A diferença principal reside na finalidade: a criatividade pode ser adequada em contextos artísticos, mas as alucinações são indesejadas quando a precisão é essencial.
Para mitigar esses problemas, é sugerido que as empresas utilizem dados de treinamento de alta qualidade e que limitem as respostas da IA conforme diretrizes específicas. No entanto, as alucinações podem persistir em ferramentas de IA amplamente utilizadas.
O impacto das alucinações é significativo. Embora a confusão entre um muffin e um chihuahua possa parecer trivial, em tecnologias que dependem de sistemas de reconhecimento de imagem, como veículos autônomos, a incapacidade de identificar objetos corretamente pode resultar em acidentes sérios. No contexto militar, drones autônomos que falham em identificar alvos corretamente podem comprometer a vida de civis.
Para ferramentas que utilizam reconhecimento automático de fala, as alucinações se manifestam como transcrições que incluem palavras ou frases que nunca foram pronunciadas. Isso é mais comum em ambientes barulhentos, onde o sistema pode erroneamente adicionar termos ao tentar compreender o ruído de fundo. À medida que esses sistemas se tornam mais integrados em setores como saúde, serviços sociais e jurídicos, as alucinações na transcrição de fala podem gerar resultados clínicos ou legais imprecisos, prejudicando pacientes e indivíduos envolvidos em processos judiciais.
Diante dos esforços das empresas para reduzir as alucinações, usuários devem permanecer vigilantes e questionar os resultados oferecidos por sistemas de IA, especialmente em contextos que exigem exatidão. Verificar as informações geradas por ferramentas de IA com fontes confiáveis, consultar especialistas quando necessário e reconhecer as limitações dessas tecnologias são etapas essenciais para minimizar os riscos envolvidos.
