Alucinação de IA: informações falsas geradas por inteligências artificiais foram registradas em diferentes países, incluindo os Estados Unidos, Reino Unido e Austrália.
Recentemente, advogados no Paraná enfrentaram severas críticas após utilizar ferramentas de inteligência artificial para elaborar um recurso judicial. A crítica não se deu pelo uso de tecnologia, mas pela falta de revisão do conteúdo gerado pela máquina. Como resultado, foi apresentado ao juiz um texto contendo 43 jurisprudências que não existiam, além de mencionar nomes fictícios de desembargadores e números de processos claramente falsos.
Esse incidente evidencia um problema contemporâneo: a rápida adoção de IAs generativas no meio jurídico, muitas vezes feita sem o necessário conhecimento sobre suas limitações. Ferramentas como o ChatGPT podem produzir textos que parecem autênticos, mas, na ausência de uma supervisão cuidadosa, têm o potencial de criar informações enganosas, incluindo citações jurídicas e precedentes que nunca existiram.
Casos semelhantes ocorreram em outras jurisdições. Em 2023, um advogado com vasta experiência em Nova York teve que admitir publicamente que havia confiado excessivamente no ChatGPT durante um processo contra uma companhia aérea, onde a IA gerou decisões judiciais fictícias. Exemplos também apareceram no Reino Unido e na Austrália.
O uso de inteligência artificial no Judiciário apresenta riscos e desafios. Os erros mencionados poderiam ter sido evitados com uma verificação mais atenta das informações, mas esses não são os únicos perigos associados. Outros desafios incluem:
- Viés algorítmico e discriminação: Algoritmos podem replicar ou ampliar preconceitos contidos nos dados de treinamento, resultando em decisões injustas, especialmente em análises preditivas e reconhecimento facial.
- Falta de transparência: A opacidade nos critérios da IA pode dificultar a contestação de decisões e comprometer o direito de defesa.
- Privacidade e proteção de dados: O manuseio de grandes volumes de dados sensíveis exige rigoroso cumprimento da Lei Geral de Proteção de Dados (LGPD) e atenção à segurança das informações de cidadãos.
- Redução do papel humano e sensibilidade: A inteligência artificial não substitui a capacidade de análise crítica humana, algo que deve ser sempre considerado.
Além dos desafios, a adoção de IAs no sistema judiciário também traz benefícios. É fundamental reconhecer as vantagens que sua aplicação pode proporcionar, quando realizada de maneira criteriosa:
- Aumento de eficiência e agilidade: A tecnologia automatiza tarefas repetitivas, acelera a análise de provas e documentos, reduzindo o tempo necessário para a tramitação processual e permitindo que profissionais se dediquem a atividades mais complexas.
- Precisão e padronização: A IA pode contribuir para a diminuição de erros humanos e oferecer maior uniformidade nas decisões, desde que os dados utilizados para seu treinamento sejam adequadamente ajustados.
- Otimização de recursos: Com a inteligência artificial, equipes menores podem gerenciar grandes volumes de trabalho, resultando em economia de tempo e custos.
- Acesso ampliado à Justiça: A tecnologia facilita a compreensão dos processos por pessoas sem formação jurídica, promovendo a democratização do acesso à informação legal.
- Apoio à investigação e prevenção de crimes: A inteligência artificial é capaz de identificar padrões em atividades criminosas, prever reincidência e auxiliar no combate à criminalidade organizada.
Entidades como a Ordem dos Advogados do Brasil (OAB), o Conselho Nacional de Justiça (CNJ) e tribunais superiores reconhecem as vantagens da inteligência artificial. Seu uso é incentivado na prática jurídica, contanto que haja supervisão humana e mecanismos de controle e fiscalização.
