Profa. Dra. Fayga Bedê
As potencialidades da Inteligência Artificial Generativa - IAG no Poder Judiciário, a par de produzirem grandes expectativas quanto ao aumento da eficiência, têm motivado grandes preocupações, reproduzindo as perplexidades que sempre permearam as relações da humanidade com a inovação, notadamente a tecnológica.
A investigação que originou este artigo teve dois
reunir e sistematizar alguns conceitos e conhecimentos sobre a IAG, suas características, sua evolução e seus modelos de linguagem; e avaliar de que maneira a IAG pode ser empregada no contexto do Judiciário, com adequado gerenciamento de riscos e aproveitamento de potencialidades. A hipótese a ser explorada é de que os riscos da Inteligência Artificial Generativa (IAG) no sistema de justiça não estão apenas em seu uso inadequado, mas também em sua não utilização.
A pesquisa é bibliográfica e documental. Parte-se de um histórico sobre a computação e a inteligência artificial - IA, apresentam-se noções gerais sobre IA, Machine Learning e IA Generativa, explorando-se, na sequência, os riscos do desconhecimento das características e das limitações da IAG. Explora-se, então, como está sendo absorvida essa inovação no Poder Judiciário, identificando-se seus potenciais benefícios.
Os resultados revelam que há riscos de alucinações nas respostas, na reprodução de vieses e no manejo inadequado de dados sensíveis, bem como que é possível gerenciá-los, mediante adequado conhecimento sobre o funcionamento e as limitações da IAG, governança pautada na ética e no protagonismo humano. Revelam, também, que, diante do volume de dados e informações que transitam e são gerados pelo Poder Judiciário, o uso da IAG vem se tornando condição de possibilidade na gestão do conhecimento para uma adequada e coerente prestação jurisdicional.
Concluiu-se pela confirmação da hipótese, identificando-se que os riscos da IAG no Judiciário residem tanto em não saber utilizá-la como também em não a utilizar.
The potential of Generative Artificial Intelligence (GAI) in the Judiciary, while generating great expectations regarding increased efficiency, has motivated significant concerns, reproducing the perplexities that have always permeated humanity's relationship with innovation, notably technological innovation.
The investigation that gave rise to this article had two
to gather and systematize some concepts and knowledge about GAI, its characteristics, evolution, and language models; and to assess how GAI can be employed in the context of the Judiciary, with proper risk management and harnessing of its potential. The hypothesis to be explored is that the risks of Generative Artificial Intelligence (GAI) in the justice system lie not only in its misuse but also in its non-use.
The research is bibliographic and documentary. It begins with a historical overview of computing and artificial intelligence - AI, presents general notions about AI, Machine Learning, and Generative AI, then explores the risks of ignoring the characteristics and limitations of GAI. It then examines how this innovation is being absorbed by the Judiciary, identifying its potential benefits.
The results reveal that there are risks of hallucinations in responses, reproduction of biases, and inadequate handling of sensitive data, but also that these risks can be managed through proper knowledge of GAI’s functioning and limitations, governance guided by ethics, and human protagonism. They also show that, given the volume of data and information that circulate and are generated by the Judiciary, the use of GAI is becoming a condition of possibility in knowledge management for an adequate and coherent judicial performance.
The hypothesis was confirmed, identifying that the risks of GAI in the Judiciary lie both in not knowing how to use it and in not using it at al.
Las potencialidades de la Inteligencia Artificial Generativa (IAG) en el Poder Judicial, además de producir grandes expectativas en cuanto al aumento de la eficiencia, han motivado grandes preocupaciones, reproduciendo las perplejidades que siempre han permeado las relaciones de la humanidad con la innovación, notablemente la tecnológica.
La investigación que dio origen a este artículo tuvo dos
reunir y sistematizar algunos conceptos y conocimientos sobre la IAG, sus características, evolución y modelos de lenguaje; y evaluar de qué manera la IAG puede ser empleada en el contexto del Poder Judicial, con una adecuada gestión de riesgos y aprovechamiento de sus potencialidades. La hipótesis a explorar es que los riesgos de la Inteligencia Artificial Generativa (IAG) en el sistema de justicia no se encuentran solo en su uso indebido, sino también en su no utilización.
La investigación es bibliográfica y documental. Parte de un recorrido histórico sobre la computación y la inteligencia artificial - IA, presenta nociones generales sobre IA, Machine Learning e IA Generativa, y luego explora los riesgos de desconocer las características y limitaciones de la IAG. Posteriormente, se analiza cómo esta innovación está siendo absorbida por el Poder Judicial, identificando sus potenciales beneficios.
Los resultados revelan que existen riesgos de alucinaciones en las respuestas, reproducción de sesgos y manejo inadecuado de datos sensibles, pero también que es posible gestionarlos mediante un adecuado conocimiento sobre el funcionamiento y las limitaciones de la IAG, una gobernanza guiada por la ética y el protagonismo humano. Asimismo, muestran que, dado el volumen de datos e informaciones que circulan y son generados por el Poder Judicial, el uso de la IAG se está convirtiendo en una condición de posibilidad en la gestión del conocimiento para una prestación jurisdiccional adecuada y coherente.
Se confirmó la hipótesis, identificándose que los riesgos de la IAG en el Poder Judicial residen tanto en no saber utilizarla como en no utilizarla.
No episódio VI da saga Star Wars (O Retorno do Jedi), o robô C3-PO, um “droide de
protocolo" (intérprete de relações-sociais, como ele próprio se qualifica nos
filmes), trava uma interessante discussão com um dos protagonistas, Han Solo (
C-3PO: I do believe they think I am some kind of god.
Han Solo: Well, why don't you use your divine influence and get us out of this?
C-3PO: I beg you pardon, General Solo, but that just wouldn't be proper.
Han Solo: Proper?
C-3PO: It's against my programming to impersonate a deity
A escolha desse diálogo para ilustrar o presente artigo, que abordará os dilemas e receios envolvidos na adoção da Inteligência Artificial Generativa - IAG pelo Poder Judiciário não se dá por acaso.
De fato, quando se discute sobre robôs (especialmente humanoides, duas reações
automáticas são acionadas na mente humana
A metáfora trazida pelo diálogo entre C-3PO e Han Solo revela uma dualidade frequentemente observada: a Inteligência Artificial - IA é vista, ora como um instrumento de extrema utilidade, ora como uma entidade.
Em ambos os casos, porém, perde-se de vista um elemento essencial: a responsabilidade e o protagonismo indubitavelmente humanos na programação, na operação e no monitoramento das tecnologias emergentes.
Quando se fala em processos decisórios automatizados, essa dualidade sempre se evidencia, seja nos filmes, seja na realidade.
O Poder Judiciário a vem vivenciando muito intensamente, especialmente após o surgimento da Inteligência Artificial Generativa, havendo aqueles que defendem fortemente sua utilização e muitos que, receando um suposto poder das máquinas, são extremamente refratários a ela, defendendo, inclusive, mediante a edição de normas restritivas, sua proibição ou uso extremamente limitado.
Nessa linha, tendo presentes as reações instintivas de temor e atração que permeiam o discurso sobre IAG, especialmente no âmbito do Poder Judiciário, pretende-se trazer o debate para o campo da racionalidade e dos reais desafios e oportunidades à boa governança institucional, de dados e de processos, na busca da eficiência e do aprimoramento do Sistema de Justiça. Assim, o presente artigo tem dois objetivos:
a) sistematizar conceitos e conhecimentos importantes para a compreensão dos avanços tecnológicos que permeiam o debate sobre o uso da IAG e;
b) investigar de que forma os artefatos e os modelos podem ser empregados, com alguma segurança, no mundo do Judiciário e com aproveitamento de suas potencialidades.
A hipótese que permeia a investigação é a de que os riscos da IAG no sistema de justiça são duplos: eles surgem tanto da aplicação inadequada dessa tecnologia quanto da inércia em não a utilizar.
O foco das reflexões aqui propostas não é um eventual protagonismo descontrolado das máquinas, nem os possíveis erros atribuídos à tecnologia. Tendo presentes os riscos de perda de agência pelos tomadores de decisão, de prejuízos ao componente humano nos julgamentos e à qualidade da produção, o texto investiga de que forma as ameaças se manifestam na prática, avaliando correspondentes alternativas para sua neutralização ou redução.
Explora, também, em que medida os verdadeiros riscos para o Judiciário se situam em ignorar as possibilidades de inovação, transformação e aumento da eficiência que a IAG pode proporcionar e no desconhecimento ou menosvalia que vem sendo atribuída ao protagonismo humano na tomada de responsabilidade com a forma de implementação da ferramenta.
Para isso, com base em pesquisa bibliográfica e documental, será realizado, inicialmente, um levantamento conceitual sobre Inteligência Artificial e sua evolução histórica, procurando-se abordar, de forma didática, as características da IAG e seus modelos de linguagem.
Posteriormente, serão explorados os principais riscos e receios relacionados ao uso
dessa tecnologia no Poder Judiciário, incluindo questões, como alucinações de
respostas (respostas equivocadas e/ou desconectadas da realidade), reprodução de
vieses preexistentes nos
A relação do homem com a natureza e o seu desejo de conseguir manipulá-la para a
criação de seres autômatos surgiram bem antes da invenção do primeiro computador. As
mais remotas noções de Inteligência Artificial, na verdade, datam da antiguidade, e,
segundo
A fascinação do homem com o artificial parece ter contaminado o próprio filósofo Renè
Descartes, que, encantado com a visita que fez a um jardim autômato em
Saint-Germain-en-Laye, Paris, observou que, se um artefato pode ser movido pelo
curso das águas, um homem poderia ser movido pela mente, enquanto
substância
Embora não tão antigos quanto esses frutos da imaginação humana, os fundamentos matemáticos para a Ciência da Computação e, consequentemente, para a Inteligência Artificial já existem há mais de dois séculos.
A álgebra booleana, consistente no mesmo conceito de lógica binária utilizado por
computadores hoje em dia (0 ou 1, verdadeiro ou falso), foi desenvolvida por George
Boole ainda em 1854. Antes mesmo de Boole, por volta de 1822, o matemático inglês
Charles Babbage fez o desenho de um dos primeiros computadores, o “Difference
Engine”, uma máquina analítica de propósito geral, que, se desenvolvida, teria o
equivalente a 1 kilobyte de memória; pouco para hoje em dia, mas uma enormidade na
época (
Os avanços subsequentes dos séculos XIX e XX, desde os computadores voltados a tarefas específicas, passando pela Segunda Grande Guerra, até aqueles generalistas (universais) que vieram depois, pavimentaram o caminho para a Inteligência Artificial encontrada hoje em dia e sonhada por Alan Turing, nas décadas de 1930 e 1940.
É, inclusive, creditado a Alan Turing, um matemático, lógico e cientista de
computação britânico, o primeiro experimento que daria origem à ciência moderna da
computação. Sua principal contribuição nesse campo foi o artigo “On Computable
Numbers, with an application to the Entscheidungsproblem” (
Na década de 1930,
As contribuições de Alan Turing para a ciência computacional não param por aí. Suas
percepções fundamentais para o desenvolvimento da Inteligência Artificial podem ser
encontradas em outro de seus artigos “Computing Machinery and Intelligence”, de
1950; no qual ele prevê um computador poderoso o suficiente para simular a
inteligência humana. Nesse artigo, ele defende a existência eventual de um
computador inteligente e afasta diversos argumentos que são aventados quanto a tal
possibilidade (desde argumentos de ordem teológica, quanto de ordem mais técnica e
matemática) (
Também no referido texto,
Logo após Turing, no final da década de 1950, e durante toda a década de 1960,
pesquisadores, como Marvin Minsky, Allen Newell, Herbert Simon e John McCarthy,
passaram a desenvolver as primeiras experiências com redes neurais artificiais
(
Atualmente, sistemas experts, especialmente generativos, assombram por sua suposta capacidade de superar a inteligência e a criatividade humanas, e perguntas sobre as potencialidades da máquina inteligente permeiam as discussões também entre os leigos.
Porém, o que exatamente é a Inteligência Artificial que se discute hoje em dia e é o centro deste artigo?
Quando o foco é Inteligência Artificial- IA, normalmente as pessoas se referem a dois
tipos:
A AGI é, para usar uma expressão do autor
Um computador equipado com Inteligência Artificial Geral compreenderia a linguagem em
um nível muito fundamental, e suas habilidades ingressariam em campos da elaboração
inteligente e do conhecimento humanos de forma não imaginada por seu criador (um bom
exemplo desse tipo de tecnologia seria o HAL 9000, do filme “2001: uma odisseia no
espaço”
Assim, quando se fala em Inteligência Artificial atualmente em aplicação, seja em
processos decisórios automatizados, carros autônomos, modelos largos de linguagem -
LLMs (como ChatGPT e Claude), “assistentes virtuais” (como Alexa e a Siri) ou
computadores que jogam xadrez (como Deep Blue ou AlphaGo), a referência é o segundo
tipo específico de IA, a
A IA Limitada se divide em diversas categorias, mas o foco inicial aqui será a mais
conhecida delas, a chamada de
Os computadores baseados em
Essa técnica de IA é bastante poderosa, como se pode verificar; porém tem limites e,
por isso, pertence à gama de Inteligência Artificial Limitada. Por meio do uso de
Dados são alimentados no sistema, um algoritmo é selecionado, hiperparâmetros são
configurados e ajustados, e a máquina se prepara para conduzir análises das
variáveis insertas. O computador começa a decifrar relações encontradas nos dados
por meio de um processo de tentativa e erro, tudo isso visando à predição de valores
futuros (
Embora haja uma relação entre programador e máquina, os dois operam em um nível diferente da programação tradicional, em que os resultados são predefinidos. Isso acontece porque, após a inserção do código pelo homem, a máquina passa a, literalmente, “aprimorar” os algoritmos alimentados com novas perspectivas, a partir de conexões deliberadas entre os dados fornecidos.
Um exemplo interessante desse “aprimoramento” é o caso do Alpha Go, programa de
computador desenvolvido pela Alphabet Inc’s Google Deep Mind e descontinuado em
2017, que usava a tecnologia de redes neurais. Alimentado apenas com as regras do
xadrez, Alpha Go literalmente aprendeu o jogo a partir da prática, jogando com
humanos e outros computadores (
Comumente,
No caso do aprendizado da máquina, o sistema formula, a partir dos dados insertos,
decisões autônomas, emulando o processo decisório humano e elevando a relação entre
programador e máquina a outro nível de complexidade, se comparado com a programação
tradicional (
Nesse passo, as tarefas envolvidas em
No aprendizado supervisionado, o programador ou pesquisador utiliza dados que já foram categorizados e classificados para auxiliar o processo de aprendizado.
O aprendizado não supervisionado, por outro lado, não usa dados pré-classificados. Algoritmos de aprendizado não supervisionado são utilizados para explorar uma estrutura de dados (por meio de regressão, classificação, agrupamento, filtragem colaborativa ou aprendizagem forçada) e encontrar relações entre eles.
A vantagem do aprendizado não supervisionado é que ele permite que se descubram padrões nos dados que não foram previamente identificados; e é dessa identificação que surgem soluções e decisões não visualizadas anteriormente pelo homem.
Por essas inúmeras possibilidades de tratamento e associação de dados e informações,
Nesse contexto, a IA generativa é uma aplicação ainda mais sofisticada do aprendizado
de máquina, conhecida como aprendizado profundo (
O termo "generativa" se refere justamente à sua capacidade de gerar esses
resultados novos e coerentes, simulando o comportamento criativo humano em
determinadas tarefas. Exemplos conhecidos dessa tecnologia incluem modelos de
linguagem de grande escala (LLMs), utilizados em ferramentas, como ChatGPT, Claude,
Gemini, Deep Seek e geradores de imagens, como o DALL-E. Tais sistemas não apenas
reconhecem e interpretam padrões como as formas mais básicas de
Apesar de sua sofisticação, a IAG, como forma de IA limitada, não possui compreensão profunda dos conteúdos que produz nem capacidade de generalização para além do domínio específico em que foi treinada.
Na verdade, ela opera, fundamentalmente, por meio da constatação da alta
probabilidade de determinadas sequências textuais ou contextuais serem formadas
dentro de um determinado assunto ou domínio do conhecimento e da replicação dessas
sequências no produto que oferta (
Assim, os sistemas já citados, embora aparentemente pareçam coerentes e prolixos, nada mais fazem do que associar de forma dinâmica palavras que estaticamente costumam aparecer juntas. Eles não possuem compromisso com a coerência ou a consistência, apenas com as correlações probabilísticas que encontram.
Em resumo, a IAG pode, por exemplo, redigir uma peça, criar uma narrativa ou
responder a perguntas de forma detalhada, mas não tem "intenção" ou
"consciência". Todo seu desempenho depende de padrões extraídos e
probabilidades calculadas com base nos
A crescente incorporação de tecnologias de Inteligência Artificial (IA) no Poder
Judiciário tem se consolidado como um fator determinante na modernização da
prestação jurisdicional (
Um dos riscos mais debatidos é a chamada “mecanização excessiva das decisões” (
Como defendem
Nesse sentido, a decisão final, com toda a sua carga valorativa, deveria permanecer
como uma prerrogativa exclusivamente humana, consagrando o que se tem chamado de
"reserva de humanidade" (
Intimamente ligada a essa questão está a falta de transparência de muitos sistemas de
IA, que operam como verdadeiras "caixas-pretas", cujo funcionamento é de
difícil compreensão, inclusive para seus desenvolvedores (
Essa opacidade algorítmica iria de encontro a um dos princípios basilares do Direito:
a necessidade de fundamentação clara e compreensível das decisões judiciais (
Para que o uso da IA fosse legítimo, seria imperativo que se garantisse a
explicabilidade dos seus resultados, permitindo que magistrados, as partes e a
sociedade compreendessem os critérios utilizados pelo sistema (
Outro desafio crucial residiria na presença de vieses algorítmicos que têm o
potencial de comprometer a imparcialidade das decisões e que serão discutidos com
mais vagar nos tópicos seguintes deste trabalho. Um sistema de IA treinado com base
em decisões pretéritas pode, em tese, acabar por reproduzir e até amplificar padrões
discriminatórios relacionados a gênero, raça ou origem social, resultando em
decisões injustas (
Diante de tais complexidades, a construção de uma moldura robusta de governança,
pautada na ética e na supervisão humana, torna-se um pilar fundamental para a
implementação responsável da IA. A regulamentação do tema no Brasil, como a
Resolução n. 615/2025 do Conselho Nacional de Justiça, que sucedeu a Resolução
332/2020 e será brevemente tratada mais adiante, buscou, sobre o assunto,
estabelecer um equilíbrio, definindo modelos de interação que evitem uma dependência
irrestrita e acrítica da tecnologia, o chamado "Parasitismo Lex Machinae"
(
A rápida popularização da Inteligência Artificial Generativa no Poder Judiciário como a tecnologia emergente do momento tem suscitado discussões prementes não apenas em relação às questões jurídicas e éticas, como exposto no tópico anterior, mas também, acerca dos riscos e dos desafios inerentes à sua utilização, especialmente pela falta de uma devida compreensão de suas limitações técnicas e implicações práticas pelo público em geral.
Como mencionado, como IA limitada, a IAG precisa ser compreendida como restrita ao que se propõe - gerar textos, imagens, sons etc. - e não ser vista como uma plataforma pensante com intencionalidade para além da criação de conteúdo a partir de parâmetros (ainda que imensuráveis) a que tem acesso por meio de diversas fontes de dados.
Um dos aspectos mais críticos do uso não informado da IAG, que tem o potencial de
comprometer a legitimidade e a segurança dos seus resultados, refere-se ao
fenômeno das "alucinações” de respostas (
Esse comportamento dos sistemas generativos, com frequência, decorre da arquitetura dos próprios modelos de linguagem de grande escala (Large Language Models - LLMs), que, como já se apontou, não possuem real compreensão semântica ou capacidade de raciocínio, embora emulem com extraordinária similitude essas habilidades tão humanas.
A questão torna-se particularmente sensível em áreas do conhecimento mais
subjetivas e relacionadas a um raciocínio lógico e indutivo mais apurado, como
no Direito. A aparente coerência e fluência do texto gerado pode induzir o
usuário desprevenido ao que se denomina "viés de automação"
(
Segundo
Tome-se como exemplo um cenário em que magistrados utilizam sistemas de inteligência artificial para auxílio na análise de pedidos de liberdade (seja em audiências de custódia, seja para avaliação da possibilidade de adoção de medidas cautelares). O sistema, alimentado por uma vasta base de dados de decisões judiciais pretéritas, apresenta recomendações aparentemente bem fundamentadas sobre a concessão ou não do benefício.
Diante de um caso concreto envolvendo um furto simples, o magistrado, mesmo
diante de elementos singulares que poderiam justificar a concessão da liberdade
- como primariedade, vínculos empregatícios estáveis e residência fixa -, mas já
assoberbado de casos semelhantes, poderá vir a acolher, especialmente diante de
um comando (
Por fim, além de o ser humano ter o potencial de amplificar as alucinações por meio de enviesamentos internos (sejam relacionados à confiança cega na automação sejam aqueles advindos da complacência e do conforto cognitivo relacionado), é também o usuário final - e não o desenvolvedor ou a ferramenta - o maior responsável por alguns dos principais gatilhos que ensejam as alucinações e que são oriundos primordialmente de uma falta de conhecimento sobre a IAG e suas plataformas.
Nessa linha, pode-se citar eventual ambiguidade dos comandos, que frequentemente resulta em interpretações imprecisas pelo sistema e o força a fazer suposições ou preencher lacunas com informações que podem não ser corretas para o contexto específico. Por exemplo, solicitações genéricas - e bem comuns no mundo jurídico - como "analise o documento" ou “resuma o caso”, não fornecem parâmetros suficientes para que o sistema compreenda exatamente qual tipo de análise deve ser realizada ou quais informações são relevantes no resumo que foi pedido.
Da mesma forma, a não especificação de forma adequada do escopo temporal ou contextual da consulta, com perguntas sem delimitação clara de período ou área do conhecimento, o uso inadequado de terminologia técnica ou a mistura de conceitos de diversas áreas sem a devida contextualização pode confundir o sistema ou levá-lo a combinar informações de diferentes contextos, resultando em respostas que, embora pareçam coerentes, não o são.
Por exemplo, caso se pergunte à IAG "como funciona o processo de adoção?", sem especificação de país ou tempo, ela pode combinar regimes legais de diversos países ou misturar procedimentos antigos com práticas atuais, criando um conteúdo que, embora pareça completo, pode conter inconsistências ou anacronismos.
Ou se a pergunta for: "explique como funciona o recurso no processo e quais são seus efeitos", o resultado poderia ser um texto que, embora pareça bem estruturado e abrangente, na verdade, teria o enorme potencial de apresentar inconsistências técnicas graves e misturas inadequadas de diferentes ramos do direito processual, potencialmente levando a interpretações errôneas sobre como os recursos realmente funcionam em cada contexto específico.
Além disso, a ausência de protagonismo humano no processo de tomada de decisão é
um importante risco a ser considerado. O manejo irresponsável e não
supervisionado da IAG, com a delegação do poder decisório, pode ser, ao mesmo
tempo, causa e consequência de uma alienação e perda de agência (
Esse risco é especialmente presente quando se pretende dar tratamento ao excesso
de litigiosidade e cumprir metas de produtividade, mediante o uso massivo de
ferramentas tecnológicas, e resulta agravado quando se percebe que grande parte
das ferramentas de IA já desenvolvidas no Judiciário centra foco exclusivamente
no aumento da eficiência na solução dos casos judicializados (
O panorama se torna ainda mais complexo quando consideramos a interação entre esses diferentes fatores de risco. Por exemplo, a combinação entre alucinações e vieses pode resultar na geração de conteúdo não apenas factualmente incorreto, mas também discriminatório, enquanto a alienação, a perda de agência e o manejo inadequado de dados sensíveis podem ser agravados pela tendência à confiança excessiva no sistema.
A falta de compreensão sobre as limitações e as capacidades reais da IA também pode contribuir para as alucinações. Muitos usuários assumem erroneamente que o sistema possui conhecimento universal e atualizado sobre todos os assuntos (como uma poderosa ferramenta de pesquisa), quando, na realidade, como já se mencionou, seu conhecimento é limitado aos dados de treinamento e ao limite temporal de acesso à base de dados dinâmica. Isso pode resultar em consultas que excedem as capacidades da IAG ou que exigem informações além de seu escopo de conhecimento.
Por fim, a ausência de
Outro aspecto crítico no uso de IAG diz respeito à reprodução e à potencial
ampliação de vieses pré-existentes nos dados utilizados para
treinamento/aprendizado da máquina (por outros,
A complexidade da questão é aumentada pela natureza dos modelos generativos, caracterizados pela incerteza e pela imprevisibilidade na construção dos seus resultados, que torna difícil a identificação tempestiva e eficiente destes vieses. Ademais, a própria estrutura do processo de treinamento, baseada em maximização de probabilidades de combinações textuais, pode levar ao aumento de padrões discriminatórios presentes nos dados originais, em um círculo vicioso de confirmação e reconfirmação.
Para ilustrar tal problemática, considere-se o caso dos sistemas de
reconhecimento facial implementados em contextos de segurança pública. Tais
sistemas, quando treinados predominantemente com bases de dados compostas por
faces de determinados grupos étnico-raciais - historicamente, indivíduos
caucasianos -, apresentam taxas significativamente mais elevadas de falsos
positivos ao analisar faces de pessoas negras ou asiáticas, diante da
incapacidade de discernir traços fenotípicos com a mesma acurácia com que
interpreta os dados com que foi treinada. Em um cenário de utilização desses
sistemas para identificação de suspeitos em investigações criminais, esta
disparidade técnica transmuta-se em grave questão de justiça social, podendo
resultar em abordagens policiais equivocadas e, até mesmo, em prisões injustas,
reforçando e amplificando padrões discriminatórios já existentes no sistema de
justiça criminal
A gestão inadequada de dados sensíveis representa outro fator relevante de risco. A facilidade de uso e a interface interativa das ferramentas de IAG podem induzir à inclusão inadvertida de dados confidenciais ou pessoais nas entradas. Esta prática pode resultar em violações da Lei Geral de Proteção de Dados - LGPD e de outras legislações correlatas, potencialmente expondo dados sensíveis a processamentos não autorizados, com inúmeras possíveis consequências.
Em nível internacional, merece destaque, recentemente, o caso da
A empresa de cibersegurança Wiz revelou que a DeepSeek deixou exposto um banco de
dados contendo mais de um milhão de registros, incluindo históricos de conversas
dos usuários, chaves de API e detalhes internos do sistema. Esses dados estavam
desprotegidos e acessíveis publicamente, o que representa uma grave falha de
segurança (
Além disso, de acordo com uma análise conduzida pela
Governos de diversos países começaram a reagir ao problema. Itália, Coreia do Sul
e Taiwan já adotaram medidas para restringir ou investigar o uso do DeepSeek em
seus territórios (
Além das preocupações com privacidade, a OpenAI acusou a DeepSeek de violar
direitos autorais ao utilizar seus modelos proprietários sem permissão para
treinar um chatbot concorrente. Segundo um relatório publicado pelo
Essa questão levanta um debate mais amplo sobre os direitos de propriedade
intelectual na área da inteligência artificial. O
Diante do ocorrido, o caso da DeepSeek reforça a necessidade de regulamentações mais robustas para proteger a privacidade dos usuários e garantir que os direitos de propriedade intelectual sejam respeitados no desenvolvimento de tecnologias de inteligência artificial. Empresas e governos precisam trabalhar juntos para estabelecer regras claras que promovam inovação sem comprometer a segurança digital e a ética no uso de dados.
Nesse sentido, o desenvolvimento de rigorosos processos de validação, monitoramento contínuo e auditorias regulares humanas constitui pilar fundamental para garantir que os parâmetros éticos e legais estabelecidos sejam efetivamente observados na prática. Estes processos devem ir além de verificações técnicas superficiais, incorporando metodologias sofisticadas de avaliação de impactos nos direitos fundamentais, análise de vieses discriminatórios e verificação da conformidade com princípios constitucionais.
O monitoramento contínuo deve ser estruturado como um sistema de vigilância ativa
que detecte precocemente desvios, anomalias ou impactos não antecipados. Isso
inclui o desenvolvimento de indicadores de performance ética, métricas de
coerência algorítmica e mecanismos de
Por outro lado, a capacitação contínua e adaptativa para garantir o protagonismo
humano, acompanhando a evolução tecnológica e incorporando lições aprendidas da
experiência prática, representa elemento crucial para evitar tanto os vieses
quanto as causas humanas de alucinações nas respostas da IAG. Essa capacitação
deve abordar não apenas aspectos técnicos sobre o funcionamento dos sistemas de
IA, mas também desenvolver competências importantes para avaliação da qualidade,
adequação e limitações dos
Segundo o Relatório de Pesquisa “O uso da Inteligência Artificial Generativa no Poder
Judiciário Brasileiro” (
O ChatGPT aparece como a ferramenta mais utilizada, seguido por outras como Copilot, Gemini e Bing AI.
Embora o uso dessas ferramentas esteja claramente em uma curva crescente, o relatório apontou que ele vem acompanhado de preocupações também crescentes. Nessa linha, as principais dificuldades relatadas pelos usuários estão na falta de familiaridade com as ferramentas (51,9%), na falta de confiança nos resultados gerados (48,9%) e nas preocupações quanto à licitude do uso (cerca de 15%).
Ainda mais, ainda que metade dos magistrados (49,4%) e servidores (49,5%) do Poder Judiciário já tenha tido experiência com ferramentas de Inteligência Artificial Generativa (IAG), elas foram utilizadas, em regra, em plataformas abertas disponíveis na internet e sem o conhecimento ou chancela institucional, o que pode dificultar processos internos de revisão e supervisão do conteúdo gerado e controle dos dados e informações sensíveis compartilhados.
Em resposta a esses achados, como já mencionado, o Conselho Nacional de Justiça
publicou recentemente, em março de 2025, a Resolução nº 615/2025 (
Um dos aspectos mais relevantes da Resolução 615/2025 é a adoção de uma abordagem baseada em riscos, classificando as aplicações de IA em categorias de alto risco, baixo risco ou risco excessivo (vedado). As soluções de alto risco - como aquelas destinadas à "aferição da adequação dos meios de prova e sua valoração" ou "formulação de juízos conclusivos sobre a aplicação da norma jurídica" - estão sujeitas a requisitos mais rigorosos, incluindo avaliação de impacto algorítmico e supervisão contínua.
Por outro lado, aplicações de baixo risco, como "execução de atos processuais ordinatórios" ou "produção de textos de apoio para facilitar a confecção de atos judiciais", possuem requisitos de governança mais simplificados, embora ainda exijam supervisão humana adequada.
Por fim, dentre outros aspectos, a resolução dedica capítulo específico ao uso de modelos de linguagem de larga escala (LLMs) e sistemas de IAG, estabelecendo diretrizes tanto para uso corporativo quanto individual. Magistrados e servidores, assim, podem utilizar ferramentas comerciais de IAG, desde que observadas condições como capacitação adequada, uso auxiliar (vedada a tomada autônoma de decisões), proteção de dados sensíveis e conformidade com a LGPD.
Quando os tribunais contratam soluções de IAG, a resolução exige que as empresas
fornecedoras se comprometam com o respeito à legislação brasileira, incluindo a
vedação do uso de dados do Poder Judiciário para treinamento não autorizado e a
implementação de mecanismos de
Entre os desafios à frente, no uso da IAG, no Poder Judiciário, está a necessária
percepção de que seus artefatos e suas funcionalidades poderão contribuir para que
se alcancem resultados muito além do aumento facilitado da produtividade e da
celeridade nas unidades judiciárias. Trata-se de um caminho que se abre à expansão
da capacidade de tomar decisões, diante de suas infinitas possibilidades de
cruzamento de informações e de geração de
Atualmente, porém, parece que é apenas a busca pela eficiência, traduzida em fazer mais com menos recursos, que está fomentando a utilização da IAG. O movimento eficientista do Judiciário, fortemente influenciado pelas metas de produtividade, parece ter como único ou principal propósito, domar o absurdo volume de processos, quando o propósito da existência de um sistema de justiça é muito maior e mais profundo.
É interessante perceber a espiral de sucesso que tende a surgir, quando se implementam inovações, que também gera uma espécie de efeito alucinatório entre os usuários. No caso, a euforia que decorre do aumento quase que instantâneo e antes impensável nos índices de produtividade, tende a encobrir os possíveis paraefeitos da solução implantada, sobre a própria litigiosidade, revelada nos índices de judicialização e recorribilidade.
O alívio dos sintomas de um problema complexo faz pensar que ele foi resolvido, já
que o comportamento geral melhora antes de piorar. O
Apesar dos riscos e dos desafios inerentes ao uso da Inteligência Artificial generativa no contexto do Poder Judiciário, é essencial reconhecer que sua implementação responsável pode trazer benefícios significativos para o Sistema de Justiça brasileiro. Quando adequadamente compreendida, governada e supervisionada por operadores qualificados, a IAG pode tornar-se uma ferramenta valiosa para o aprimoramento da prestação jurisdicional.
Um dos seus benefícios mais imediatos reside na redução do tempo necessário para a análise de informações complexas ou muito volumosas. Em um cenário no qual magistrados e servidores frequentemente lidam com processos que envolvem milhares de informações e documentos, a capacidade da IA de sintetizar, organizar e destacar informações relevantes pode representar um ganho substancial de eficiência.
Essa otimização na gestão do conhecimento que transita ou é gerado no Poder Judiciário não deve ser compreendida apenas como aumento quantitativo da produtividade, mas como possibilidade de direcionamento da energia e do tempo humanos para atividades de maior valor agregado, como a análise crítica aprofundada da prova e de questões jurídicas complexas, a fundamentação de decisões e o atendimento mais humanizado aos jurisdicionados.
Por outro lado, a IAG oferece a possibilidade de reduzir inconsistências oriundas de vieses humanos ou desigualdades no tratamento de processos semelhantes. Por meio do aprendizado contínuo e análise de grandes volumes de decisões judiciais, a IA pode auxiliar na identificação de padrões decisórios, possibilitando a uniformização de entendimentos e a redução de decisões contraditórias em casos análogos.
Esse benefício é particularmente relevante em um sistema judicial que busca maior previsibilidade e segurança jurídica. Ao identificar divergências interpretativas em casos similares, a IA tem o potencial de alertar magistrados sobre possíveis inconsistências, contribuindo para uma jurisprudência mais coerente e para a redução da litigiosidade decorrente de tratamentos desiguais.
Nessa mesma linha, existe a possibilidade de desenvolvimento de uma política de alinhamento ético na própria arquitetura dos sistemas de IAG, criando camadas de proteção que não só assegurem a conformidade das saídas com o ordenamento jurídico vigente, extirpando eventuais vieses discriminatórios, como também garantam a rastreabilidade das decisões e de suas fundamentações.
Diferentemente de sistemas puramente automatizados, essa modalidade de IAG pode ser programada para incorporar salvaguardas éticas desde sua concepção, incluindo verificações automáticas de conformidade constitucional, alertas sobre potenciais discriminações e mecanismos de auditoria que permitam o rastreamento completo do processo decisório.
Por fim, a implementação responsável da IAG no Judiciário pode funcionar como catalisador para processos mais amplos de modernização e inovação no Sistema de Justiça. A necessidade de desenvolver protocolos de uso ético, sistemas de supervisão e mecanismos de controle de qualidade para a IA pode impulsionar melhorias gerais nos processos de trabalho, na gestão de dados e na cultura organizacional dos tribunais.
A experiência acumulada com o uso supervisionado da IAG também pode gerar
Paradoxalmente, um dos principais benefícios da IAG no contexto judicial pode ser o fortalecimento do protagonismo humano no processo decisório. Ao automatizar tarefas mais mecânicas e repetitivas, a IA libera os operadores do direito para se concentrarem naquilo que é genuinamente humano na atividade jurisdicional: a interpretação criativa do direito, a análise contextual dos casos, a ponderação de valores em conflito e a construção de soluções justas para situações únicas.
A premissa deve ser a de que a tecnologia deve assistir, e não dominar, a justiça
(
Este artigo pretendeu reunir e sistematizar alguns conceitos e características da IA Generativa, de forma a favorecer sua melhor compreensão em termos de potencialidades, limitações e riscos. Teve também o objetivo de investigar em que medida, com adequado gerenciamento de riscos, essa inovação pode ser aproveitada para aperfeiçoar a atuação de magistrados e servidores e a atuação eficiente e efetiva do Poder Judiciário.
A pesquisa revelou que a hipótese inicialmente levantada é verdadeira. Os riscos da IAG no sistema de justiça, como uma via de mão dupla, residem em não saber aplicá-la, mas, também, paradoxalmente, em não fazer uso dela.
A implementação bem-sucedida da Inteligência Artificial Generativa no Poder Judiciário exige uma abordagem que transcenda a mera adoção tecnológica, demandando a construção de uma moldura robusta de governança pautada na ética e na supervisão humana. O desafio central reside em maximizar os benefícios transformadores da IAG, notadamente na gestão adequada do conhecimento disponível na instituição, enquanto se mitiga efetivamente seus riscos inerentes, preservando a integridade, a legitimidade e a confiabilidade do Sistema de Justiça.
Por fim, sem dúvidas, a resposta aos dilemas envolvendo Inteligência Artificial Generativa e Sistema de Justiça devem perpassar uma reflexão madura sobre inovação responsável e adequado protagonismo humano na inserção das novas tecnologias na atividade fim. Atribuir à máquina um poder que nunca foi seu, o de ditar a forma como as atividades devem ser feitas, talvez seja o primeiro erro do ser humano em sua interação com as novas tecnologias.
1 Introdução. 2 Noções básicas de Inteligência Artificial, Machine Learning e IA Generativa. 3 Reflexões atuais sobre o uso da Inteligência Artificial no Poder Judiciário. 4 IA Generativa e riscos de sua não compreensão adequada: alucinações de respostas, reprodução de vieses pré-existentes e manejo inadequado de dados e informações sensíveis. 4.1 Alucinações e viés de automação. 4.2 Ampliação dos vieses. 4.3 Manipulação de dados sensíveis. 5 Poder Judiciário Brasileiro e IA Generativa.6 Benefícios que podem surgir pelo uso da IA Generativa no poder judiciário. 7 conclusão. Referências.
Em tradução livre: “C-3PO: Acredito que eles pensam que eu sou algum tipo de deus; Han Solo: Bem, então por que você não usa sua influência divina e nos tira dessa enrascada?; C-3PO: Peço desculpas, General Solo, mas isso simplesmente não seria apropriado; Han Solo: Apropriado?; C-3PO: É contra minha programação personificar uma divindade”.
“Humanoides”, nesse caso, fazendo referência não à aparência física dos sistemas, mas à experiência do seu usuário/interlocutor.
Outras referências sobre Descartes e seres autômatos em geral podem ser
encontradas no excelente artigo da professora de história da Universidade de
Stanford Jessica Riskin, no endereço eletrônico:
Em tradução livre: “é possível inventar uma única máquina que pode ser usada para computar qualquer sequência computável. Se esta máquina U for alimentada com uma fita no começo da qual está escrito um número satisfatório de alguma máquina computacional M, então U computará a mesma sequencia que M”.
Tentando não dar
Winston é um sistema de Inteligência Artificial também, como HAL, não humanoide, que demonstra conhecimento da linguagem em seu nível mais básico e capacidade de fazer associações que vão bem além de um sistema expert. Winston “aprende” espontaneamente a partir de buscas autônomas na Internet, utiliza improvisações constantes, encontra soluções para além da sua programação e é um dos grandes protagonistas da obra, chegando a ser confundido com um humano diversas vezes.
Optou-se pela utilização já bastante difundida do termo “alucinações” para descrever esse específico fenômeno no funcionamento da IAG. No entanto, é importante consignar que a palavra tem sido combatida por alguns profissionais que trabalham no cuidado da saúde mental, conforme esclarecem, por diversos outros.
Registre-se, a propósito, que o Comitê para a Eliminação da Discriminação Racial
da Organização das Nações Unidas - ONU (