27 jul A ausência de doutrina nas ferramentas de IA jurídicas: um viés inesperado?, por Carlos Alberto Etcheverry
Com a proliferação de ferramentas de inteligência artificial como suporte a decisões judiciais e ao trabalho dos demais profissionais do Direito, impõe-se uma pergunta: é admissível um assistente de IA para decisões judiciais cuja base de dados seja apenas o repertório de decisões de todos os tribunais do país, com exclusão da doutrina, o que implica considerar que a doutrina não é uma fonte material e ferramenta hermenêutica do Direito?
Curiosamente, a resposta – negativa – nos é dada pela Deepseek, uma das IAs disponíveis no mercado:
“…[A doutrina é] uma fonte material fundamental e a principal ferramenta de interpretação, integração e crítica do Direito. Ela sistematiza o direito positivo, revela lacunas, resolve antinomias, propõe interpretações evolutivas e constrói os conceitos que moldam a própria jurisprudência.
“Excluir a doutrina da base de dados é ignorar o ‘mapa’ e o ‘manual de engenharia’, deixando apenas o ‘rastro’ das decisões passadas.”
Essa exclusão pode ser caracterizada como uma modalidade especial de viés: o viés subtrativo. A preocupação dos estudiosos tem se voltado na direção dos riscos trazidos pela forma como as ferramentas de inteligência artificial discriminam posicionamentos marginais e minoritários em suas respostas.
Contudo, o viés de que estamos tratando tem efeitos muito mais deletérios. Num sistema jurídico como o brasileiro, a doutrina sistematiza conceitos, preenche lacunas, critica precedentes, explora princípios constitucionais e oferece visões inovadoras.
Uma base de dados formada apenas por jurisprudência cria inevitavelmente um viés conservador, pois levará em conta apenas posicionamentos jurisprudenciais consolidados, desconsiderando a existência de debates fora dos muros dos tribunais. E esta é a situação da maioria das IAs jurídicas brasileiras.
É como se o mundo acadêmico e os vários lugares em que o Direito é posto em discussão não existissem. Mas é nesses lugares que surge a matéria-prima de novos precedentes, dando curso ao processo contínuo de aperfeiçoamento da ciência jurídica, pois, como Eugen Ehrlich afirma, em magnífica síntese,
“[…] nenhuma sociedade pode estabelecer a priori quais os interesses que ela quer proteger; pois em toda sociedade em progresso e em evolução há constantemente interesses novos que adquirem importância e os já reconhecidos estão constantemente expostos a novos tipos de contestação.”1
Uma IA jurídica alimentada apenas com precedentes jurisprudenciais seria incapaz de gerar o seu primeiro precedente em qualquer matéria nova, pois seria inteiramente autorreferencial. Ela dependeria sempre de uma fonte criativa externa ao próprio sistema ou do feliz acaso de um usuário com maior sensibilidade se dispor a nadar contra a corrente.
Um bom exemplo do que poderia ocorrer:
Imagine-se a hipótese do pedido de reconhecimento de uma união estável no Brasil, a ser apreciado por uma IA judicial treinada apenas com precedentes jurisprudenciais. Considere-se, hipoteticamente, a completa ausência de precedentes e a inexistência de regras constitucionais ou infraconstitucionais que façam menção ou autorizem, de qualquer forma, tal reconhecimento.
Como seria decidido esse pedido? Mais uma vez, é uma IA – Gemini – que nos responde:
“Uma inteligência artificial não possui sensibilidade moral, intuição ou capacidade de indignação social.2 Diante do pleito, o raciocínio determinístico do algoritmo seguiria o padrão tradicional da legalidade estrita do Direito Positivo:
“Ausência de Lei + Ausência de Precedente = Direito Inexistente/Improcedência
“A IA aplicaria o princípio implícito de que o que não está na lei nem nos precedentes não pode gerar pretensão tutelável.”
Mas não deve passar inobservado que decidir pela exclusão da doutrina jurídica dos dados de treinamento de IAs especializadas não é apenas tomar uma decisão técnica: é tomar, ainda que inadvertidamente, uma decisão sobre a natureza do Direito.
Significa dizer, na prática, que o Direito relevante é apenas o produzido pelos tribunais.
Esta seria uma tese não apenas esdrúxula, mas também extremamente perigosa, do ponto de vista social e político. Não acredito que seria recebida entusiasticamente pelos estudiosos do Direito e pela sociedade como um todo.
Sem dúvida alguma estamos diante de um cenário que impõe aos gestores de sistemas de IA dedicadas no meio jurídico, urgentemente, a tomada de medidas para balancear a composição dos seus dados de treinamento, de forma a evitar a modalidade de viés de altíssimo risco social e político que é o resultante da desconsideração da produção doutrinária e dos debates que se dão fora dos tribunais.
Por Carlos Alberto Etcheverry, desembargador aposentado e subdiretor de Meio Ambiente da AJURIS
1 – EHRLICH, Eugen. Fundamentos da sociologia do Direito. 1a ed. Brasília: Editora Universidade de Brasília, 1986
2 – Sem ênfase no original