Edição 224
A Inteligência Artificial e o Direito: V Encontro de Magistrados Brasil-EUA discute os impactos e os desafios para o uso das novas tecnologias pelos tribunais
9 de abril de 2019
Entre 4 e 8 de março foi realizado nos Estados Unidos o V Encontro de Magistrados Brasil-EUA , fruto da parceria entre o Instituto Justiça & Cidadania e a American
University – Washington College of Law (WCL). Parte do I Ciclo de Estudos Internacionais de Direito Comparado, promovido pelo Instituto JC, o Encontro incluiu na programação visitas institucionais a órgãos do Sistema de Justiça norte-americano, além do Seminário “Inteligência Artificial e o Direito”, realizado no campus da WCL, em Washington (DC). Os debates tiveram foco nos impactos e nos desafios para a implantação de novas tecnologias nos tribunais, incluindo a qualificação dos serviços jurisdicionais e a ampliação do acesso à Justiça.
Nas conferências sobre vários aspectos da Inteligência Artificial (IA), magistrados, professores e especialistas de ambos os países puderam intercambiar saberes jurisdicionais e acadêmicos. Foram realizados ao todo nove painéis em dois dias de intenso trabalho: O que é Inteligência Artificial; IA e sua relação com as profissões jurídicas; A aplicação do IA nos tribunais; O Projeto Victor no STF; Resolução de Conflitos Online; IA e Ética; GovTech e considerações regulatórias; Perspectivas legais no uso de blockchain e economia compartilhada; Proteção de dados e cyber security.
O Presidente do Superior Tribunal de Justiça (STJ), Ministro João Otávio de Noronha, ressaltou a importância da interação dos magistrados com a academia para melhorar a atividade judiciária. Ele exemplificou: “Eu nada ou muito pouco sabia sobre blockchain (protocolos de segurança que utilizam bases de dados descentralizadas). Estamos aprendendo. Nesse contato com o desconhecido vamos aumentar nossa compreensão e voltaremos melhores para o exercício das carreiras jurídicas”.
“Com a realização de mais esse evento de reciclagem continuada, estamos em dia com o compromisso de ampliar os conhecimento dos magistrados que participam do Ciclo. Dessa forma, esperamos ajudálos a se capacitar para melhor aplicar a Justiça, comemorou o presidente do Instituto JC, Tiago Salles.
Os Participantes do V Encontro, no campus da Washington College of Law
Temas e participantes – Na delegação brasileira, além do Ministro Noronha, participaram outros sete ministros do STJ: Antonio Carlos Ferreira, Luis Felipe Salomão, Paulo Dias de Moura Ribeiro, Paulo de Tarso Sanseverino, Raul Araújo Filho, Ricardo Villas Bôas Cueva e Sebastião Reis. Participaram também o Presidente do Tribunal Regional Federal da 2a Região (TRF2), Desembargador André Fontes; a Desembargadora do Tribunal Regional Federal da 1a Região (TRF1), Monica Sifuentes; o Desembargador do Tribunal Regional Federal da 4a Região (TRF2), Fernando Quadros da Silva; a Desembargadora do Tribunal de Justiça de São Paulo (TJSP) Christine Santini; o Desembargador do TJSP e membro do Conselho Nacional de Justiça (CNJ) Carlos von
Adamek; o Juiz do TJSP Marcus Onodera; o DiretorGeral do Supremo Tribunal Federal (STF), Eduardo Toledo; o professor e exAdvogado Geral da União Fábio Medina Osório; os diretores do Instituto dos Advogados Brasileiros (IAB) Ana Tereza Basilio e Márcio Fernandes; a professora de Direito Civil da Faculdade de Direito da Universidade de São Paulo (FDUSP) Giselda Hironaka; o ex-Diretor de Relações Institucionais do Banco Central (BC), Isaac Sidney Menezes Ferreira; o Juiz Auxiliar da Corregedoria Nacional de Justiça, órgão do CNJ, Alexandre Chini Neto; e o Chefe da Casa Civil do Distrito Federal, Eumar Novacki, dentre outros.
Da delegação norte-americana fizeram parte a Diretora do Centro de Estudos de Direito Internacional e Comparado da American University, Padideh Ala’i, os professores da WCL Erran Carmel, Keneth Anderson e Walter Effross; a gerente de inovação do Escritório Administrativo das Cortes dos EUA, Dena Eaton; o ex-Diretor do Comitê Nacional de Mediação, Daniel Rainey; o tecnólogo legal e futurista da multinacional Thomson Reuters, Joseph Raczynski; e o gerente de serviços especiais globais da Hazelwood Street Consultants, Grant Kaplan.
A coordenação científica do V Encontro ficou a cargo do Juiz Federal Sênior dos EUA Peter J. Messitte, diretor do Programa de Estudos Legais e Judiciais Brasil-EUA na WCL; enquanto a coordenação executiva coube ao presidente do Instituto JC, Tiago Salles. Já a coordenação científica do I Ciclo de Estudos Internacionais de Direito Comparado como um todo está sob a responsabilidade do Juiz Federal Marcus Lívio Gomes (TRF2).
Diálogo entre iguais – “Somos dois países no mesmo caminho. Talvez em alguns tópicos os EUA estejam um pouco à frente do Brasil, pela maior familiaridade com a IA, o que nos coloca em condições de compartilhar com vocês nossa experiência, tanto os aspectos positivos quanto os negativos. No entanto, a fala do Ministro Paulo Sanseverino – em sua palestra sobre a Lei Geral de Proteção de Dados (Lei no 13.709/2018) – mostrou que o Brasil está muito à frente quando o assunto é proteção dos dados pessoais. É algo impressionante, que faz com que o evento realmente tenha se tornado um diálogo”, comentou o Juiz Peter J. Messitte, que é também membro do Conselho Editorial da Revista JC.
Em entrevista, Messite acrescentou: “Sempre conversamos muito com nossos amigos no Brasil. Foi muito fácil definir qual seria o tema desse quinto encontro, porque a discussão sobre as aplicações da Inteligência Artificial é muito atual tanto aqui nos EUA, quanto no Brasil ou em qualquer outro lugar do mundo. É uma parceria muito útil, pois é sempre bom trocar ideias entre dois sistemas semelhantes, democracias com instituições independentes, Judiciários independentes. Essa troca já vem de muitos anos e é boa para ambos os países”.
Justiça da máquina – Na conclusão do Seminário, o Juiz Federal Marcus Lívio Gomes manifestou preocupação com aspectos éticos relacionados à aplicação da Inteligência Artificial ao Direito. Ele comentou um caso concreto que chamou atenção nos EUA, onde, em alguns estados, os algoritmos já são utilizados por juízes para avaliar o grau de periculosidade dos réus, o que é determinante na opção entre conceder-lhes liberdade provisória ou determinar sua prisão preventiva.
“No Estado de Wisconsin um homem foi sentenciado a seis anos de prisão com fundamento, inclusive, em análise de risco levada a efeito por sistema de IA. Completamente secreto, o sistema operacional não possibilitou que a defesa do réu examinasse os cálculos envolvidos nessa análise de risco. Nenhuma avaliação independente da eficácia do sistema foi apresentada. Com base em que elementos o magistrado avaliou a confiabilidade do sistema? Ainda que a lógica do algoritmo fosse aberta, o magistrado médio não é programador, logo não teria sequer como avaliar a presença de erros ou vieses no sistema”, observou o magistrado, que questionou: “Afinal, qual é a Justiça da máquina?”.
Machine x judge learning – Lívio acrescentou outros questionamentos éticos quanto ao uso das ferramentas tecnológicas no processo judicial que, segundo ele, ainda carecem de respostas definitivas da ciência: “Existe um conceito global de ética quando falamos em IA? Ética é um conceito muito ligada à cultura de determinado país. Como os
softwares de IA estão sendo desenvolvidos na
América do Norte, haverá adaptações para a aplicação em outras partes do mundo? Os conceitos de justiça que estão sendo implantados em determinados sistemas servirão para todos?”
O Juiz Federal e coordenador científico do Encontro deixou quatro sugestões para o aprimoramento da prestação jurisdicional com o uso da IA: Judge learning – em paralelo ao desenvolvimento do aprendizado das máquinas (machine learning), deve ser incentivada a capacitação continuada dos juízes; Data laundry – os algoritmos utilizados em decisões públicas devem ser abertos e passíveis de auditagem para evitar que a programação dos softwares seja influenciada por preconceitos de qualquer espécie; Responsabilidade – com a definição precisa de quem será responsabilizado por eventuais erros dos sistemas; e Accountability/ liability – por meio do CNJ, o Poder Judiciário deve guiar a uniformização dos sistemas nos tribunais brasileiros, para evitar que tenhamos no futuro próximo “27 sistemas de IA diferentes, como temos hoje em relação aos programas de automação processual”.
Bankruptcy – Antes do Seminário, os magistrados, advogados e professores brasileiros participaram de visitas institucionais à Corte de Falências do Distrito Leste de Nova Iorque e à Divisão de Combate aos Crimes Cibernéticos do FBI, em Washington. A primeira visita colocou o processo recuperacional no centro das discussões, ao lado das novas tecnologias. Os participantes foram recebidos pela Juíza Elizabeth S. Stong, que explicou que nos EUA as cortes federais detêm jurisdição exclusiva para análise dos processos de falência, com normas reguladas pelo U.S. Bankruptcy Code. Segundo a magistrada, o objetivo da lei é permitir que a pessoa física ou jurídica possa retornar ao mercado o mais rapidamente possível, oferecendo a elas recomeço financeiro por meio de planos para reorganizar dívidas ou realizar eventuais liquidações de bens e direitos.
A Juíza Stong disse ver as Cortes de Falências como tribunais “solucionadores de problemas”, nos quais as ferramentas essenciais para o sucesso do processo de recuperação são a transparência das informações, inclusive junto aos credores, e a responsividade das partes em relação aos seus direitos e deveres, incluindo a presunção de que as próprias empresas são as mais indicadas para gerir a recuperação, uma vez que conhecem o negócio melhor do que ninguém. Questionada sobre qual o motivo de, diferentemente do caso brasileiro, o número de recursos revisionais nos Estados Unidos ser muito baixo, a magistrada apontou que apenas a decisão é apelável, e que são realizadas tantas audiências quantas sejam necessárias para se chegar ao melhor resultado possível para todas as partes.
Ao questionar a Juíza Stong sobre a duração do processo e o percentual de recuperações bem sucedidas, o Ministro Raul Araújo Filho ouviu em resposta que não há prazo determinado, mas que a média é de seis meses e que cerca de 50% das empresas conseguem se recuperar. A magistrada acrescentou que a mediação tem papel relevante no processo. Ela contou que nos Estados Unidos é possível que um magistrado de outra corte, ou mesmo um advogado, atue como mediador em casos de falência, mas ressaltou que esse papel nunca é exercido pelo juiz responsável pelo caso, de modo a garantir a imparcialidade.
O Juiz Federal Sênior dos EUA, Peter J. Messite, discursa durante a mesa de boas-vindas, na qual também estavam, da esquerda para a direita, o Presidente do Instituto JC, Tiago Salles, o Presidente do STJ, Ministro João Otávio de Noronha, o Vice-Presidente da Comissão Especial de Direito Agrário e do Agronegócio da OAB, Antônio Augusto de Souza Coelho, e a Diretora do Centro de Estudos de Direito Internacional e Comparado da American University, Professora Padideh Ala’i
Força-tarefa internacional – A Divisão de Crimes Cibernéticos do FBI foi criada em 2002 para atuar em conjunto com outros departamentos do órgão, uma vez que os crimes cibernéticos normalmente estão relacionados a outras modalidades, como lavagem de dinheiro, terrorismo e espionagem. Os magistrados e juristas brasileiros foram recebidos pelo Vice-Diretor do órgão Erik Welling, que ao falar sobre a força-tarefa para troca de informações em contra-terrorismo e combate a crimes cibernéticos, da qual a Polícia Federal brasileira faz parte, enfatizou o interesse do FBI de trabalhar em parceria com vários países.
Welling explicou que crimes cibernéticos geralmente não ficam concentrados em um só país, pois o alvo não costuma ser territorial. Assim, caso um ataque seja identificado no Brasil, muito provavelmente estará acontecendo também nos EUA. Por isso, a Divisão do FBI opera em 70 países por meio de adidos especiais em suas embaixadas, três deles no Brasil. Segundo o Vice-Diretor, em 2017 foram realizadas 176 prisões e 135 condenações. As principais ameaças identificadas em 2018 foram comprometimento de e-mails corporativos, fraude tecnológica, extorsão e ransomware – crimes nos quais são sequestrados dados de um computador e há pedido de resgate para devolver sua integridade.
Foram apontadas pelos magistrados brasileiros algumas dificuldades para que as ordens judiciais relacionadas aos crimes cibernéticos sejam cumpridas no Brasil, como, por exemplo, determinações para que o aplicativo de comunicações instantâneas WhatsApp forneça informações sobre determinada situação. Os agentes do FBI disseram enfrentar as mesmas dificuldades nos EUA.
Próximos encontros – Após duas rodadas, uma na Espanha em outubro passado e essa agora nos EUA, os próximos encontros do I Ciclo de Estudos Internacionais de Direito Comparado, em datas ainda não confirmadas, serão realizados ainda este ano na Inglaterra e na região da tríplice fronteira entre Brasil, Paraguai e Argentina.
Impressões do Seminário e das visitas institucionais:
Ana Tereza Basilio – “Temos uma boa Lei de Recuperação Judicial e Falências no Brasil (Lei no 11.101/2005). O que me parece necessário fazer são pequenos ajustes. A experiência norte-americana com essa matéria é muito importante para esses aprimoramentos. No encontro que participamos na Corte de Falências de Nova Iorque, ficou muito clara a importância de respeitar as peculiaridades desse tipo de trabalho do Judiciário, uma atividade de razoabilidade, utilização de princípios e bom senso. É fantástico esse tipo de iniciativa, porque aproxima duas jurisdições muito diferentes que têm a ganhar uma com a outra. Houve uma troca de experiências e informações que vai ser muito útil, inclusive, nos julgamentos no Brasil. Alguns problemas que nós enfrentamos nos processos de recuperação já foram enfrentados pela Corte de Nova Iorque. Muitas ideias surgiram desse diálogo, muitas experiências que podem ser replicadas.”
Ministro Luis Felipe Salomão – “É evidente que esses sistemas vão surgir nas Cortes de vértice. No caso do Uber, por exemplo, foi justamente uma demanda judicial, na qual se discutia de quem é a responsabilidade, que motivou o cancelamento dos testes com veículos não tripulados. Alguns juristas já aventam a possibilidade de, avançando a IA, se falar em alguma espécie de pessoa jurídica diferenciada, claro que com um tratamento legal absolutamente em separado, para julgar, por exemplo, casos envolvendo drones e veículos não tripulados. (…) Participei de um debate sobre recuperação judicial e falências com juristas alemães que disseram estar fazendo pesquisas sobre discriminação no algoritmo quando a IA é utilizada para selecionar casos julgados. Isso também pode gerar impactos em termos de responsabilidade civil. Nós não temos regulamentos sobre isso em formulação, nem aqui nos EUA que eu saiba, nem em nosso País, por isso é tão importante começar a discutir desde já.”
Giselda Hironaka – “Durante todo o evento tivemos uma grande certeza e uma grande preocupação. A certeza é que não há como voltar atrás, não há como interromper esse encaminhamento para um futuro, bem próximo, em que teremos a IA muito mais organizada. A grande preocupação é o que a máquina efetivamente fará como resultado da conexão de todos os elementos de seu aprendizado. Será que ela vai mesmo nos substituir em grande parte naquelas tarefas, especialmente das nossas tarefas delicadas, de sensibilidade de alma? Aqui se falou em alma, em coração e em ética. Há atuações que são humanas, e são muitas, incluindo as das pessoas da nossa área jurídica, que exigem esse comportamento de interesse eficaz e verdadeiro pelo próximo. Será que a máquina terá? Certamente não. Caminharemos juntos, a IA com toda a sua consagração de segurança e, lateralmente, nós próprios com aquilo que só os humanos temos a oferecer na continuidade da pacificação social.”
Joseph Raczynski – “Há três diferentes forças em jogo: memória, capacidade de processamento e Inteligência Artificial. Essas três forças juntas terão um efeito monumental na prática do Direito e no Direito enquanto negócio. Estamos começando a observar essas mudanças nos escritórios de advocacia e nos tribunais. Os juízes estão tendo acesso a uma quantidade de dados que nunca tiveram antes. Um aspecto é a dificuldade de se tornar expert em qualquer coisa atualmente. As pessoas costumavam escolher uma especialidade e se dedicar a ela. Hoje em dia, há tanta informação sendo produzida que você precisa usar essas ferramentas para conseguir examiná-las. A inteligência argumentativa proporciona uma camada adicional de informação que possibilita ter acesso, compreender e ser capaz de tomar decisões. É um momento crítico que se aproxima e que será maravilhoso para muitas pessoas. As iniciativas para discutir coletivamente o que está acontecendo são muito importantes, porque as mudanças estão vindo com velocidade. As agências governamentais gradualmente embarcam na discussão. Dubai, EUA e Inglaterra já fizeram grandes mudanças e claramente o Brasil segue na mesma direção. É importante formar melhor compreensão sobre o que está acontecendo o mais rápido possível” (tradução livre do editor).
Ministro Raul Araújo Filho – “É muito valioso esse contato que temos entre juízes brasileiros e norteamericanos para a troca de experiências em torno das recuperações judiciais e falências das empresas. Enquanto eles estão fundados na commom law, com feições muito práticas, nós adotamos a civil law, de feição mais teórica. Essa troca de experiências é muito valiosa porque, embora os sistemas jurídicos sejam diferentes, os problemas são muito semelhantes. As soluções adotadas aqui e no Brasil puderam ser comparadas para que possamos encontrar os melhores caminhos.”
Ministro Paulo de Tarso Sanseverino – “A atual Lei brasileira de Falências e Recuperação Judicial (Lei no 11.101/2005) representou mudança de paradigma em relação à anterior, a Lei de Falências e Concordatas de 1945. Modificou bastante o próprio papel do juiz e, em função disso, nos primeiros anos de vigência houve desconfiança a respeito da sua eficácia prática. Hoje isso mudou, há grande credibilidade da Lei e o número de recuperações judiciais tem aumentado muito. O modelo que utilizamos é muito próximo do norte-americano, especialmente o capítulo 11 da Lei deles. Nesse tipo de evento, em contato com juízes norte-americanos especializados em bankruptcy, temos a oportunidade de verificar quais são os problemas, as dificuldades e, principalmente, as sugestões que eles têm para uma boa aplicação e para a efetividade da Lei. A experiência norte-americana é importante porque o papel do juiz nesse tipo de processo é muito relevante por aqui. Quanto melhor for a administração do caso pelo juiz, melhor será a condução do processo, inclusive com a possibilidade, muito interessante, de um juiz atuar como mediador no processo de outro juiz, uma cultura que nós não temos. São soluções que podemos levar para o Brasil. De modo geral, os problemas são comuns, mas há diferentes visões para solucionar esses problemas.”
Ministro Ricardo Villas Bôas Cueva – “A IA pode aumentar muito a produtividade do Judiciário por meio de métodos de automação e de fluxos de trabalho mais racionais, previsíveis e precisos. Já existem hoje, por exemplo, alguns sistemas de triagens de processos com um nível de precisão muito maior do que aquela que era feita por seres humanos. Em um futuro próximo será possível produzir minutas de decisão automatizadas e propor ao magistrado minutas com base naquilo que já foi julgado sobre a matéria. O STJ já tem um sistema, chamado Sócrates, que faz a triagem e classificação dos processos e recursos que entram. O nível de acurácia do sistema é cada vez maior, porque ele aprende com a prática. Realizamos recentemente dois seminários sobre IA e o presidente criou uma secretaria especial de Inteligência Artificial. Então, participar de um evento como esse, ouvindo a experiência norte-americana, é fundamental para que possamos aprimorar nossos métodos.”
Ministro Paulo Dias de Moura Ribeiro – “Há quase 50 anos, Neil Armstrong disse aquela frase que até hoje está na cabeça de todos nós: um pequeno passo para o homem, um salto gigante para a humanidade. Andamos novamente atrás desse salto gigante com a ideia da Inteligência Artificial. (…) Fico extremamente preocupado em saber que é sim possível a substituição do ser humano pela máquina. Recentemente, uma empresa brasileira usou algoritmos para desenvolver um perfume que se tornou sucesso de vendas. Venho da cidade de Santos (SP), onde temos a figura do provador de café. Será que essa profissão vai acabar e será desenvolvida uma máquina para provar o café? Será que teremos uma máquina capaz de recriar o cheiro de carro novo, algo que atrai a todos nós? Se há benesses, é possível que haja maldades também.”
Antônio Augusto de Souza Coelho – “Em boa hora discutimos a IA no Judiciário. O Raymond Kurzweil, da Google, prevê que já em 2028 teremos uma inteligência geral artificial, em que a máquina vai ter a mesma capacidade do ser humano e que, em 2045, vai surgir a super inteligência, superando nossa capacidade. O mundo caminha em velocidade espantosa e não sabemos onde chegaremos. Se essas previsões estiverem certas, em muito pouco tempo teremos uma nova era.”
Juiz Federal Peter J. Messite – “Estamos familiarizados com arquivamentos eletrônicos, videoconferências, gerenciamento de dados on-line, gerenciamento de casos nos tribunais e serviços baseados na Internet para estabelecer eficiências modernas em nossos tribunais. Mas um comentarista perspicaz observou que enquanto muitos tribunais ainda lutam para desenvolver esses mecanismos, eles já parecem ultrapassados. Os novos sistemas estão focados nas possibilidades de tecnologias inteligentes, ou seja, na Inteligência Artificial. (…) É imperativo que juízes e advogados, particularmente aqueles com liderança no Judiciário e na advocacia, se familiarizem com a IA para conhecer quais são os benefícios e os riscos envolvidos, para que essa tecnologia possa melhorar a eficiência dos tribunais sem comprometer outros valores.” (tradução livre).
Márcio Fernandes – “As novas tecnologias, como o blockchain, terão condições de substituir os contratos solenes? Terão validade de prova? São questões que se apresentam em nosso atual horizonte tecnológico, que demandam uma nova visão do Direito e, muito provavelmente, a criação de novas leis, de novas soluções jurídicas e de novas funções do Poder Público”
Artigos relacionados: