"Parabéns pela pesquisa, excelente! Existe algum modelo internacional que poderia servir como referência para o Brasil nesse contexto? Além disso, a questão da privacidade de dados e a possibilidade de viés na IA são discutidas, mas poderiam ser expandidas. Como o sistema judiciário pode garantir que os dados utilizados para treinar os algoritmos de IA sejam representativos e livres de preconceitos?"
Enviada em 26/10/2023 às 15:11:16 horas.
RESPOSTA DO AUTOR:
"Antes de mais nada, agradeço pelo comentário e pelo pertinente questionamento.
Atualmente, existem diversos modelos que podem servir como referência para o Brasil. Neste contexto, do uso da IA pelo Poder Judiciário, temos exemplos notáveis e sistemas que têm sido, de fato, funcionais. O Reino Unido, por exemplo, desenvolveu diretrizes para o uso da IA no sistema judiciário, abordando principalmente questões relacionadas à transparência, responsabilidade e equidade. Já a União Europeia, pioneira na regulamentação da IA, aprovou em junho do ano passado a Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais. A proposta é justamente no sentido de que os sistemas de IA utilizados pelos sistemas judiciais sejam regidos por cinco princípios fundamentais: I - Princípio do respeito aos direitos fundamentais; II - Princípio da não discriminação; III - Princípio da qualidade e segurança; IV - Princípio da transparência, imparcialidade e equidade, e; V - Princípio do controle do usuário. Em suma, a Comissão Europeia tem buscado o uso consciente e eficaz da IA. Para tanto, faz-se necessário a realização de uma gestão de riscos e, especialmente, supervisão humana, ou seja, mecanismos eficientes e seguros para o acompanhamento e avaliação são pressupostos fundamentais.
Quanto à questão da privacidade de dados e de algoritmos de IA que sejam representativos e livres de preconceitos, poder-se-á adotar práticas como a auditoria de algoritmos, por exemplo, manter uma periodicidade na análise dos dados a fim de identificar e mitigar discrepâncias. Outra prática que pode tornar o uso da IA mais seguro para o Judiciário é a transparência, tornando públicos os critérios de coleta e seleção de dados, bem como a metodologia de treinamento dos algoritmos. Há ainda a possibilidade de investir na diversidade de dados, justamente para que essa diversidade alcance toda a população em termos de raça, cor, gênero, etnia, entre outros. Também se mostra interessante a adoção de um sistema de colaboração interdisciplinar envolvendo especialistas em ética, direito, tecnologias, entre outros, a fim de que essa equipe multidisciplinar possa avaliar criticamente o uso da IA no contexto jurídico. Essa combinação, aliada a uma regulamentação rigorosa, transparente e monitoramento contínuo, pode auxiliar na garantia de que a IA seja utilizada de maneira ética e justa."
Respondida em 26/10/2023 às 19:58:50 horas.
