Área jurídicaDireito e TecnologiaDireito Processual CivilDireito Processual na Era TecnológicaProcesso Civil

A Transparência Algorítmica como Direito Fundamental…

A Transparência Algorítmica como Direito Fundamental e a Necessidade de Explicabilidade do Processo de Tomada de Decisões no Estado Democrático de Direito

 

Com o desenvolvimento tecnológico ocasionado pela Quarta Revolução Industrial[1], responsável pelo desenvolvimento exponencial dos algoritmos e sistemas de inteligência artificial, houve uma grande mudança em várias formas de interação humana. Houve a expansão do comércio online, as relações humanas começaram a ser virtuais, a comunicação passou a ser realizada através de chats e até mesmo a telemedicina foi criada. Todas essas mudanças tinham um objetivo em comum: automatizar tarefas onerosas, tornando-as mais rápidas.

De fato, os algoritmos começaram a ser implementados no processo de tomada de decisões financeiras, como na concessão de crédito, bem como no campo contratual, com os smart contracts, a área médica foi impactada com a implementação e utilização de robôs capazes de realizar procedimentos cirúrgicos e com a telemedicina – já abordada anteriormente – e também nas mídias sociais, com a utilização de algoritmos para direcionar as áreas de interesse e de consumo do usuário. A área jurídica foi altamente atingida com a implementação de novas tecnologias, também, tendo em vista que, desde a pandemia de COVID-19, ocorreu um movimento de automatização procedimental decorrente da virtualização dos processos. Ainda, muito se fala sobre a possibilidade de implementação de algoritmos junto ao processo de tomada de decisões judiciais, com o objetivo de gerar mais eficiência e celeridade processual.

Isso tem gerado inúmeros debates, principalmente no que tange as alegações de tendências discriminatórias dos algoritmos, acarretando em um desrespeito aos direitos fundamentais. Sem entrar no mérito dos vieses algorítmicos, decorrentes das informações coletadas nos bancos de dados os quais alimentam e gerem o funcionamento dos referidos sistemas inteligentes, um debate crescente tem girado em torno da transparência algorítmica como forma de combater esses vieses.

Ocorre que, de acordo com a própria previsão Constitucional abstraída do art. 5º, inc. XIV, “é assegurado a todos o acesso à informação e resguardado o sigilo da fonte, quando necessário ao exercício profissional”, alcançando o direito à informação a condição de direito fundamental, sendo que através da análise desse dispositivo pode-se concluir que quaisquer agentes públicos têm o dever de prestar contas para com a sociedade, de vez que o cidadão detém a garantia constitucional do direito de acessar a informação oficial.

Ainda, cabe aqui salientar que o Princípio da Publicidade dos Atos Processuais está totalmente associada à questão da transparência e da accountability, uma vez que representam, na prática, um direito fundamental, com acesso à informação devidamente assegurados a todos, mediante previsão constitucional.

Ocorre que é o acesso à informação que possibilita o controle interno e externo das atividades dos entes públicos, para se averiguar a legalidade de certos procedimentos adotados. Assim, a accountability nada mais é do que a “possibilidade de fiscalização das atividades desempenhadas pelo Estado, elemento intrínseco da própria democracia”[2].

A própria ideia da accountability é decorrente do Estado Democrático de Direito, onde todo cidadão tem o direito de participar e conhecer o funcionamento e os mecanismos utilizados para tomar decisões. Isso fica evidente no Sistema de Justiça, uma vez que a transparência e a publicidade estão presentes em todos os âmbitos. O próprio Devido Processo Legal, que se refere ao modelo constitucional de processo[3], exige transparência em todos os atos praticados pelo Poder Judiciário. O próprio ordenamento jurídico brasileiro adotou a ideia do dever de fundamentação das decisões judiciais em decorrência da necessidade de transparência e fiscalização dos atos processuais, demonstrando quais foram os parâmetros adotados pelo julgador no processo de tomada da decisão.

Embora a transparência seja um preceito processual e constitucional, ela pode ser estendida a qualquer processo de tomada de decisões, judicial ou não, pois é necessário que todos os processos estejam em conformidade com os preceitos da Constituição Federal e respeitem a ideia de um devido processo legal.

Nesse sentido, uma proposta muito interessante surgiu nos últimos tempos: a Proposta de Emenda Constitucional 29/2023[4], com o objetivo de incluir no rol de direitos fundamentais a proteção à integridade mental e à transparência algorítmica. À primeira vista, pode parecer estranho juntar dois temas distintos na mesma proposta, mas ao consultar a justificação do texto, percebe-se que ambos os assuntos possuem correlação.

Sob a justificativa de que há um novo direito humano, o neurodireito, a proposta busca estabelecer um controle sobre a interferência direta dos processos algorítmicos dos sistemas de inteligência artificial e do desenvolvimento tecnológico, uma vez que não existe uma tutela jurídica suficiente para proteger a integridade física e mental dos usuários diante do rápido avanço da neurotecnologia e do uso de algoritmos em sistemas de inteligência artificial.

A ideia é decorrente da expansão das redes sociais que, muitas vezes, acabam influenciando a integridade física e mental de seus usuários, uma vez que, de acordo com alguns estudiosos sobre o tema, seus algoritmos são programados com o objetivo de que o usuário se torne dependente da ferramenta, bem como que siga um certo padrão comportamental indicado pelos próprios anúncios e pelo conteúdo direcionado pelo sistema de inteligência artificial.

Essa iniciativa tem um objetivo relevante em si: propor um desenvolvimento ético dos sistemas de inteligência artificial, tema amplamente debatido. No âmbito do direito, muitos debates concluem que a transparência algorítmica trará benefícios, pois permitirá que todos os cidadãos compreendam o funcionamento do sistema ao qual estão sujeitos nos mais diversos tipos de processos de tomada de decisão – tanto decisões administrativas quanto judiciais.

Assim, fica claro que incluir a transparência algorítmica no rol de direitos fundamentais é um passo importante, pois somente com a garantia constitucional da publicidade algorítmica, que antes estava protegida pelo sigilo comercial, será possível cumprir a ideia de devido processo legal[5], ou devido processo digital. Além disso, serão necessários maiores esforços por parte do Poder Público para obter essa transparência algorítmica, que atualmente não existe nos sistemas de iniciativa privada e que podem conter vieses devido à impossibilidade de conhecer os algoritmos utilizados e as caixas-pretas dos sistemas de inteligência artificial.

No entanto, argumenta-se aqui que a transparência algorítmica por si só não é suficiente para proteger os vulneráveis, especialmente os vulneráveis digitalmente, diante do desenvolvimento tecnológico. A simples disponibilização de um código-fonte ou divulgação do algoritmo utilizado no sistema tecnológico será algo incompreensível para uma pessoa que não possui conhecimentos técnicos de programação. Embora o desenvolvimento tecnológico esteja gerando a necessidade de que todos tenham um conhecimento mínimo sobre o uso de tecnologias, o cidadão não pode ser obrigado a entender o funcionamento de um algoritmo. O Estado deve fornecer meios adequados para que haja compreensão do seu funcionamento.

Uma vez que o próprio processo judicial tem se utilizado de sistemas inteligentes para automatizar o seu funcionamento – podendo ser citado aqui, como exemplo, o sistema Victor[6] – há uma necessidade imposta pela Constituição Federal, a qual é adotada pelo próprio Código de Processo Civil[7], que o referido sistema utilizado seja transparente e que possibilite a sua fiscalização e auditoria, tudo isso em consonância ao Devido Processo Legal.

Deve-se lembrar que, todo sistema utilizado por qualquer Ente Público, por si só, já deve ser transparente e disponibilizar o seu código-fonte de forma fácil e acessiva a toda população destinatária daquele serviço prestado, sob pena de desrespeitar os próprios Direitos Fundamentais previstos na Constituição Federal, como a publicidade dos atos processuais, e os princípios da Administração Pública. Entretanto, isso não basta.

Com a mera liberação do código-fonte, com uma transparência de forma simples, as partes deverão contratar profissionais experts para a realização da fiscalização e auditoria do sistema. Isso acaba por infringir o devido processo legal no momento em que há um desrespeito ao princípio da isonomia, ou seja, não haverá uma paridade de armas, tendo em vista que a parte mais hipossuficiente não possuirá condições financeiras de arcar com o valor necessário para contratação do profissional habilitado para tanto.

Por outro lado, como mencionado anteriormente, o Estado Democrático de Direito impõe uma participação democrática de todos os seus agentes, ou seja, todos têm o direito de entender como funciona o sistema de inteligência artificial, e esse direito só será efetivado através da explicabilidade do sistema, que diz respeito a própria ideia de accountability.

Portanto, a partir da perspectiva hermenêutica que é trazida a importância de observação dos princípios constitucionais, indispensáveis no processo de tomada de decisão. De acordo com Lenio Luiz Streck[8], a interpretação do direito não é filologia, tendo em vista a amplitude de questões que se destacam no processo de compreensão do direito. Diante da observância dos princípios constitucionais é que se pode resgatar a construção da interação cotidiana e diminuir a possibilidade de expansão de sentidos semânticos do texto[9], evitando que sejam proferidas decisões em dissonância com o devido processo legal. Apenas com uma accountability efetiva, através da fiscalização dos atos praticados pelos sistemas, que poderá ser procedida na análise dos parâmetros adotados pelos sistemas de Inteligência Artificial no processo de tomada de decisões e evitar que haja qualquer viés aplicado, infringindo os demais direitos fundamentais.

Sendo assim, incluir a transparência algorítmica como um direito fundamental já é um avanço para a regulamentação dos sistemas de inteligência artificial. No entanto, é necessário empregar maiores esforços para que o princípio da transparência algorítmica não seja inútil. Além da transparência, é necessário ter uma explicabilidade do sistema, em conformidade com o devido processo legal. Através da explicabilidade, será possível verificar se o sistema respeita os preceitos constitucionais, questioná-lo e responsabilizá-lo por eventuais danos causados pelos seus vieses.

 

Notas e Referências:

[1] SCHWAB, Klaus. A quarta revolução industrial. Tradutor Daniel Moreira Miranda. São Paulo: Edipro, 2016.

[2] LUCON, Paulo Henrique dos Santos. Processo Virtual, Transparência e Accountability. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro. Inteligência Artificial e Direito Processual: Os Impactos da Virada Tecnológica no Direito Processual. Salvador: Editora JusPodivm, 2020, p. 458-459.

[3] ANDOLINA, Italo; VIGNERA, Giuseppe. Il modelo costituzionale del processo civile italiano. Torino: Giappichelli Editore, 1990.

[4] BRASIL. Senado Federal. Proposta de Emenda à Constituição nº 29/2023. Altera a Constituição Federal para incluir, entre os direitos e garantias fundamentais, a proteção à integridade mental e à transparência algorítmica. Disponível em: https://www25.senado.leg.br/web/atividade/materias/-/materia/158095. Acesso em: 16 ago. 2023.

[5] PASSOS, José Joaquim Calmon de. O devido processo legal e o duplo grau de jurisdição, São Paulo, Saraiva, 1981

[6] O Brasil possui o primeiro Tribunal Constitucional, no mundo, a utilizar IA, o Victor, no STF, que separa e classifica peças processuais para identificar os casos de recurso extraordinário. O programa Victor apresentou, quando começou, no ano de 2018, uma anuidade de 85%, e hoje alcança 95%. Ainda, ele é responsável pela identificação de processos de repercussão geral. (RIBEIRO, Darci Guimarães. O Novo Processo Civil Brasileiro: presente e futuro. Londrina: Thoth, 2020, p. 224.)

[7] Lembrando que o próprio Código de Processo Civil de 2015 prevê, em seu art. 1º, que o Processo Civil será ordenado, disciplinado e interpretado conforme os valores e as normas fundamentais estabelecidos na Constituição Federal, mostrando o movimento de Constitucionalização do Direito Processual iniciado por Eduardo Couture, no seu Proyecto de Código de Procedimiento Civil para Uruguay, de 1945, bem como no seu primeiro ensaio tratando do tema nessa perspectiva, Las garantías constitucionales del proceso civil, publicado em 1948, sendo o tema saudado com grande entusiasmo por Enrico Tullio Liebman em 1952 na Rivista di Diritto Processuale. Logo de início, Couture afirma que o objetivo do seu texto é mostrar “em que medida o Código de Processo Civil e suas leis complementares são o texto que regulamenta a garantia da justiça contida na Constituição” (COUTURE, Eduardo. Las garantías constitucionales del proceso civil. In: COUTURE, Eduardo. Estudios de derecho procesal civil. Buenos Aires: Ediar, 1948, t. I, p. 19)

[8] STRECK, Lenio Luiz. O que é isto: decido conforme minha consciência? Porto Alegre: Livraria do Advogado, 2013, p. 75

[9] FROHLICH, Afonso Vinício Kirschner; ENGELMANN, Wilson. Inteligência Artificial e Decisão Judicial: Diálogo entre benefícios e riscos. 1. ed. Curitiba: Appris, 2020, p. 102-103

Colunista

Avalie o post!

Incrível
6
Legal
1
Amei
5
Hmm...
0
Hahaha
0
Alana Engelmann
Mestra em Direito Público pela Unisinos. Especialista em Novo Processo Civil pela Unisinos. Pesquisadora junto a Escola de Processo da Unisinos. Conselheira da Subseção de Sapiranga da OAB/RS. Presidente da Comissão Especial de Direito Processual Civil da Subseção de Sapiranga da OAB/RS. Membra efetiva do Instituto Brasileiro de Direito Processual (IBDP) e da Associação Brasileira Elas no Processo.

    Você pode gostar...

    Leave a reply

    O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

    18 + 6 =