A Inteligência Artificial (IA) vem sendo utilizada cada vez mais na solução de casos jurídicos. Mas quem controla e se responsabiliza pelos algoritmos no caso de respostas racistas, machistas, sexistas ou discriminatórias? Sabe-se que a discriminação socioeconômica, racial ou de gênero vem ocorrendo de forma frequente na utilização do sistema de IA, em especial em casos jurídicos, envolvendo dados obtidos por meio da mídia digital.

O fato é que as tecnologias digitais de comunicação e a ideologia do Vale do Silício são ‘racializadas’, pois reforçam a produção de um imaginário social racista. Vincula-se a essa questão a problemática da dimensão ética e moral da automação e digitalização, envolvendo a incorporação aos sistemas inteligentes de valores humanos (machine ethics).

Questiona-se: o desenvolvimento indiscriminado, desvinculado de uma fundamentação superior, ética e moral do Direito em sua aplicação por meio da Inteligência Artificial pode indicar o fim da humanidade? E no caso de um dano a um ser humano produzido por Inteligência Artificial quem se responsabiliza? O Direito sendo a expressão da “humanitas” pode ser aplicado de forma legítima por meio da IA?

Willis S. Guerra Filho, em artigo denominado A crise autoimunitária da nova ordem internacional trabalha com a questão da imunidade no Direito, sendo este tema objeto de estudos por diversos filósofos e pensadores da mais alta estirpe, tais como J. Derrida, Roberto Esposito, entre outros. Trata-se, em suma, de uma espécie de crise alérgica, quando o Direito, ao invés de proteger seus membros, seus direitos humanos e fundamentais, os ataca.

Vivemos na época das imagens técnicas, na era da superficialidade, do fetichismo do virtual, e ao tentarmos sair da redução dos conceitos, aprisionados que estávamos na linguagem, caímos em uma prisão ainda pior, mais alienante e por isso mais perigosa, por se fazer crer que seja real aquilo que nem mais representação poderia ter, já que ainda mais distante da realidade.

Verifica-se no Direito o predomínio da técnica e do pensamento meramente científico e cartesiano, positivista, e de um modo geral a robotização e a mecanização do pensamento, reduzindo-se a realidade jurídica a fórmulas matemáticas, a um simulacro. Revela-se aqui uma crise de paradigmas no Direito e a necessidade de uma transmutação, a fim de encontrarmos alternativas a uma possível morte do homem e da história, sendo esta uma condição da nossa possibilidade de existência, ante a nossa substituição por máquinas e robôs.

Sobre a autora: advogada, professora universitária e artista plástica. Pós-doutora em Ciências Sociais pelo CES – Universidade de Coimbra; pós-doutoranda em Ciências Sociais-PUC-SP. Doutora em Direito pela PUC-SP. Doutora pela Universidade do Minho – Braga-Portugal. Doutora em Filosofia do Direito pela Universidade de Salento – Lecce-Itália