Mágicas no mundo real.

Sempre que um artista apresenta seu novo número de mágica, uma plateia ávida espera por algo extraordinário. Minha filha teve uma primeira experiência nesta direção. Chegou da escola essa semana com o famoso — ou nem tanto — número das cordas e seus nós.

Ao praticar seu espetáculo, o mágico ia comentando sobre o feito. Primeiro deixando claro que a menor distância entre dois pontos será sempre uma linha reta. Algo a contestar quando avaliamos rotas aéreas, onde essa máxima é desconstruída pela angulação ou esfericidade da terra — a geometria euclidiana que o mágico pregava às crianças é substituída pela riemaniana, onde por meio de ângulos e curvas chegamos mais rápido de um ponto a outro.

Mostrava também que havia algo a mais neste caminho. Um nó. Na verdade, dois. E a mágica ia se desenvolvendo até que os nós sumiam, a corda voltava a sua essência linear.

Na vida real as coisas não são diferentes — e nem sempre temos esse "passe de mágica" para desatar os nós, que podemos mudar para percalços que enfrentamos.

Quando a IA entra no jogo

Essa semana, o assunto em questão passou por uma decisão judicial onde existem fortes indícios de uso da inteligência artificial por parte do magistrado para definir os rumos de tal sentença.

O CNJ publicou a resolução 332/2020 para tratar, entre outros assuntos, da governança na produção e uso de Inteligência Artificial na justiça. Estabeleceu diretrizes aos órgãos do poder judiciário dispondo sobre a ética, a transparência e a governança no seu uso, adotando para tal os cinco princípios contidos na Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais:

• Princípio do respeito aos direitos fundamentais;
• Princípio da não-discriminação;
• Princípio da qualidade e segurança no processamento de decisões e dados judiciais;
• Princípio da transparência, imparcialidade e justiça;
• Princípio do controle do usuário.

Ocorre que na decisão citada, segundo o advogado da parte contrária, usou-se como referência leis inexistentes que foram citadas pela IA como parte de uma realidade paralela. Uma decisão tendenciosa que fere o item da resolução sobre qualidade e segurança. Abre também uma discussão maior sobre até que ponto o próprio magistrado quis tentar ludibriar as partes, facilitar seu trabalho ou mesmo — o pior dos cenários — que tenha sido ludibriado pela IA.

O ponto que importa

Esse caso nos faz perceber em que estágio estamos nos expondo como sociedade para, em um segundo momento, darmos a uma máquina ou a um conjunto delas a razão e a decisão. Seja por mero comodismo. Seja por um desejo maior de desfrutar o que a tecnologia tem de novo para nós.

O que fica deste e de tantos outros episódios é que tratar a inteligência artificial como algo blasé, trivial não é a melhor forma, o melhor caminho. Estamos nos dirigindo para uma posição menos confortável e perigosa, onde a máquina começa a fazer parte integrante — ainda mais — de nossas vidas.

O que dizer dos robôs de limpeza que já estão dentro de nossas casas? Das versões simples que conhecem nosso ambiente e desviam dos obstáculos, às mais complexas que escaneiam e gravam o que fazem, o que veem.

Não estamos sozinhos. Nos permitimos companhias. As máquinas já estão em muitos locais e realizando tarefas diversas — das triviais às mais robustas — e nos conhecendo a todos. Hábitos, costumes e razão.