Mostrar os caminhos de como fazer uso ético e responsável dos dados pessoais é necessário, pois, com a larga escala de informações e a velocidade com que a tecnologia (em especial a internet) permite a disseminação delas, além dos inúmeros benefícios, há muitos prejuízos à sociedade e aos próprios cidadãos que têm seus dados compartilhados descontroladamente.

Por outro lado, pode-se ter um efeito negativo, como no caso de uma pessoa que não quer e-mail promocionais, e solicita o descadastramento, mas continua a receber publicidade, outras que são persuadidas inconscientemente a comprar, sem precisar, podendo ser prejudicadas financeiramente. Ainda, a perfilização com vieses discriminatórios assim como a possibilidade de golpes contra consumidores são outras hipóteses de prejuízos sociais e individuais.

Nessa esteira, podemos identificar que a lei não veio para obstar as empresas de terem um banco de dados e de encaminharem e-mails publicitários direcionados aos seus clientes, mas para regulamentar como essas e outras atividades com dados pessoais devem ser feitas, respeitando o livre desenvolvimento da personalidade humana. Para tanto, a lei estabelece a adoção de medidas – como a transparência aos clientes sobre o tratamento de dados, a garantia de descadastramentos (direito de oposição ou, quando o caso, revogação do consentimento), controle de acesso às bases de dados, entre outras, dispostas na governança de privacidade e a proteção de dados existente na organização.

Da mesma forma que a iniciativa privada deve ter esse cuidado, sob pena de ser responsabilizada administrativamente, perante a Autoridade Nacional de Proteção de Dados, ou judicialmente, perante o Poder Judiciário, toda a administração pública e seus órgãos devem estar adequados à legislação, realizando avaliações e implementações internas, sob pena de, igualmente, de responsabilização.

Panorama do uso da IA no Judiciário sob a perspectiva da LGPD

Nesse aspecto, o Poder Judiciário ganha um enfoque ainda maior, pois, conforme citado acima, ele é responsável por decidir litígios envolvendo o uso de dados pessoais, ao mesmo tempo em que todas as suas atividades devem estar adequadas à LGPD, inclusive a própria prestação jurisdicional. Assim, há uma cobrança social implícita de que, a forma como o Poder Judiciário aplica a lei internamente, refletirá na forma que ele exigirá das partes no processo judicial. Consequentemente, tem-se a importância de refletir sobre a inteligência artificial no Poder Judiciário sob a perspectiva da Lei Geral de Proteção de Dados.

No Brasil, desde 2020 [1], o Conselho Nacional de Justiça (CNJ) já regulamenta o uso da IA pelos órgãos judiciários e existem diversas situações de uso, por exemplo, o “Robô VitórIA”, utilizado pelo STF e que tem por objetivo “ampliar o conhecimento sobre o perfil dos processos recebidos no STF e permitir o tratamento conjunto de temas repetidos ou similares” [2].

É inequívoco que a inteligência artificial veio para romper barreiras, otimizar processos, liberar pessoas de realizar serviços mecânicos, inclusive desburocratizar atividades jurisdicionais, ainda mais considerando as metas que precisam ser cumpridas em um ambiente com um alto volume de serviços, tal como é a realidade do Poder Judiciário, entretanto, esse uso deve ser consciente.

Primeiramente, deve-se compreender que quando se insere o processo judicial ou parte dele em uma ferramenta para auxiliar em atividades como resumos de processos [3], minutas de sentenças, cálculos trabalhistas ou identificação se existiu trabalho aos domingos e feriados, enfim, qualquer atividade com o processo que contenha informações de pessoas naturais, o magistrado ou o servidor público estará tratando dados pessoais.

Especificamente, estará compartilhando os dados pessoais internamente, se a plataforma for desenvolvida pelo tribunal, ou compartilhando externamente, se for uma plataforma de desenvolvedor externo ao órgão. Neste último aspecto, aumenta-se a complexidade do tratamento quando se fala em inteligência artificial generativa [4] em que as informações passam a alimentar a ferramenta e a serem armazenadas na base de dados da IA.

Quando a plataforma é desenvolvida pelo tribunal, deve-se pensar em privacy by design, ou seja, garantir a privacidade e proteção de dados desde a sua concepção. Enquanto, se for utilizar uma plataforma já existente no mercado, como “ChatGPT” (OpenAI), “Gemini” (Google) ou “Copilot” (Microsoft), é imprescindível diligenciar a conformidade à LGPD e às Políticas Internas aprovadas no Órgão, tanto para mapear os riscos, como se eximir de responsabilidades, aplicando-se o privacy by default (privacidade por padrão).

Isto, pois, existe o risco de expor os titulares dos dados a atividades incompatíveis com as inicialmente pretendidas, por exemplo, listas discriminatórias de litigantes trabalhistas ou as partes serem vítimas de golpes. Além de situações, como o fato a soberania do país ficar exposta ao se realizar o compartilhamento e armazenamento de dados de dentro da administração pública — que envolvem, na maioria, cidadãos brasileiros — se os data centers dos desenvolvedores externos estiverem localizados em países que não atendem às diretrizes da LGPD e ao regulamento da ANPD [5] sobre transferência internacional de dados.

Para ler o artigo na íntegra, acesse aqui.

Fonte: Conjur