"A importância dos recursos eletrônicos sobre a vida humana é inegável, porém ainda é preciso ter cuidados éticos”.  Essa é a análise da presidente da Comissão de Direitos Humanos da OAB SP, Priscila Beltrame, sobre a Inteligência Artificial (IA) que não pode ultrapassar e nem violar os direitos dos cidadãos. 

Para Beltrame, a exposição descomedida de dados pessoais, o perigo de disseminação de desinformação e a criação de conteúdos falsos devem sempre ser considerados quando existe a utilização da tecnologia.

Por outro lado, a presidente da Comissão lembra que no ramo jurídico, a Inteligência Artificial possibilita o surgimento de uma prática mais ágil, com a automação de tarefas e a análise avançada de dados, permitindo um resultado mais assertivo. 

Mesmo com essa facilidade, Beltrame acredita que existe um despreparo não só dessa esfera judiciária, como também do Executivo, para lidar e combater de forma efetiva as eventuais violações e resguardar a sociedade.  Em sua visão, são necessárias mudanças não só jurídicas, mas também sociais e políticas, já que o próprio Estado, por vezes, também é um violador de direitos.

Outro ponto alertado pela presidente da Comissão, é a dificuldade de lutar contra o racismo, a transfobia, a desigualdade de gênero e a violência. Ela ressalta ainda que é imprescindível a regulamentação do uso dos dados para garantir o respeito aos direitos dos cidadãos e impedir um vigilantismo estatal.

Leia a seguir, a entrevista na íntegra com a presidente da Comissão de Direitos Humanos, Priscila Beltrame 

Um pouco do debate filosófico por trás do tema de Inteligência Artificial: qual sua visão sobre os aspectos éticos envolvendo Inteligência Artificial? O quanto os últimos capítulos da inovação tecnológica afetam, positiva ou negativamente, os direitos humanos e atuação da advocacia especializada nessa área?

É inquestionável que, na atualidade, o avanço tecnológico tenha possibilitado imensuráveis benesses à sociedade, em seus diferentes aspectos. Pesquisas indicam, inclusive, uma redução nos índices de pobreza extrema e um aumento na expectativa de vida humana.

Entretanto, vê-se também uma série de desafios éticos, que precisam ser cuidadosamente enfrentados, tendo em vista os seus potenciais efeitos nefastos, que podem, certamente, revelar-se em sérias ameaças ao Estado Democrático de Direito.

Dentre eles, é possível destacarmos o risco de perpetuação dos preconceitos existentes em nossa sociedade, através da parametrização dos algoritmos; a exposição descomedida de dados pessoais sensíveis, resultando em violações de privacidade; a dificuldade em atribuir responsabilização por decisões incorretas e o perigo de disseminação de desinformação e criação de conteúdos falsos.

Deste modo, com o intuito de salvaguardar os direitos humanos, tem-se que o desenvolvimento e a utilização de sistemas de inteligência artificial devem pautar-se em aspectos morais e valores humanos, que perpassam por uma educação crítica, propensa a eliminar, desde os primeiros anos de escolarização, os fenômenos negativos que permeiam a nossa sociedade.

Em paralelo, necessário destacar que os advogados, indispensáveis à administração da justiça e seus incansáveis defensores, desempenham papel fundamental na colaboração harmoniosa entre IA e o acesso a direitos, já que esse trabalho conjunto possibilita o surgimento de uma prática jurídica mais ágil, com a automação de tarefas e a análise avançada de dados, permitindo aos profissionais do direito a concentração de energias em aspectos mais estratégicos e consultivos de suas práticas.

Que tipo de questões - mais uma vez, tanto negativas quanto positivas - têm surgido, no seu dia a dia de trabalho, em torno dos temas de inovação, no geral, e inteligência artificial, no particular?

O surgimento de cada novo mecanismo tecnológico tem trazido consigo inúmeras questões quanto aos seus benefícios e malefícios à sociedade.

No caso dos aplicativos de mensagens instantâneas, por exemplo, na mesma medida que auxilia de forma significativa na rapidez da comunicação estabelecida entre as pessoas, igualmente auxilia na disseminação de fakenews, situação agravada em nosso país, por ser o quinto no mundo que mais utiliza o aparelho celular e conter quase 80% da sua população que se utiliza do WhatsApp como fonte de informação.

No caso do ChatGPT, tem-se uma extrema velocidade na execução de conteúdos textuais dos mais diversos gêneros e uma facilitação no acesso às informações. Por outro lado, vemos também a substituição da interação humana, a utilização de fontes e não verificadas e o aumenta na ocorrência de plágio.

Por fim, trazendo o caso das deepfakes, não é possível ignorar os seus efeitos benéficos à sua utilização pela sociedade, pela indústria cinematográfica, de games, no campo educacional e empresarial. Entretanto, o uso indevido gera grande preocupação, especialmente pelo alastramento da violência de cunho sexual contra as mulheres e, no caso de autoridades públicas, na possibilidade de afetar negativamente as suas imagens, trilhando por um caminho de manipulação da sociedade e do Estado.

A advocacia está preparada para dar conta desse tipo de demanda envolvendo aspectos éticos e, no caso do Brasil, até direitos fundamentais previstos na Constituição, como liberdade, privacidade, intimidade e dignidade, entre outros? Como, onde e em que fontes os jovens profissionais devem buscar capacitação e conhecimento neste sentido?

Certamente os advogados brasileiros estão mais do que preparados para lidar com esses problemas. Como se sabe, o Brasil é um dos países com o maior arcabouço jurídico no sentido de defesa e promoção de direitos humanos e fundamentais, ainda que não haja uma regulamentação específica para os casos envolvendo IA.

Quanto aos jovens profissionais, podem buscar capacitação em cursos oferecidos pela OAB/SP, através da Escola Superior de Advocacia (ESA), que recentemente disponibilizou de forma gratuita no YouTube uma série de vídeos intitulados “Inteligência artificial e Direitos Humanos”, além de outras formações em caráter continuado que têm sido ofertadas, inclusive em formato presencial.

E com relação ao Judiciário, você acredita que esteja preparado para lidar com as questões éticas e morais envolvendo direitos fundamentais advindas da tecnologia?

Infelizmente, ainda vemos um certo despreparo não só do Poder Judiciário, mas também do Executivo, para lidar e combater de forma efetiva as eventuais violações e resguardar a nossa sociedade, como tratamos no artigo “Deepfakes e seus impactos sociojurídicos no Brasil: uma análise holística dos efeitos maléficos e as formas de enfrentamento por múltiplos atores”, no qual colaborei com o professor Gustavo Souza e o Arthur Menezes.

Nesse sentido, como um dos caminhos para a resolução dessa problemática, apresentamos a necessidade de peritos especializados e tecnologias antideepfakes, como mecanismo de assegurar a integridade das prova levadas a Juízo.

Deveria haver uma regulação para a inteligência artificial, em especial as modalidades generativas, ou ao menos algo como um manual de boas práticas?

O arcabouço legislativo atualmente existente em nosso país já contempla com bastante mestria a proteção dos direitos que devem ser protegidos e respeitados pelos utilizadores da inteligência artificial, tais como a privacidade, a intimidade, a honra e a imagem das pessoas. Isso não impede, todavia, que haja uma normatização.

Entretanto, certamente qualquer mecanismo que tenha o intuito de regulá-la será profundamente complexo, já que tal medida talvez não encontrasse amparo no princípio constitucional da liberdade, além de configurar manifesto atentado à manutenção do progresso social. Nesse contexto, estaríamos diante de uma restrição a um direito fundamental e, com isso, a alguns passos do que poderíamos chamar de brecha legal para o autoritarismo.

Se sim, é viável imaginar uma coordenação em escala global? E, nessa hipótese, ainda que haja ação, é possível regular o desenvolvimento da IA?

O desempenho de qualquer coordenação, na minha concepção, deve contar com uma gestão colegiada paritária, em que seja garantido, além da gestão governamental, a participação e o controle social, tidos no regime democrático como um fundamento da cidadania.

Isso porque, o desempenho dessa atividade unicamente pelo Estado poderia provocar o ceticismo da população, considerando que o monopólio sobre a tomada de decisões ficaria nas mãos dos governantes. Em uma conjuntura mais extrema, mas não impensável, poderíamos alcançar uma ditadura estatal velada.

 Quais são os principais temas e desafios da Comissão Permanente de Direitos Humanos da OAB SP neste momento?

Em aspecto geral, a CDH tem como objetivo receber e encaminhar denúncias de violações aos direitos humanos. O nosso desafio consiste em contribuir com o aprimoramento do desenvolvimento desses direitos, em detrimento das modificações apresentadas nos diferentes contextos da nossa sociedade.

Atualmente, vejo especialmente como temas urgentes a luta contra o racismo, a transfobia, a desigualdade de gênero, o desemprego e a violência.

Qual sua avaliação a respeito do momento atual dos direitos humanos no Brasil? Sua percepção é de avanço ou retrocesso?

O Brasil tem apresentado significativos avanços, principalmente em aspecto normativo, a partir da redemocratização de 1988, quando os direitos humanos tornaram-se imutáveis.

Desde então, diversos marcos orientadores têm guiado as ações governamentais para a defesa e promoção dos direitos humanos, em especial quanto à efetivação das diretrizes e princípios do Programa Nacional de Direitos Humanos.

Entretanto, são necessárias mudanças não só jurídicas, mas também sociais e políticas, já que não podemos nos esquecer de que o próprio Estado, por vezes, também é um violador de direitos.

Assim, para o fortalecimento de uma cultura de direitos, o nosso país ainda carece de um aumento dos esforços estatais, sobretudo com o direcionamento de um olhar mais atento para a formulação de políticas públicas que contemplem os interesses e especificidades da nossa população.

Os avanços em inteligência artificial têm permitido a ampliação do uso de tecnologias para vigilância e policiamento, como reconhecimento facial e leitura de placas de automóveis. A vigilância pode representar invasão de privacidade?

É aceitável a mitigação de alguns direitos, em detrimento da garantia de outros, em nome do interesse social e coletivo. No caso específico da vigilância e policiamento, o risco consistente no compartilhamento desautorizado dessas informações, na utilização desmedida e no desvirtuamento de finalidade.

Deste modo, a vigilância certamente pode representar invasão de privacidade e violar outros direitos basilares. Por esse motivo, é imprescindível a regulamentação do uso dos dados, de forma a garantir o respeito aos direitos dos cidadãos e impedir um vigilantismo estatal. Sugere-se, nesse aspecto, a designação de uma autoridade autônoma e fora da estrutura do governo, a exemplo do CNJ.

A Lei Geral de Proteção de Dados foi aprovada este ano e elenca direitos e deveres de titulares e controladores de dados. Como essa nova lei nos afeta no dia a dia? Como podemos proteger nossos dados?

A LGPD foi sancionada em 2018 e entrou em vigência de forma escalonada, tendo a sua aplicação integral a partir de agosto de 2021, inclusive quanto às sanções administrativas. O referido diploma legal cria regras para a coleta, uso, armazenamento e tratamento de dados pessoais, tanto por pessoas naturais, quanto por pessoa jurídica de direito público ou privado.

Por isso, é importante lembramos de que não só as empresas e o governo devem se preocupar com o adequado tratamento dos dados, mas também as pessoas físicas.

No dia a dia, a LGPD nos afeta em nossas diversas relações. No cenário individual, ela nos dá maior protagonismo, na qualidade de proprietários dos dados, conferindo-nos o poder de escolha. No entanto, é preciso estarmos atentos aos consentimentos que são concedidos por nós, inclusive no acesso diário a sites e aplicativos.

Alguns cuidados quanto à segurança das nossas informações, portanto, são necessários. Dentre eles, recomenda-se a utilização apenas dos nossos próprios aparelhos, para o acesso a bancos, por exemplo; manter um antivírus capaz de detectar invasores ou programas que possam colher dados; utilize senhas fortes e trocá-las com periodicidade; não compartilhar informações confidenciais por mensagens, e-mails ou telefone; não clicar em links suspeitos e desconfiar de remetentes desconhecidos.