Beatriz Paccini*
Com o avanço da tecnologia, cresce também o uso de algoritmos, que tratam dados pessoais e tomam decisões automatizadas. Seja para o acesso a crédito, a contratação de um seguro, a participação em um processo seletivo, dentre diversos outros exemplos, os algoritmos já fazem parte do cotidiano das pessoas.
Contudo, as decisões automatizadas podem gerar efeitos discriminatórios, como mostra estudo publicado em 2019 pela VoxEU. Os autores analisaram os efeitos do uso de aprendizagem automática (machine learning) na concessão de crédito imobiliário nos Estados Unidos da América e os resultados demonstraram que pessoas negras e hispânicas tinham menor probabilidade de se beneficiarem de taxas de juros mais baixas do que pessoas não-hispânicas, brancas ou asiáticas. Assim, os algoritmos geravam um efeito relevante na distribuição de crédito perante os consumidores, reforçando privilégios de determinados grupos em detrimento de outros.
Nota-se, assim, que, diante da realidade de tratamento excessivo de dados pessoais na qual estamos inseridos, somos julgados não só por nossas características pessoais e condutas individuais, mas também pelo grupo que estamos enquadrados. Ainda, a nossa persona digital, para além da nossa persona real, é constantemente julgada, sendo que na maioria das vezes não há uma efetiva transparência acerca do que é feito com os dados pessoais tratados por meio de algoritmos, o que afeta o pleno exercício de direitos fundamentais, como o direito à liberdade e à igualdade, previstos no art. 5º da Constituição Federal Brasileira.
Decisões automatizadas e as legislações
Diante deste cenário, surge a dúvida acerca de em que medida as legislações de proteção de dados são suficientes para lidar com os desafios trazidos pelas decisões automatizadas. Nessa linha, o Regulamento Geral de Proteção de Dados (RGPD), da União Europeia, e a Lei Geral de Proteção de Dados Pessoais (Lei 13.709/2018 – LGPD), em vigor no Brasil, garantem aos titulares o direito de obter explicações em relação às decisões automatizadas que envolvam o tratamento de seus dados pessoais.
O RGPD, por exemplo, garante em seu art. 22 que, em regra, o titular dos dados tem o direito de não ficar sujeito a nenhuma decisão automatizada que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar, salvo quando houver seu expresso consentimento. Ainda, é garantido ao titular o direito de revisão da decisão por meio de intervenção humana.
Já a LGPD, em seu art. 20, garante ao titular o direito de solicitar a revisão de decisões automatizadas que afetem seus interesses, sendo-lhe ainda assegurado o acesso a informações relativas aos critérios e procedimentos utilizados na tomada de decisão. Apesar de não garantir de forma expressa que a revisão deve ser feita por pessoa natural, como ocorre no RGPD, a LGPD traz instrumentos relevantes à proteção dos direitos dos titulares, como os princípios da não discriminação e da transparência e a possibilidade de reversão do ônus da prova.
Procedimento específico
Entretanto, nem o RGPD, nem a LGPD, trazem um procedimento específico a ser observado em caso de decisões automatizadas e de exercício do direito à explicação, além de não tratarem sobre os efeitos gerados pelas decisões automatizadas. Assim, as legislações de proteção de dados se apresentam como insuficientes para lidar com esses desafios. Cresce, portanto, a discussão a nível internacional sobre a regulamentação da inteligência artificial, sendo que no Brasil o Congresso Nacional discute alguns projetos de lei que têm esse objetivo, com destaque ao PL 21/2020, que estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil.
A realidade é que, enquanto não soubermos exatamente sobre a forma e as consequências acerca do tratamento de nossos dados pessoais, não seremos verdadeiramente livres. Ainda, apesar dos avanços da legislação, o desconhecimento, pelo legislador, sobre como de fato funcionam os algoritmos, a inteligência artificial e a aprendizagem automática e quais as consequências por eles geradas, prejudica a plena salvaguarda de nossos direitos fundamentais diante de decisões automatizadas.
Referências:
RGPD. Artigo 22. Decisões individuais automatizadas, incluindo definição de perfis. 1. O titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar. 2. O n.o 1 não se aplica se a decisão: a) For necessária para a celebração ou a execução de um contrato entre o titular dos dados e um responsável pelo tratamento; b) For autorizada pelo direito da União ou do Estado-Membro a que o responsável pelo tratamento estiver sujeito, e na qual estejam igualmente previstas medidas adequadas para salvaguardar os direitos e liberdades e os legítimos interesses do titular dos dados; ou c) For baseada no consentimento explícito do titular dos dados. 3. Nos casos a que se referem o n.o 2, alíneas a) e c), o responsável pelo tratamento aplica medidas adequadas para salvaguardar os direitos e liberdades e legítimos interesses do titular dos dados, designadamente o direito de, pelo menos, obter intervenção humana por parte do responsável, manifestar o seu ponto de vista e contestar a decisão. 4. As decisões a que se refere o n.o 2 não se baseiam nas categorias especiais de dados pessoais a que se refere o artigo 9.o, n.o 1, a não ser que o n.o 2, alínea a) ou g), do mesmo artigo sejam aplicáveis e sejam aplicadas medidas adequadas para salvaguardar os direitos e liberdades e os legítimos interesses do titular. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:32016R0679; Acesso em 10 Nov., 2022.
Art. 20. O titular dos dados tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou os aspectos de sua personalidade. § 1º O controlador deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial. § 2º Em caso de não oferecimento de informações de que trata o § 1º deste artigo baseado na observância de segredo comercial e industrial, a autoridade nacional poderá realizar auditoria para verificação de aspectos discriminatórios em tratamento automatizado de dados pessoais. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm; Acesso em 10 Nov., 2022.
Beatriz Paccini é pós-graduada em Contratos pela FGV/SP, com MBA em Administração pela FEARP-USP, além de ser mestranda na Faculdade de Direito de Ribeirão Preto – USP e pós-graduanda em Propriedade Intelectual, Direito do Entretenimento, Mídia e Moda, da ESA-OAB/SP. É sócia do escritório Brasil Salomão, com atuação nas áreas de Direito Empresarial, Propriedade Intelectual e Digital/Proteção de Dados.
