Andrezza Fernanda Carlos*
Estamos vivendo em uma sociedade da informação (Revolução 4.0), em que os dados pessoais possuem extrema relevância no contexto mundial, assim como tem como pressuposto a utilização massiva de tecnologia aprimorada, em que a Inteligência Artificial é apenas uma dessas tecnologias.
Como é sabido, a Inteligência Artificial se utiliza da tecnologia de algoritmos, no qual sequências de linhas de códigos são inseridas pelo programador, a fim de filtrar quais conteúdos são relevantes para aquele negócio específico.
Essa inserção de algoritmos é totalmente condicionada à programação humana, eis que dependerá das “palavras-chaves” que serão inseridas pelo programador no desenvolvimento daquele software.
Utilização da inteligência artificial no recrutamento e seleção
Nesta linha de raciocínio, verifica-se que a Inteligência Artificial vem sendo utilizada em diversos segmentos da sociedade, com o fito de otimizar os processos e reduzir custos, de modo que tal tecnologia também vem sendo utilizada pelo setor de Recursos Humanos no recrutamento e seleção de candidatos, principalmente nas grandes corporações, em que há um elevado volume de recebimento de currículos.
Constata-se que grandes empresas têm comumente aplicado a Inteligência Artificial por meio da técnica de Machine Learning (aprendizado da máquina, no qual permite que o computador tome decisões com a ajuda de algoritmos que reconhecem padrões e tomam decisões), assim como tem utilizado chatbot para realizar entrevistas de forma online (o que faz com que haja um alcance maior de candidatos, que são entrevistados de qualquer lugar).
“Discriminação algorítmica”
O uso da Inteligência Artificial no recrutamento e seleção pode trazer muitos benefícios para as empresas, assim como efeitos negativos, a depender do que for programado, sendo de extrema importância uma calibragem dos algoritmos a fim de que não haja uma “discriminação algorítmica”.
Ora, em um recrutamento e seleção o programador utilizará palavras-chaves/filtros de acordo com as características da vaga e da “média de perfil” que o recrutador busca, o que a depender do que for programado pode-se reproduzir vieses preconceituosos como forma de filtrar os candidatos.
Como exemplo negativo, temos um fato ocorrido na Amazon no ano de 2014, quando se constatou que havia viés discriminatório na contratação por meio da Inteligência Artificial. Eis que o algoritmo favorecia homens brancos.
Referido escândalo causou um abalo reputacional na Amazon, que deixou de utilizar por um bom tempo a Inteligência Artificial no recrutamento e seleção.
Outro ponto que se merece destaque é que, muitas vezes, a utilização da Inteligência Artificial em um recrutamento e seleção, a depender do que foi programado, pode eliminar excelentes candidatos que estariam aptos para aquela vaga, sendo descartados sem que o recrutador tenha aquele contato pessoal tão importante neste momento, pois através do feeling muitas vezes se reconhecem bons profissionais.
Vieses discriminatórios e legislação
Com relação à inserção de algoritmos, é de suma importância que não sejam inseridos filtros com vieses discriminatórios, eis que a Lei 13709/18 trata com rigor o tratamento de dados pessoais sensíveis, que são justamente dados que podem ter caráter discriminatório, cujos dados estão insertos no artigo 5º, inciso II da referida lei.
Nesta linha de raciocínio, caso haja um tratamento de dados pessoais de forma discriminatória por meio da Inteligência Artificial, os agentes de tratamento poderão ser responsabilizados, seja na esfera administrativa, assim como através de propositura de demandas por parte do titular de dados lesado.
Revisão de decisões
Outro ponto que se faz necessário destacar é que a Lei 13709/18 traz, em seu artigo 20, regras específicas sobre o tratamento de dados realizadas através de decisões automatizadas, podendo, assim, o candidato, que for excluído de um processo seletivo realizado através do uso da Inteligência Artificial, requerer a revisão dessas decisões.
Ainda, pela análise do § 1º do artigo 20 da referida legislação, o candidato pode ainda solicitar informações claras e adequadas sobre quais foram os critérios adotados naquela decisão automatizada, o que significa dizer que os recrutadores não devem mais dar feedbacks genéricos ao eliminar o candidato. Eis que o candidato, por se tratar de um titular de dados, possui esse direito.
Oportuno ressaltar, ademais, que com o fito de coibir a discriminação algorítmica através da Inteligência Artificial, a ANPD poderá ainda, segundo o § 2º do artigo 20 da Lei 13709/18, se valer de auditoria para verificar se houve aspectos discriminatórios nas decisões tomadas de forma automatizada, tudo isso na hipótese de a organização não fornecer as informações claras ao titular de dados, quando instado a fazer e não o faz.
Sendo assim, mostra-se de suma importância que, para que a Inteligência Artificial seja uma aliada do Recursos Humanos como forma de otimizar seus processos, esta deve ser alimentada de forma periódica, devendo ainda respeitar todos os princípios e fundamentos da Lei 13709/18, a fim de que não haja tratamento irregular de dados pessoais, evitando-se assim discriminação algorítmica.
Andrezza Fernanda Carlos: é advogada de privacidade e proteção de dados, pós graduanda em Direito Digital. Membro do Comitê de Privacidade e Proteção de Dados da OAB – Seccional de São Paulo.
