Uso de IA nas seleções de emprego apresenta riscos de segurança

A Inteligência Artificial (IA), ferramenta cada vez mais presente nas seleções de emprego por oferecer alternativa interessante para a triagem de currículos, a redação de descrições de cargos e a realização de tarefas administrativas cotidianas, deve ser usada com bastante cuidado. Problemas como o viés algorítmico, a falta de transparência, a privacidade e a segurança de dados aparecem no processo de trabalho do setor de recursos humanos (RH) das empresas. Ao mesmo tempo em que pode beneficiar, o uso dessa tecnologia envolve questões críticas sobre justiça, preconceito e privacidade, adverte a ESET, empresa líder em detecção proativa de ameaças.
‎
O principal risco no uso da IA nos processos de seleção é o viés algorítmico. Se um modelo for treinado em um conjunto de dados históricos, os vieses históricos podem ser transferidos para o resultado do modelo. Por exemplo, se uma empresa usar a IA para procurar candidatos para um cargo de médico e os dados com os quais ela foi treinada mostrarem que 80% dos médicos que historicamente se encaixavam no cargo eram do sexo masculino, é mais provável que ela favoreça os candidatos do sexo masculino em detrimento das candidatas do sexo feminino, mesmo que eles sejam igualmente adequados para o cargo. Além disso, a IA pode superestimar o uso de palavras-chave e métricas ao analisar os currículos enviados. Diferentemente de um ser humano, um sistema de IA pode não captar as habilidades interpessoais e outras experiências ou traços de caráter que tornam alguém um candidato mais desejável para o cargo.
‎

Muitos algoritmos de IA operam como caixas pretas, o que significa que o processo de tomada de decisão é difícil de entender. Isso levanta questões sobre a responsabilidade e a capacidade de contestar ou corrigir resultados tendenciosos, gerando falta de transparência nas decisões tomadas. Além disso, para o uso da IA no recrutamento, os modelos precisam ser alimentados com grandes quantidades de dados. Garantir a confidencialidade e a segurança desses dados com medidas suficientes de segurança cibernética é fundamental para proteger os direitos de privacidade da empresa e dos indivíduos, bem como para cumprir regulamentos como o Regulamento Geral de Proteção de Dados (GDPR).
‎

Embora a IA possa melhorar a eficiência, a supervisão humana continua sendo essencial para evitar interpretações errôneas do conhecimento gerado pela IA. As organizações devem estabelecer estruturas claras de responsabilidade para lidar com erros algorítmicos ou violações éticas. Por fim, o uso de IA em contratações poderá resvalar em estruturas legais e regulatórias, incluindo leis antidiscriminação e regulamentos de proteção de dados. O não cumprimento desses requisitos pode resultar em repercussões legais e danos à reputação.
‎

Por outro lado, a IA também apresenta benefícios. Os modelos de IA podem automatizar tarefas repetitivas, como a triagem de currículos. Em vez de ler centenas de candidaturas para uma única vaga, um modelo de IA pode identificar palavras-chave que correspondam à descrição do cargo e selecionar automaticamente os candidatos com base no grau de adequação aos critérios desejados. Os chatbots e assistentes virtuais baseados em IA fornecem respostas imediatas às perguntas do candidato, garantindo uma experiência perfeita e envolvente durante todo o processo de contratação. Interações personalizadas e respostas rápidas contribuem para uma marca empregadora positiva.
‎

Se bem utilizadas, as ferramentas de IA podem usar a análise preditiva para identificar os melhores candidatos com base em dados históricos e métricas de desempenho. Ao analisar padrões em contratações bem-sucedidas, as organizações podem tomar decisões com base no desempenho de contratações anteriores. Algumas plataformas de IA afirmam mitigar o preconceito inconsciente na contratação ao tornar anônimas as informações dos candidatos, concentrando-se apenas nas qualificações e habilidades. Ao remover informações de identificação, como nome, gênero ou etnia, essas ferramentas podem promover a diversidade e a inclusão na contratação.

De acordo com a ESET, para colher os benefícios da ferramenta e, ao mesmo tempo, mitigar os riscos associados, as organizações precisam adotar uma abordagem holística para a IA. Isso inclui uma gestão ética, priorizando a justiça, a transparência e a responsabilidade no desenvolvimento e na implantação dos recursos em todos os sistemas de TI. Isso pode incluir a aplicação de algoritmos de detecção de preconceito e avaliações periódicas de justiça para identificar e abordar padrões discriminatórios.

Além disso, deve-se avaliar periodicamente o desempenho dos algoritmos de IA para identificar e mitigar vieses ou erros. Estabelecer mecanismos de feedback para que os candidatos relatem preocupações ou forneçam informações sobre suas experiências com os processos de recrutamento. Esse monitoramento permite que o processo seja identificado e retificado. Não obstante é fundamental incentivar a colaboração entre profissionais de RH, cientistas de dados, especialistas em ética e especialistas em direito para garantir uma abordagem multidisciplinar de como a IA funciona.

Deve-se, ainda, fornecer treinamento à equipe de recrutamento e à gerência de contratação sobre o uso ético da IA no recrutamento, incluindo a conscientização das estratégias de mitigação de preconceito e a importância da privacidade e segurança dos dados. Por fim, deve-se atualizar sobre os requisitos legais e regulatórios relacionados à IA em contratações e adaptar as políticas e práticas da empresa para garantir a conformidade total. Além disso, manter-se informado sobre riscos iminentes e quaisquer lacunas no sistema de IA que os criminosos cibernéticos possam explorar.

“A IA apresenta imensas oportunidades para transformar os processos de recrutamento, permitindo que as organizações identifiquem e atraiam os melhores talentos de forma mais eficaz e em menos tempo. No entanto, a adoção generalizada da IA no recrutamento também cria riscos relacionados a preconceitos, privacidade e responsabilidade. Ao implementar as melhores práticas, as organizações podem superar esses desafios e aproveitar a IA de forma responsável para atingir seus objetivos de contratação, mantendo os princípios de justiça, inclusão e autenticidade”, diz Camilo Gutierrez Amaya, chefe do Laboratório de Pesquisa da ESET América Latina.