A Progress (Nasdaq: PRGS), fornecedora confiável de software para desenvolvimento de aplicações e infraestrutura, anuncia os resultados de sua pesquisa global “Data Bias: The Hidden Risk of AI” (“Enviesamento de dados: o risco escondido da IA”, em português). Conduzido pela empresa de pesquisa independente Insight Avenue, o estudo da Progress é baseado em entrevistas com mais de 640 profissionais de negócios e TI em todo o mundo, em cargos de direção e acima, que usam dados para tomar decisões e que usam ou planejam usar inteligência artificial (IA) e aprendizado de máquina (ML ou machine learning, em inglês) para apoiar suas tomadas de decisão. O relatório completo e as conclusões podem ser encontrados aqui.
Os vieses da dados (ou data bias, em inglês) muitas vezes são herdados por experiências culturais e pessoais daqueles que constroem os modelos de inteligência artificial e de machine learning, produzindo resultados inesperados e potencialmente prejudiciais às pessoas e organizações. No entanto, apesar do risco de armadilhas legais e financeiras, há uma falta de compreensão em torno do treinamento, processos e tecnologia necessários para lidar com esse fenômeno de maneira eficaz.
A pesquisa indica que, no mundo, 78% dos decisores empresariais e de TI acreditam que o viés de dados se tornará uma preocupação maior à medida que o uso de IA/ML aumenta, mas apenas 13% deles estão atualmente tratando disso e têm um processo de avaliação contínuo. No Brasil, 57% das organizações afirmam sofrer com o enviesamento de dados, 82% acreditam que ter uma abordagem sustentável à questão permitirá o crescimento da confiança na automação de decisões, e 75% confirmam que precisam fazer mais para lidar com esse problema.
Quando questionados sobre os benefícios de tomar medidas para evitar enviesamento de dados, os destaques apontados por líderes de negócios e TI brasileiros são:
- 96% deles acreditam em um potencial aumento das oportunidades de mercado;
- 92% dizem que isso trará mais atratividade para o cliente e uma tomada de decisão mais eficaz;
- 90% pensam que isso ajudará a melhorar a diversidade e a inclusão.
Entre os principais riscos de não abordar adequadamente o viés de dados:
- 61% dos executivos brasileiros citam possíveis danos à reputação e credibilidade;
- 57% deles estão preocupados com problemas de segurança e governança.
Além disso, entre as maiores barreiras apontadas por eles:
- 47% dos executivos enfrentam uma falta de ferramentas para identificar e mitigar o fenômeno;
- 45% sentem que não têm a compreensão sobre a melhor maneira de evitar o viés de dados;
- 43% mencionam a falta de conscientização de possíveis enviesamentos.
Os resultados da pesquisa também mostram que:
- 80% dos líderes brasileiros acreditam que a ética em torno da automação de decisões se tornará mais importante e urgente nos próximos dois anos;
- 78% das organizações no Brasil preveem tornar-se mais dependentes de IA/ML para a tomada de decisão nos próximos anos;
- 71% das empresas brasileiras estão trabalhando para garantir a integridade dos conjuntos de dados a fim de evitar e resolver problemas com o enviesamento de dados.
“Os dados do estudo são convincentes: há uma preocupação crescente e muito a ser feito em relação ao enviesamento de dados no Brasil. As informações deixam claro como este fenômeno pode afetar negativamente as operações comerciais e a tomada de decisões em todos os setores”, comenta Francisco Larez, vice-presidente da Progress para América Latina e Caribe. “À medida que identificamos novas capacidades de inteligência artificial e machine learning, queremos apoiar nossos clientes para garantir que eles tenham as informações corretas para tomar as melhores decisões. Nesse sentido, este levantamento da Progress é revelador”, completa.
Sobre a pesquisa “Data Bias: The Hidden Risk of AI”
Encomendada pela Progress, a pesquisa “Data Bias: The Hidden Risk of AI” foi conduzida pela Insight
Avenue, uma empresa de pesquisa sediada no Reino Unido, especializada em pesquisa de tecnologia business-to-business. Os resultados são baseados em entrevistas com profissionais de negócios e TI localizados nas Américas, Europa e Ásia, com foco no uso de dados na tomada de decisões. Estes profissionais vêm de organizações com mais de 500 funcionários para entender melhor a conscientização geral sobre o viés de dados, como isso impacta as empresas e o que elas têm feito para lidar com a questão.