A crescente aplicação da inteligência artificial no mundo dos negócios torna essencial a adoção de princípios sólidos que assegurem a ética e a responsabilidade no uso dessas novas tecnologias. Quem faz o alerta é Kriti Sharma. Escolhida para integrar a lista dos “30 abaixo dos 30” da revista Forbes, a executiva de apenas 29 anos é vice-presidente global de Bots e Inteligência Artificial da Sage, líder de mercado em softwares de gestão para pequenas e médias empresas.
Pensando nisso, a Sage estabeleceu cinco princípios, que passam a nortear toda atuação da companhia nesse segmento, agora reunidos no documento “A Ética do Código: 5 princípios éticos para desenvolver Inteligência Artificial para negócios”. Kriti explica que o estabelecimento de critérios claros nesse sentido mostra-se fundamental para proteger usuários e garantir segurança e confiabilidade dessas ferramentas. É ainda um caminho para que essas soluções sejam inclusivas e expressem a diversidade de seus usuários.
“Desenvolver chatbots e inteligência artificial que sejam úteis para os nossos clientes é a parte fácil. São muitos os questionamentos que emergem com o advento da inteligência artificial. Por isso, desenvolvemos nossa ação nesse segmento com base em uma série de valores. São esses princípios essenciais que, na nossa visão, contribuem para assegurar que nossos produtos serão seguros e éticos”, explica Kriti.
Os cinco princípios que norteiam mundialmente a estratégia da Sage para IA também guiam a atuação da companhia no Brasil. Por aqui, a empresa criou o Sage Labs, uma equipe encarregada de pensar em maneiras de empregar novas tecnologias em software que os clientes usam todos os dias. “Alguns dos funcionários são cientistas de dados e usam várias ferramentas colaborativas para entender como podemos servir melhor nossos clientes. Esta equipe também colabora para manter os nossos colegas atualizados com novos desenvolvimentos de tecnologia e como eles podem ser aplicados em nossos negócios”, esclarece David Pereira, VP de Product Engineering na Sage Brasil.
A Ética do Código: 5 princípios éticos para desenvolver Inteligência Artificial
no mundo dos negócios
1. IA deve refletir a diversidade de seus usuários.
Precisamos criar inteligência artificial que seja diversa em sua origem. Como comunidade industrial e tecnológica, temos de desenvolver mecanismos efetivos para barrar o preconceito e qualquer sentimento adverso que possam ser assimilados pela IA, de forma a assegurar que ela não irá perpetuar estereótipos. A não ser que tenhamos equipes, bases de dados e design cuja natureza seja a diversidade, estamos sob risco de repetir a desigualdade que marcou revoluções passadas.
2. IA deve ser responsável, assim como seus usuários
Nós aprendemos que os usuários estabelecem um relacionamento com a IA e começam a confiar na mesma após algumas poucas interações. Com a confiança, vem a responsabilidade. A IA precisa ser responsabilizada por suas ações e decisões, como se fosse um ser humano. Não se pode permitir que a tecnologia fique inteligente ao ponto de não ser responsável. Não aceitamos esse tipo de comportamento de outras profissões especializadas. Então, por que a tecnologia deveria ser a exceção?
3. Recompense a IA por “mostrar o seu funcionamento”
Qualquer sistema de IA que aprenda com exemplos ruins pode acabar se tornando socialmente inadequado – temos que lembrar que a maior parte da IA de hoje não tem conhecimento do que está dizendo. Somente a ampla audição e a aprendizagem de diversas bases de dados resolverão isso.
Uma das abordagens é desenvolver um mecanismo de recompensa ao treinar a IA. As medidas de aprendizagem de reforço devem ser desenvolvidas não apenas com base no que AI ou robôs fazem para alcançar um resultado, mas também sobre como a IA e robôs se alinham com os valores humanos para atingir esse resultado particular.
4. O jogo da IA deve ser igual para todos
Tecnologia de voz e robôs sociais fornecem novas soluções de acesso, especificamente para usuários desfavorecidos por problemas de visão, dislexia e mobilidade limitada. Nossa comunidade empresarial tecnológica deve acelerar o desenvolvimento desses recursos a fim de oferecer condições igualitárias e ampliar os talentos que temos, tanto nas profissões da área contábil quanto da tecnológica.
5. IA substitui. Mas também deve criar.
O melhor caso de uso da IA é automação – atendimento ao cliente, fluxo de trabalho e processos baseados em regras são os panoramas perfeitos nos quais a IA se revela.
A IA aprende mais rápido que os humanos e é muito boa em tarefas repetitivas, do dia-a-dia. E, no longo prazo, é mais barata que os humanos. Haverá novas oportunidades criadas pela robotização de tarefas e temos que treinar as pessoas para essa perspectiva – permitindo que elas possam se concentrar naquilo em que são boas, construindo relacionamentos e cuidando dos clientes. Sem jamais esquecer a necessidade de empatia humana nas profissões centrais como aplicação da lei, cuidados, proteção e complexas tomadas de decisão.
Liderando pelo exemplo
Com o lançamento de seu chatbot, o Pegg, a Sage lidera uma revolução financeira de contabilidade em vários países.
Projetado com a intenção de liberar os clientes de atividades que os impedem de se concentrar nas tarefas de maior valor, e com 100% de conformidade com os princípios básicos da IA da Sage, o Pegg atua como um assistente inteligente para pequenas empresas, permitindo que os usuários rastreiem despesas e gerenciem finanças por meio de aplicativos de mensagens como o Facebook Messenger.
Um ano após seu amplo lançamento, o sistema já reúne dezenas de milhares de usuários em 135 países em todo o mundo.
No Brasil, a expectativa é que o chatbot de emissão de notas fiscais por meio de um bate-papo com o assistente virtual seja lançado oficialmente até o final do segundo semestre de 2017. “Estamos muito otimistas com a chegada do primeiro emissor de nota fiscal com inteligência artificial no país. Os feedbacks dos clientes que estão testando o sistema são muitos positivos e temos certeza de que o Pegg vai facilitar o dia a dia dos empresários brasileiros”, finaliza Pereira.