Proteção dos dados na era da Inteligência Artificial

Por Danilo Macedo, líder de Relações Governamentais e Assuntos Regulatórios na IBM Brasil

Estamos na era da Inteligência Artificial (IA). De fato, 84% das pessoas no mundo hoje usam um dispositivo ou serviço habilitado com IA. À medida que mais pessoas compartilham seus dados para serem aproveitados por esses sistemas, a confiança se torna a pedra angular das interações com as organizações. Essa confiança se manifesta quando os dispositivos ou serviços utilizados fazem o que esperamos deles, da mesma forma que aprendemos a confiar que um aplicativo bancário vai realizar transações precisas.

No entanto, pode variar a forma como as empresas utilizam os nossos dados ou IA para nos proporcionar múltiplos benefícios, bem como os riscos associados, porque nem todos os dados são gerenciados da mesma forma e nem todas as tecnologias de IA têm o mesmo processo de criação. Nesse contexto, a regulamentação é essencial.

Regulando o gerenciamento de informações na economia de dados

Se os dados são como o petróleo, poderíamos dizer que, uma vez refinados, se obtém a gasolina da IA. É essa combinação que pode agregar valor a indivíduos e empresas na economia de dados. No entanto, há um elemento chave que ainda precisa ser abordado de maneira significativa nos marcos regulatórios: os diferentes riscos que os modelos comerciais baseados em dados representam para as pessoas.

Na IBM, acreditamos que há duas categorias distintas de modelos comerciais baseados em dados:

• Os de alto risco que usam os dados das pessoas como fonte de renda (monetização de dados externos). Nesse modelo, as pessoas têm pouco entendimento de como seus dados são acessados, como são usados ​​na economia de dados ou do nível de risco que correm ao fornecê-los.
   
• Os de baixo risco que usam os dados para melhorar as operações, os produtos ou os serviços (monetização interna de dados). Em geral, as pessoas podem esperar que seus dados não saiam dessa relação ou podem votar com a carteira caso não fiquem satisfeitas.

Esta distinção vai nos permitir procurar uma regulamentação mais adequada e mais equilibrada. Por exemplo, você pode ajustar a carga regulatória para ser proporcional aos riscos dos modelos comerciais baseados em dados, aumentar a transparência da revenda de dados, exigir que os compradores verifiquem se os dados foram tratados de forma legal e transparente, entre outras obrigações.

Regulando com precisão as tecnologias de Inteligência Artificial

Desde o ponto de vista da IA, na IBM acreditamos que esses sistemas devem priorizar a privacidade das pessoas e os direitos dos titulares dos dados. Por isso, temos pedido uma regulamentação precisa da IA em todo o mundo, a fim de estabelecer controles e políticas mais estritas nos usos finais da tecnologia, onde o risco de dano social é muito maior.

Nessa linha, é fundamental que a regulamentação em torno da IA ​​considere três princípios: primeiro, que a o propósito da IA ​​é potenciar a Inteligência Humana, não substituí-la; segundo, que os dados e os conhecimentos gerados por esses dados pertencem ao seu criador; e terceiro, que novas tecnologias poderosas como a IA devem ser transparentes, explicáveis ​​e mitigar vieses prejudiciais e inapropriados.

Nosso chamado à ação é claro: é essencial fortalecer a confiança sem sufocar a inovação, ao mesmo tempo em que estabelecemos salvaguardas nos casos de uso problemáticos para que haja uma mudança ou correção. Outros aspectos para orientar a regulamentação em torno da IA são:

• Exigir transparência. As organizações precisam ser diretas sobre quando, onde e como estão usando a IA e os dados. Por exemplo, se uma pessoa estiver conversando com um assistente virtual com IA, ela deve ser informada de que está falando com IA e não com uma pessoa ao vivo.
   
• Propor regras diferentes para diversos casos de uso. As políticas devem refletir as distinções entre aplicações de maior risco e de menor risco. Por exemplo, os riscos representados por um assistente virtual não são os mesmos de um veículo autônomo.

As formas como as organizações usam os dados das pessoas e a IA estão em constante evolução. Não se trata de implementar prematuramente novas regras de proteção de dados ou proibir a tecnologia porque ambos são eixos transversais de inovação. Trata-se de colaborar para enfrentar os riscos da monetização de dados, promover o avanço responsável da tecnologia e expandir os limites da inovação reunindo nossos recursos coletivos e experiência para melhorar nosso bem-estar coletivo e individual.

Na IBM, somos otimistas. Acreditamos que, aplicando ciência e inovação a problemas do mundo real, podemos criar um amanhã melhor. Mais sustentável, mais equitativo e seguro.