Inteligência Artificial Confiável Parte 2 – Brasil, ESG e Consumo Sustentável

E a regulação no Brasil?

No Brasil foi instituída à PORTARIA GM Nº 4.617, DE 6 DE ABRIL DE 2021, definindo a Estratégia Brasileira de Inteligência Artificial (EBIA), que tem por objetivo potencializar o desenvolvimento e a utilização da tecnologia, além de nortear as ações do Estado brasileiro em prol do fortalecimento da pesquisa, desenvolvimento e inovações de soluções em Inteligência Artificial, bem como, seu uso consciente, ético para um futuro melhor.

Dentre os 9 pilares definidos na EBIA, vou me concentrar nos aspectos legais e normativos, definidos no pilar legislação, regulação e uso ético. Que estabelece um ponto de equilíbrio entre:

  1. a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico;
  2. a preservação de estruturas adequadas de incentivo ao desenvolvimento de uma tecnologia cujas potencialidades ainda não foram plenamente compreendidas;
  3. o estabelecimento de parâmetros legais que confiram segurança jurídica quanto à responsabilidade dos diferentes atores que participam da cadeia de valor de sistemas autônomos.

A portaria (referencia 1) cita o arcabouço legal que se relaciona diretamente com esta tecnologia, impactando os mais diversos campos – consumerista, concorrencial, trabalhista, processual cível e penal, dentre outros.

Cita ainda algumas normas que se relacionam de maneira mais direta com essa tecnologia:

  • Lei nº 13.709/2018, que institui a Lei Geral de Proteção de Dados (LGPD). Tendo em vista que a base para a operacionalização de tecnologias de Inteligência Artificial envolve o tratamento massivo de dados (“big data”) é fundamental que os princípios da IA estejam alinhados com os da LGPD e que os valores da proteção de dados sejam considerados tanto na aquisição quanto no desenvolvimento e uso dessas tecnologias.
  • Decreto nº 8.771/2016, que institui a Política de Dados Abertos do Poder Executivo Federal. Bases de dados abertos podem servir para a alimentação de sistemas de Inteligência Artificial, o que destaca a importância de diretrizes sobre o uso ético de dados abertos.
  • Portaria nº 46/2016, que dispõe sobre o Software Público Brasileiro. Destaca a importância de se fomentar o uso de software público no desenvolvimento de soluções IA garantindo o compartilhamento de soluções entre todas as esferas de governo.

A portaria também detalha expressamente alguns aspectos da LGPD que devem ser observados nos sistemas de IA:

“A LGPD endereça tal questão dispondo sobre o direito de indivíduos solicitarem a revisão das decisões tomadas apenas com base no processamento automatizado de dados pessoais, quando estas afetam seus interesses. Isso inclui decisões que visam a definir o perfil pessoal, profissional, de consumidor e crédito, bem como quaisquer aspectos da personalidade dos titulares de dados.

Além disso, a LGPD, em linha com o que já era estabelecido na Lei do Cadastro Positivo (Lei nº 12.414/2011), prevê a obrigação de que empresas forneçam, mediante solicitação, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial. ”

Em relação ao pilar de governança, a portaria define os principais aspectos a serem levados em consideração:

“Aspecto fundamental desse processo é estabelecer mecanismos que permitam prevenir e eliminar os vieses, que podem decorrer tanto dos próprios algoritmos utilizados, como também das bases de dados usadas para o seu treinamento. Para que um algoritmo seja “explicável” ou “interpretável”, é desejável que as etapas do processo de aprendizado de máquina que resultaram em uma inferência sejam rastreáveis e que as variáveis que pesaram na tomada de decisão possam passar por escrutínio.”

Veja que a exemplo das recomendações da OCDE, este pilar destaca os princípios da transparência e auditabilidade dos sistemas de IA, que são princípios presentes também na LGPD.

Próximos passos, ESG e consumo sustentável da IA

Como sabemos, vivemos num mundo conectado em todos os aspectos, onde regulações e normas muitas vezes são sobrepujadas pela economia de mercado, revoluções tecnológicas, preferências do cliente, que transformam o modo como vivemos.

A recente e necessária agenda ESG (Environmental, Social and Governance), trouxe o conceito de sustentabilidade, que está ligado à continuidade no tempo. A decisão do mercado financeiro de levar em consideração tais aspectos é extremamente positiva.

Nas práticas ESG é levado em consideração, o tripé people, planet and profit (pessoas, planeta e lucro), porque, além da regulação e da obrigação dos governos, entendeu-se que há também uma responsabilidade do mundo corporativo, na preocupação com o meio ambiente e com questões sociais. A forma de cada organização de fazer negócios, também contribuirá para adoção das melhores práticas. 

Health Equity + Built Environment」おしゃれまとめの人気アイデア|Pinterest|Michaele Pride

O ESG transcende as questões ligadas ao meio ambiente, aborda também questões ligadas à ética, perenidade e a mitigação dos riscos. Dentro deste conceito devemos tratar também os desafios de proteção de dados e relacionamento ético com o cliente. A criação de valores perceptíveis gerará fidelização de seus clientes e melhores resultados.

“A sociedade está mais consciente, quer se relacionar e comprar produtos de quem respeita esses princípios, e os investidores têm percebido que fatores não financeiros estão impactando na continuidade e no valor das companhias, na sua reputação e até nos seus resultados. Uma mudança de paradigma acompanhada por uma forte transformação digital, cujo combustível são os dados pessoais, o perfil de cada um e os seus hábitos. É aí que mora o grande desafio.” Alexandre Zavaglia Coelho, site Jota (referência 2)

De forma complementar, o consumo sustentável será o responsável por guiar o uso da inteligência artificial confiável e privacidade. Se os consumidores priorizarem às marcas e empresas que desenvolvam processos sustentáveis, confiáveis, com privacidade, uso ético de dados e inteligência artificial confiável, teremos um incentivo para que as melhores práticas se perpetuem.

Por exemplo, se existe alguma empresa de tecnologia que faz o uso indevido de dados, é recomendado pelos clientes evitar o uso da mesma, migrando para outros sistemas, plataformas ou redes sociais.

A estrutura legal, leis, normas, melhores práticas, além da fiscalização serão primordiais, mas a definição em relação ao melhor uso da inteligência artificial, estará sempre atrelada à decisão dos seus clientes e usuários finais dos serviços.

Enquanto houver valor agregado para o cliente em termos de benefícios ou melhoria da qualidade e preço dos serviços, os clientes irão tender a aceitar utilizações mais intrusivas e menos éticas da Inteligência Artificial, porém em um dado momento a sociedade ou indivíduos irão sofrer algum dano e neste momento, haverá alguma ação coibindo esta utilização indevida dos sistemas de IA. O tratamento de dados não tem sido tão relevante no processo decisório dos usuários.

Por exemplo, notícias sobre o uso indevido de dados do Facebook pela Cambridge Analytica, levaram alguns usuários a compartilhar menos dados no Facebook ou migrar de rede social, porém, mesmo com a ciência de muitos que o WhatsApp e o Instagram são do mesmo grupo, a maioria dos usuários não procurou alternativas. Apesar das tentativas de alguns de utilizar o Telegram ou Signal, a adesão não foi maciça pois nem todos os usuários fizeram a migração.

Para maior transparência das empresas com seus clientes e parceiros, aspectos de privacidade e uso ético dos dados devem ser explicitados nos termos de privacidade e termo de uso de cada aplicação. É recomendada a revisão desta documentação para abranger novos usos que a aplicação ou empresa venha a implementar. A segurança das aplicações também deve ser reforçada, sempre que existir o uso e tratamento de dados pessoais.

No próximo artigo sobre inteligência artificial, abordaremos a regulamentação nos Estados Unidos, assim como as documentações técnicas que existem provenientes do NIST e outras organizações.

Referências:
https://www.in.gov.br/en/web/dou/-/portaria-gm-n-4.617-de-6-de-abril-de-2021-312911562
https://www.jota.info/opiniao-e-analise/artigos/inteligencia-artificial-dados-pessoais-21112020