Por Erik Mattfeldt
E a regulação no Brasil?
No Brasil foi instituída à PORTARIA GM Nº 4.617, DE 6 DE ABRIL DE 2021, definindo a Estratégia Brasileira de Inteligência Artificial (EBIA), que tem por objetivo potencializar o desenvolvimento e a utilização da tecnologia, além de nortear as ações do Estado brasileiro em prol do fortalecimento da pesquisa, desenvolvimento e inovações de soluções em Inteligência Artificial, bem como, seu uso consciente, ético para um futuro melhor.
Dentre os 9 pilares definidos na EBIA, vou me concentrar nos aspectos legais e normativos, definidos no pilar legislação, regulação e uso ético. Que estabelece um ponto de equilíbrio entre:
- a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico;
- a preservação de estruturas adequadas de incentivo ao desenvolvimento de uma tecnologia cujas potencialidades ainda não foram plenamente compreendidas;
- o estabelecimento de parâmetros legais que confiram segurança jurídica quanto à responsabilidade dos diferentes atores que participam da cadeia de valor de sistemas autônomos.
A portaria (referencia 1) cita o arcabouço legal que se relaciona diretamente com esta tecnologia, impactando os mais diversos campos – consumerista, concorrencial, trabalhista, processual cível e penal, dentre outros.
Cita ainda algumas normas que se relacionam de maneira mais direta com essa tecnologia:
- Lei nº 13.709/2018, que institui a Lei Geral de Proteção de Dados (LGPD). Tendo em vista que a base para a operacionalização de tecnologias de Inteligência Artificial envolve o tratamento massivo de dados (“big data”) é fundamental que os princípios da IA estejam alinhados com os da LGPD e que os valores da proteção de dados sejam considerados tanto na aquisição quanto no desenvolvimento e uso dessas tecnologias.
- Decreto nº 8.771/2016, que institui a Política de Dados Abertos do Poder Executivo Federal. Bases de dados abertos podem servir para a alimentação de sistemas de Inteligência Artificial, o que destaca a importância de diretrizes sobre o uso ético de dados abertos.
- Portaria nº 46/2016, que dispõe sobre o Software Público Brasileiro. Destaca a importância de se fomentar o uso de software público no desenvolvimento de soluções IA garantindo o compartilhamento de soluções entre todas as esferas de governo.
A portaria também detalha expressamente alguns aspectos da LGPD que devem ser observados nos sistemas de IA:
“A LGPD endereça tal questão dispondo sobre o direito de indivíduos solicitarem a revisão das decisões tomadas apenas com base no processamento automatizado de dados pessoais, quando estas afetam seus interesses. Isso inclui decisões que visam a definir o perfil pessoal, profissional, de consumidor e crédito, bem como quaisquer aspectos da personalidade dos titulares de dados.
Além disso, a LGPD, em linha com o que já era estabelecido na Lei do Cadastro Positivo (Lei nº 12.414/2011), prevê a obrigação de que empresas forneçam, mediante solicitação, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial. ”
Em relação ao pilar de governança, a portaria define os principais aspectos a serem levados em consideração:
“Aspecto fundamental desse processo é estabelecer mecanismos que permitam prevenir e eliminar os vieses, que podem decorrer tanto dos próprios algoritmos utilizados, como também das bases de dados usadas para o seu treinamento. Para que um algoritmo seja “explicável” ou “interpretável”, é desejável que as etapas do processo de aprendizado de máquina que resultaram em uma inferência sejam rastreáveis e que as variáveis que pesaram na tomada de decisão possam passar por escrutínio.”
Veja que a exemplo das recomendações da OCDE, este pilar destaca os princípios da transparência e auditabilidade dos sistemas de IA, que são princípios presentes também na LGPD.
Próximos passos, ESG e consumo sustentável da IA
Como sabemos, vivemos num mundo conectado em todos os aspectos, onde regulações e normas muitas vezes são sobrepujadas pela economia de mercado, revoluções tecnológicas, preferências do cliente, que transformam o modo como vivemos.
A recente e necessária agenda ESG (Environmental, Social and Governance), trouxe o conceito de sustentabilidade, que está ligado à continuidade no tempo. A decisão do mercado financeiro de levar em consideração tais aspectos é extremamente positiva.
Nas práticas ESG é levado em consideração, o tripé people, planet and profit (pessoas, planeta e lucro), porque, além da regulação e da obrigação dos governos, entendeu-se que há também uma responsabilidade do mundo corporativo, na preocupação com o meio ambiente e com questões sociais. A forma de cada organização de fazer negócios, também contribuirá para adoção das melhores práticas.
O ESG transcende as questões ligadas ao meio ambiente, aborda também questões ligadas à ética, perenidade e a mitigação dos riscos. Dentro deste conceito devemos tratar também os desafios de proteção de dados e relacionamento ético com o cliente. A criação de valores perceptíveis gerará fidelização de seus clientes e melhores resultados.
“A sociedade está mais consciente, quer se relacionar e comprar produtos de quem respeita esses princípios, e os investidores têm percebido que fatores não financeiros estão impactando na continuidade e no valor das companhias, na sua reputação e até nos seus resultados. Uma mudança de paradigma acompanhada por uma forte transformação digital, cujo combustível são os dados pessoais, o perfil de cada um e os seus hábitos. É aí que mora o grande desafio.” Alexandre Zavaglia Coelho, site Jota (referência 2)
De forma complementar, o consumo sustentável será o responsável por guiar o uso da inteligência artificial confiável e privacidade. Se os consumidores priorizarem às marcas e empresas que desenvolvam processos sustentáveis, confiáveis, com privacidade, uso ético de dados e inteligência artificial confiável, teremos um incentivo para que as melhores práticas se perpetuem.
Por exemplo, se existe alguma empresa de tecnologia que faz o uso indevido de dados, é recomendado pelos clientes evitar o uso da mesma, migrando para outros sistemas, plataformas ou redes sociais.
A estrutura legal, leis, normas, melhores práticas, além da fiscalização serão primordiais, mas a definição em relação ao melhor uso da inteligência artificial, estará sempre atrelada à decisão dos seus clientes e usuários finais dos serviços.
Enquanto houver valor agregado para o cliente em termos de benefícios ou melhoria da qualidade e preço dos serviços, os clientes irão tender a aceitar utilizações mais intrusivas e menos éticas da Inteligência Artificial, porém em um dado momento a sociedade ou indivíduos irão sofrer algum dano e neste momento, haverá alguma ação coibindo esta utilização indevida dos sistemas de IA. O tratamento de dados não tem sido tão relevante no processo decisório dos usuários.
Por exemplo, notícias sobre o uso indevido de dados do Facebook pela Cambridge Analytica, levaram alguns usuários a compartilhar menos dados no Facebook ou migrar de rede social, porém, mesmo com a ciência de muitos que o WhatsApp e o Instagram são do mesmo grupo, a maioria dos usuários não procurou alternativas. Apesar das tentativas de alguns de utilizar o Telegram ou Signal, a adesão não foi maciça pois nem todos os usuários fizeram a migração.
Para maior transparência das empresas com seus clientes e parceiros, aspectos de privacidade e uso ético dos dados devem ser explicitados nos termos de privacidade e termo de uso de cada aplicação. É recomendada a revisão desta documentação para abranger novos usos que a aplicação ou empresa venha a implementar. A segurança das aplicações também deve ser reforçada, sempre que existir o uso e tratamento de dados pessoais.
No próximo artigo sobre inteligência artificial, abordaremos a regulamentação nos Estados Unidos, assim como as documentações técnicas que existem provenientes do NIST e outras organizações.
Referências:
https://www.in.gov.br/en/web/dou/-/portaria-gm-n-4.617-de-6-de-abril-de-2021-312911562
https://www.jota.info/opiniao-e-analise/artigos/inteligencia-artificial-dados-pessoais-21112020
