E a regulação da IA confiável no Brasil?

O Governo Brasileiro instituiu a PORTARIA GM Nº 4.617, DE 6 DE ABRIL DE 2021, que definiu a Estratégia Brasileira de Inteligência Artificial (EBIA). Essa estratégia, impulsiona o desenvolvimento e aplicação da tecnologia, direcionando ações do Estado brasileiro fortalecendo a pesquisa, desenvolvimento e inovação em soluções de IA confiáveis. Assim sendo, busca promover o uso consciente e ético dessa tecnologia para um futuro melhor.

Dentre os 9 pilares definidos na EBIA, vou me concentrar nos aspectos legais e normativos, definidos no pilar legislação, regulação e uso ético. Que estabelece um ponto de equilíbrio entre:

1. a proteção e a salvaguarda de direitos, inclusive aqueles associados à proteção de dados pessoais e à prevenção de discriminação e viés algorítmico;
2. Preservar estruturas adequadas para incentivar o desenvolvimento de uma tecnologia cujas potencialidades ainda não foram plenamente compreendidas.
3. o estabelecimento de parâmetros legais que confiram segurança jurídica quanto à responsabilidade dos diferentes atores que participam da cadeia de valor de sistemas autônomos.

A portaria cita o arcabouço legal, se relacionando diretamente com esta tecnologia, impactando diversos campos – consumerista, concorrencial, trabalhista, processual cível e penal, dentre outros.

Cita-se algumas normas que se relacionam de maneira mais direta com essa tecnologia

Normas

• Lei nº 13.709/2018, que institui a Lei Geral de Proteção de Dados (LGPD). Considerando que a base para a operacionalização de tecnologias de Inteligência Artificial envolve o tratamento massivo de dados (“big data”), é fundamental alinhar os princípios da IA com os da LGPD e considerar os valores da proteção de dados tanto na aquisição quanto no desenvolvimento e uso dessas tecnologias.
• Decreto nº 8.771/2016, que institui a Política de Dados Abertos do Poder Executivo Federal. Bases de dados abertos podem servir para a alimentação de sistemas de Inteligência Artificial, o que destaca a importância de diretrizes sobre o uso ético de dados abertos.
• Portaria nº 46/2016, que dispõe sobre o Software Público Brasileiro. Destaca a importância de se fomentar o uso de software público no desenvolvimento de soluções IA garantindo o compartilhamento de soluções entre todas as esferas de governo.

LGPD

A portaria também explicita alguns aspectos da LGPD que os sistemas de IA devem observar:

“A LGPD endereça tal questão dispondo sobre o direito de indivíduos solicitarem a revisão das decisões tomadas apenas com base no processamento automatizado de dados pessoais, quando estas afetam seus interesses. Isso inclui decisões que visam a definir o perfil pessoal, profissional, de consumidor e crédito, bem como quaisquer aspectos da personalidade dos titulares de dados.

Além disso, a LGPD, em linha com o que já era estabelecido na Lei do Cadastro Positivo (Lei nº 12.414/2011), prevê a obrigação de que empresas forneçam, mediante solicitação, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada, observados os segredos comercial e industrial. ”

Em relação ao pilar de governança, a portaria estabelece os principais aspectos a serem levados em consideração:

“Aspecto fundamental desse processo é estabelecer mecanismos que permitam prevenir e eliminar os vieses, que podem decorrer tanto dos próprios algoritmos utilizados, como também das bases de dados usadas para o seu treinamento. Para que um algoritmo seja “explicável” ou “interpretável”, é desejável que as etapas do processo de aprendizado de máquina que resultaram em uma inferência sejam rastreáveis e que as variáveis que pesaram na tomada de decisão possam passar por escrutínio.”

A exemplo das recomendações da OCDE, este pilar destaca os princípios da transparência e auditabilidade dos sistemas de IA confiável, sendo princípios presentes também na LGPD.

Próximos passos, ESG e consumo sustentável da IA

Primordialmente, vivemos num mundo conectado, onde a economia de mercado, tecnologias e preferências pessoais transformam nosso modo de vida.

A recente e necessária agenda ESG (Environmental, Social and Governance), trouxe o conceito de sustentabilidade, que está ligado à continuidade no tempo. A decisão do mercado financeiro de levar em consideração tais aspectos é extremamente positiva.

No contexto das práticas ESG, as empresas consideram o tripé (pessoas, planeta e lucro), entendendo que há uma responsabilidade corporativa além da regulação e obrigação dos governos.

Sobretudo, elas reconhecem a importância de se preocupar com o meio ambiente e questões sociais para alinhar suas ações com esses princípios. Dessa maneira, a forma de cada organização de fazer negócios, também contribuirá para adoção das melhores práticas. 

O ESG transcende as questões ligadas ao meio ambiente, aborda também questões ligadas à ética, perenidade e a mitigação dos riscos. Nesse sentido, devemos tratar também os desafios de proteção de dados e relacionamento ético com o cliente. A criação de valores perceptíveis gerará fidelização de seus clientes e melhores resultados.

“A sociedade está mais consciente, quer se relacionar e comprar produtos de quem respeita esses princípios, e os investidores têm percebido que fatores não financeiros estão impactando na continuidade e no valor das companhias, na sua reputação e até nos seus resultados. Uma mudança de paradigma acompanhada por uma forte transformação digital, cujo combustível são os dados pessoais, o perfil de cada um e os seus hábitos. É aí que mora o grande desafio.” Alexandre Zavaglia Coelho, site Jota (referência 2)

Consumo Sustentável da IA Confiável

Todavia, o consumo sustentável será o responsável por guiar o uso da inteligência artificial confiável e privacidade. Se os consumidores priorizarem às marcas e empresas sustentáveis, confiáveis, com privacidade, uso ético de dados e IA confiável, finalmente a melhor prática se perpetuará.

Por exemplo, se uma empresa de tecnologia faz uso indevido de dados, posteriormente os clientes são recomendados a evitar, migrando para outros sistemas, plataformas ou redes sociais.

Embora a estrutura legal, normas, fiscalização e melhores práticas são essenciais, porém o uso ideal da IA confiável depende da escolha dos clientes e usuários.

Em suma, mesmo que a utilização da Inteligência Artificial (IA) traga valor agregado aos clientes em termos de benefícios, melhoria da qualidade e preço dos serviços, é crucial ter cautela. Pois, se essa utilização se tornar intrusiva e menos ética, pode acarretar danos à sociedade ou a indivíduos. Ademais, nesse cenário, é fundamental que haja ações para coibir o uso indevido dos sistemas de IA. Visto que os usuários não têm considerado o tratamento de dados tão relevante no processo decisório.

Exemplificando

As notícias sobre o uso indevido de dados do Facebook pela Cambridge Analytica, levaram alguns usuários a compartilhar menos dados no Facebook ou migrar de rede social, porém, mesmo com a ciência de muitos que o WhatsApp e o Instagram são do mesmo grupo, a maioria dos usuários não procurou alternativas. Todavia, apesar das tentativas de alguns de utilizar o Telegram ou Signal, de fato, a adesão não foi maciça pois nem todos os usuários fizeram a migração.

Para maior transparência das empresas e seus clientes e parceiros, assim como, aspectos de privacidade e uso ético dos dados, devem ser explicitados nos termos de privacidade e termo de uso de aplicação. Recomenda-se revisar esta documentação a fim de abranger novos usos que a aplicação ou empresa possa implementar. Assim, reforçar a segurança das aplicações é fundamental sempre que houver uso e tratamento de dados pessoais.

Próximos Artigos

Dando continuidade, no próximo artigo sobre inteligência artificial, trataremos da regulamentação nos Estados Unidos e, depois, das documentações técnicas do NIST e outras entidades.

Referências:

https://www.in.gov.br/en/web/dou/-/portaria-gm-n-4.617-de-6-de-abril-de-2021-312911562
https://www.jota.info/opiniao-e-analise/artigos/inteligencia-artificial-dados-pessoais-21112020

Por Erik Mattfeldt