Inteligência Artificial Confiável – Considerações sobre privacidade e uso ético

Parte 3 – Regulação nos Estados Unidos

Normas de Trustworthy AI, NIST e Presidência dos EUA, papel do governo federal no desenvolvimento de padrões de Inteligência Artificial

O berço das maiores empresas de tecnologia também está avançando nas regulações, com apoio do NIST, órgão reconhecido mundialmente pelas suas métricas e padronizações, o governo americano iniciou a estruturação dos pilares para o “Trustworthy AI”, um sinônimo para Inteligência Artificial Confiável.

Conforme documento do NIST publicado em agosto/2019:

A liderança global dos Estados Unidos em IA depende do governo federal desempenhando um papel ativo e função orientada para fins no desenvolvimento de padrões de IA. Isso inclui esforços relacionados aos padrões de IA necessários para as instituições cumprirem suas missões por:

  1. apoiar e conduzir pesquisa e desenvolvimento de IA,
  2. envolver-se ativamente no desenvolvimento de padrões de IA,
  3. aquisição e implantação de produtos e serviços baseados em padrões, e
  4. desenvolver e implementar políticas de apoio, incluindo políticas regulatórias quando necessário.

O plano identifica as seguintes nove áreas de foco para os padrões de IA:

  • Conceitos e terminologia
  • Dados e conhecimento
  • Interações humanas
  • Métricas
  • Networking
  • Teste de desempenho e metodologia de relatório
  • Segurança
  • Gerenciamento de riscos
  • Confiabilidade

Os padrões de confiabilidade incluem orientação e requisitos de precisão, explicabilidade, resiliência, segurança, confiabilidade, objetividade e proteção.

Os padrões devem ser complementados por ferramentas relacionadas para promover o desenvolvimento e a adoção de tecnologias de IA eficazes, confiáveis, robustas e confiáveis. Essas ferramentas, que muitas vezes têm aplicativos sobrepostos, incluem, mas não se limitam a:

  • Conjuntos de dados em formatos padronizados, incluindo metadados para treinamento, validação e teste de sistemas de IA
  • Ferramentas para capturar e representar conhecimento e raciocínio em sistemas de IA
  • Casos de uso totalmente documentados que fornecem uma variedade de dados e informações sobre aplicativos específicos de tecnologias de IA e quaisquer padrões ou guias de práticas recomendadas usados na tomada de decisões sobre a implantação desses aplicativos
  • Metodologias de teste para validar e avaliar o desempenho das tecnologias de IA
  • Métricas para medir e caracterizar de forma quantificável as tecnologias de IA
  • Benchmarks, avaliações e problemas de desafio para impulsionar a inovação
  • Bancadas de teste de IA
  • Ferramentas para prestação de contas (accountability) e auditoria

As agências governamentais dos EUA devem priorizar o envolvimento nos esforços de padrões de IA que são: inclusivos e acessíveis, abertos e transparentes, baseados em consenso, globalmente relevantes e não discriminatórios. O plano agrupa o envolvimento potencial da agência NIST em quatro categorias classificadas do menos ao mais engajado: monitoramento, participação, influência e liderança. O plano fornece uma série de etapas práticas que as instituições devem seguir ao decidir sobre o envolvimento com os padrões de IA.

Especificamente, o governo dos EUA deve:

  • Reforçar o conhecimento relacionado aos padrões de IA, liderança e coordenação entre as agências federais para maximizar a eficácia e eficiência.
  • Promover pesquisas focadas para avançar e acelerar a exploração e compreensão mais amplas de como os aspectos de confiabilidade podem ser incorporados de forma prática nos padrões e ferramentas relacionadas.
  • Apoiar e expandir parcerias público-privadas para desenvolver e usar padrões de IA e ferramentas para promover IA estável, robusta e confiável. 
  • Desenvolver iniciativas estratégicas com as demais entidades e países para promover os padrões de IA para as necessidades econômicas e de segurança nacional dos EUA.

O desenvolvimento de padrões para TI é parte integrante das tecnologias e sistemas de IA. A TI engloba todas as tecnologias de captura, armazenamento, recuperação, processamento, exibição, representação, segurança, privacidade e intercâmbio de dados e informações. Em todo o mundo, existem várias Organizações de Desenvolvimento de Padrões (Standard Development Organizations – SDOs) desenvolvendo padrões de TI usando diferentes modelos para atender às diversas necessidades de padronização. A rápida inovação em TI foi acompanhada pela competição entre SDOs em áreas de relevância de mercado (por exemplo, computação em nuvem, cibersegurança e Internet das Coisas). Isso encorajou os SDOs a simplificar seus processos de construção de consenso para desenvolver e aprovar padrões oportunos e tecnicamente sólidos que atendam às necessidades atuais do mercado.

Em 17/nov/2020 o escritório executivo da presidência dos EUA complementou a norma com um memorando, no qual entre outros pontos, destaca a necessidade de reduzir as barreiras à implantação e uso de IA.

Considerando maneiras de reduzir as barreiras ao uso de tecnologias de IA para promover sua aplicação inovadora enquanto protege as liberdades civis, a privacidade, os valores americanos e a economia dos Estados Unidos e segurança nacional.

Citando quatro exemplos de ações que as agências podem realizar, fora do processo de formulação de regras, para criar um ambiente que facilite o uso e a aceitação da IA:

  • Acesso a dados e modelos federais para P&D de IA
  • Comunicação com o público e mercado
  • Participação da Agência no Desenvolvimento e Uso de Padrões de Consenso Voluntário e Atividades de Avaliação de Conformidade
  • Cooperação Internacional para regulação

Referências:

https://www.ai.gov/strategic-pillars/advancing-trustworthy-ai/#Guidance_for_the_Regulation_of_AI_in_the_Private_Sector
https://www.whitehouse.gov/wp-content/uploads/2020/11/M-21-06.pdf
https://www.nist.gov/topics/artificial-intelligence/plan-federal-engagement-developing-ai-technical-standards-and-related
https://www.darpa.mil/program/explainable-artificial-intelligence
https://www.nist.gov/system/files/documents/2019/08/10/ai_standards_fedengagement_plan_9aug2019.pdf