Parte 3 – Regulação nos Estados Unidos
Normas de Trustworthy AI, NIST e Presidência dos EUA, papel do governo federal no desenvolvimento de padrões de Inteligência Artificial
Primeiramente, o berço das maiores empresas de tecnologia também está avançando nas regulações. Além disso, com o apoio do NIST, órgão reconhecido mundialmente pelas suas métricas e padronizações, o governo americano iniciou a estruturação dos pilares para o “Trustworthy AI”, um sinônimo para Inteligência Artificial Confiável.
Documento do NIST publicado em agosto/2019
Certamente, a liderança global dos Estados Unidos em IA depende do governo federal desempenhando um papel ativo e função orientada para fins no desenvolvimento de padrões de IA. Isso inclui esforços relacionados aos padrões de IA necessários para as instituições cumprirem suas missões, bem como:
- Apoiar e conduzir pesquisa e desenvolvimento de IA;
- Envolver-se ativamente no desenvolvimento de padrões de IA;
- Aquisição e implantação de produtos e serviços baseados em padrões; e
- Desenvolver e implementar políticas de apoio, incluindo políticas regulatórias quando necessário.
As nove áreas de foco para os padrões de IA
- Conceitos e terminologia
- Dados e conhecimento
- Interações humanas
- Métricas
- Networking
- Teste de desempenho e metodologia de relatório
- Segurança
- Gerenciamento de riscos
- Confiabilidade
Os padrões de confiabilidade incluem orientação e requisitos de precisão, assim como: explicabilidade, resiliência, segurança, confiabilidade, objetividade e proteção.
Ademais, os padrões devem ser complementados por ferramentas relacionadas para promover o desenvolvimento e a adoção de tecnologias de IA eficazes, confiáveis, robustas e confiáveis. Essas ferramentas, que muitas vezes têm aplicativos sobrepostos, incluem, mas não se limitam a:
- Conjuntos de dados em formatos padronizados, incluindo metadados para treinamento, validação e teste de sistemas de IA
- Ferramentas para capturar e representar conhecimento e raciocínio em sistemas de IA
- Casos de uso totalmente documentados que fornecem uma variedade de dados e informações sobre aplicativos específicos de tecnologias de IA e quaisquer padrões ou guias de práticas recomendadas usados na tomada de decisões sobre a implantação desses aplicativos
- Metodologias de teste para validar e avaliar o desempenho das tecnologias de IA
- Métricas para medir e caracterizar de forma quantificável as tecnologias de IA
- Benchmarks, avaliações e problemas de desafio para impulsionar a inovação
- Bancadas de teste de IA
- Ferramentas para prestação de contas (accountability) e auditoria
Aliás, as agências governamentais dos EUA devem priorizar o envolvimento nos esforços de padrões de IA que são: inclusivos e acessíveis, abertos e transparentes, baseados em consenso, globalmente relevantes e não discriminatórios.
Nesse sentido, o plano agrupa o envolvimento potencial da agência NIST em quatro categorias classificadas do menos ao mais engajado: monitoramento, participação, influência e liderança. Assim, o plano fornece uma série de etapas práticas que as instituições devem seguir ao decidir sobre o envolvimento com os padrões de IA.
Especificamente, o governo dos EUA deve:
- Reforçar o conhecimento relacionado aos padrões de IA, liderança e coordenação entre as agências federais para que possa maximizar a eficácia e eficiência.
- Promover pesquisas focadas para avançar e acelerar a exploração e compreensão mais amplas de como os aspectos de confiabilidade podem ser incorporados de forma prática nos padrões e ferramentas relacionadas.
- Apoiar e expandir parcerias público-privadas para desenvolver e usar padrões de IA e ferramentas para promover IA estável, robusta e confiável.
- Desenvolver iniciativas estratégicas com as demais entidades e países para promover os padrões de IA para as necessidades econômicas e de segurança nacional dos EUA.
O desenvolvimento de padrões para TI
Assim como parte integrante das tecnologias e sistemas de IA, a TI engloba todas as tecnologias de captura, armazenamento, recuperação, processamento, exibição, representação, segurança, privacidade e intercâmbio de dados e informações. Dessa maneira, em todo o mundo, existem várias Organizações de Desenvolvimento de Padrões (Standard Development Organizations – SDOs) desenvolvendo padrões de TI usando diferentes modelos para atender às diversas necessidades de padronização.
Assim, rápida inovação em TI foi acompanhada pela competição entre SDOs em áreas de relevância de mercado (por exemplo, computação em nuvem, cibersegurança e Internet das Coisas). Dessa forma, encorajou os SDOs a simplificar seus processos de construção de consenso para desenvolver e aprovar padrões oportunos e tecnicamente sólidos que atendam às necessidades atuais do mercado.
Então, em 17/nov/2020, o escritório executivo da presidência dos EUA complementou a norma com um memorando, no qual entre outros pontos, destaca a necessidade de reduzir as barreiras à implantação e uso de IA.
Desse modo, consideram-se maneiras de reduzir as barreiras ao uso de tecnologias de IA para promover sua aplicação inovadora enquanto protege as liberdades civis, a privacidade, os valores americanos e a economia dos Estados Unidos e segurança nacional.
Cita-se ações que as agências podem realizar, fora do processo de formulação de regras, para criar um ambiente que facilite o uso e a aceitação da IA, como por exemplo:
- Acesso a dados e modelos federais para P&D de IA
- Comunicação com o público e mercado
- Participação da Agência no Desenvolvimento e Uso de Padrões de Consenso Voluntário e Atividades de Avaliação de Conformidade
- Cooperação Internacional para regulação
