NIST AI RMF 1.0
Gestão de riscos de inteligência artificial
Referencial voluntário do NIST para gerir riscos de sistemas de inteligência artificial.
Ficha
- Nome oficial
- Artificial Intelligence Risk Management Framework (AI RMF 1.0), publicação NIST AI 100-1 (em tradução livre: Estrutura de Gestão de Riscos de Inteligência Artificial)
- Publicada por
- NIST (National Institute of Standards and Technology), órgão do Departamento de Comércio dos Estados Unidos.
- Tipo
- Referencial voluntário
- Certificável
- Não. É um referencial de uso voluntário: não traz requisitos para auditoria e não existe certificação oficial do NIST com base nele.
- Edição no Brasil
- Não há edição brasileira nem tradução oficial em português. No Brasil, usa-se a versão original em inglês.
- Edição internacional
- AI RMF 1.0 (NIST AI 100-1), publicada em 26 de janeiro de 2023. Versão vigente: 1.0; o NIST informa uma revisão em andamento. Complemento: Perfil de IA Generativa (NIST AI 600-1), de julho de 2024.
O que é
O AI RMF é um referencial do NIST para lidar com os riscos de sistemas de inteligência artificial. Ele organiza a gestão desses riscos em quatro funções: governar, mapear, medir e gerenciar. O uso é voluntário e serve a organizações de qualquer porte ou setor.
O que diz o texto oficial
O NIST publicou o AI RMF 1.0 em 26 de janeiro de 2023, por determinação da lei americana da iniciativa nacional de IA (National Artificial Intelligence Initiative Act of 2020). O texto foi elaborado com consulta pública e oficinas abertas. Ele se destina a organizações de qualquer porte e setor que projetam, desenvolvem, implantam, contratam ou usam sistemas de IA.
A primeira parte explica como enquadrar os riscos da IA e descreve as características de um sistema confiável. A segunda reúne as quatro funções (governar, mapear, medir e gerenciar), detalhadas em resultados esperados.
Não impõe obrigações: recomenda que cada organização adapte as ações ao próprio contexto e à própria tolerância a risco. Para isso, há materiais de apoio, como um guia prático (Playbook) e perfis de uso, entre eles o de IA generativa. O NIST trata o documento como vivo e informa uma revisão em andamento.
Para que serve
Serve para que quem desenvolve, contrata ou usa sistemas de IA trate os riscos desses sistemas de forma organizada, ao longo de todo o ciclo de vida. Ele ajuda a definir responsabilidades, entender o contexto de uso, escolher como medir o desempenho e os impactos e decidir como responder aos riscos encontrados. O foco é uma IA digna de confiança: sistemas válidos, seguros, transparentes, com privacidade protegida e vieses tratados. As ações propostas não são uma lista de verificação nem uma sequência obrigatória; cada organização adapta o referencial à própria realidade.
Por que importa
A inteligência artificial passou a apoiar decisões, análises e atendimento, e trouxe riscos próprios: resultados errados, vieses, pouca transparência e uso indevido de dados. O AI RMF dá um caminho organizado para tratar esses riscos. Foi construído pelo NIST de forma aberta, com consulta pública e contribuições dos setores privado e público. Por ser voluntário e não ligado a um setor, foi pensado como uma linguagem comum entre quem desenvolve, contrata e supervisiona sistemas de IA.
Fornecedores, parceiros e clientes usam cada vez mais IA em produtos, serviços e decisões que afetam a organização. O próprio referencial reconhece que o risco pode vir de dados, software e modelos de terceiros. Reconhece também que as métricas de quem desenvolve a IA podem não servir a quem a usa. Para o gestor de compliance, ele pode servir de roteiro de perguntas na due diligence. Vale perguntar quem responde pela IA no terceiro, como o uso foi mapeado, como desempenho e vieses são medidos e como incidentes são tratados. As respostas indicam maturidade, não garantia: o referencial não certifica ninguém.
Em destaque
- Trata riscos de dados, software e modelos pré-treinados vindos de terceiros, com acompanhamento contínuo.
- Alerta que as métricas de quem desenvolve a IA podem não servir a quem a contrata e a usa.
- Previsto em lei americana de 2020 (National AI Initiative Act) e escrito com consulta pública e oficinas abertas.
Temas centrais
- Governança: papéis, políticas e cultura de risco para a IA
- Mapeamento do contexto de uso e dos impactos possíveis
- Medição de desempenho, riscos e efeitos do sistema
- Resposta aos riscos e acompanhamento contínuo
- Características de uma IA digna de confiança: validade e confiabilidade, segurança para as pessoas, proteção contra ataques e resiliência, responsabilização e transparência, explicabilidade e interpretabilidade, privacidade e equidade
- Perfis de aplicação por setor ou uso, como o perfil de IA generativa
Veja também
- Diretriz
ABNT NBR ISO 31000:2018
Gestão de riscosDiretrizes internacionais para gerir riscos de forma estruturada e integrada.Conhecer a norma - Vocabulário
ABNT NBR ISO 31073:2022
Vocabulário de gestão de riscosTermos comuns da gestão de riscos, base de linguagem da família ISO 31000.Conhecer a referência - Guia de técnicas
ABNT NBR IEC 31010:2021
Técnicas de avaliação de riscosGuia de técnicas para identificar, analisar e avaliar riscos.Conhecer a referência - Lei federal
LGPD
Lei Geral de Proteção de Dados PessoaisLei brasileira que regula o tratamento de dados pessoais.Conhecer a referência - Relatório da LGPD
RIPD
Relatório de Impacto à Proteção de Dados PessoaisRelatório do controlador, previsto na LGPD, sobre riscos de tratamentos de dados pessoais.Conhecer a referência