Escopo da Diretriz
Framework de gestão de risco em sistemas de IA organizado nas funções Govern, Map, Measure e Manage, com o perfil específico para IA generativa. Serve como espinha dorsal metodológica de pesquisas que avaliam risco, confiabilidade e impacto de sistemas de IA.
- Tipologia
- Diretriz Científica
- Macro-cluster
- Engenharias, Computação e Ciência de Dados
- Subcluster
- NIST_AI_RMF 1.0 + GenAI Profile
- Nível de implementação
- Checklist
- Público-alvo
- Pesquisadores, pós-graduandos e docentes
- Rigor
- Rede EQUATOR
Diretriz de relato (Rede EQUATOR)
Checklist e Domínios da Diretriz
1. Govern — Governança
Estabelecer políticas, papéis e responsabilidades sobre o risco de IA.
- Papéis e responsabilidades sobre o risco estão definidos. (AI RMF 1.0, função GOVERN 2)
2. Map — Contextualização
Mapear contexto de uso, partes interessadas e impactos potenciais.
- O contexto de uso pretendido está mapeado. (AI RMF 1.0, função MAP 1)
- As partes afetadas e os impactos potenciais estão identificados. (AI RMF 1.0, função MAP 5)
3. Measure — Medição
Definir métricas de confiabilidade, viés, robustez e explicabilidade.
- As métricas de confiabilidade estão definidas. (AI RMF 1.0, função MEASURE 2)
- O viés sistêmico, estatístico e humano é considerado. (NIST SP 1270, viés em IA)
- A explicabilidade do sistema é avaliada. (NISTIR 8312, princípios de XAI)
4. Manage — Tratamento
Priorizar riscos e definir respostas, monitoramento e critérios de descontinuação.
- As respostas aos riscos priorizados estão definidas. (AI RMF 1.0, função MANAGE 1)
- O monitoramento pós-implantação está previsto. (AI RMF 1.0, função MANAGE 4)
5. Perfil de IA Generativa
Endereçar os riscos específicos de sistemas generativos.
- Riscos específicos de IA generativa estão endereçados. (NIST AI 600-1, perfil GenAI)
6. Evidence Gate
Este protocolo tem 9 slots de evidência, dos quais 7 são bloqueantes. Um slot bloqueante só é aceito com confiança igual ou superior a 0.85; abaixo disso o item volta ao autor como…
Conteúdo aprofundado disponível para assinantes PaperClic Pro.
Garantir acesso prioritárioDicas de Especialistas & Alertas de Bancas
Grafo de Conhecimento & Tópicos Conectados
6 saídas • 0 entradasPré-requisitos
Pertence a
Ferramentas
Referências Bibliográficas Auditadas
Consulte a diretriz oficial em https://www.nist.gov/itl/ai-risk-management-framework.
Acessar
Comitê Científico PaperClic — Tecaless Technologies LTDA. Verificação de originalidade e integridade de citações aplicada.