分享栏:AI治理进阶官方资料与继续深入入口
这一页是 AI治理进阶 的配套资源页。
它适合放在团队长期维护的分享栏里,因为治理这件事最怕“一次看完,然后没人再管”。
官方主入口
- OpenAI Safety Best Practices:适合做日常治理和系统边界的最低配参考。
- OpenAI Guardrails and Human Review:适合理解审批点、护栏和高风险动作控制。
风险与治理框架
- NIST AI RMF:最适合作为治理总框架参考。
- NIST Generative AI Profile:把生成式 AI 的治理问题单独展开,更贴近大模型应用。
持续评估与红队视角
- OpenAI Safety:适合持续关注官方安全与治理方向。
- Anthropic Evaluation Tool:适合理解如何把风险与任务评估接起来。
继续深入时最值得追问的事
- 哪些场景应该默认卡住,而不是默认放开
- 数据边界、权限边界和审计留痕是否拆清
- 红队、监控和事故响应有没有形成闭环
- 治理是否已经从技术控制走向组织控制
一句话带走
AI 治理不是“写几条规范”,而是把风险分层、权限边界、审计、监控和组织责任一起做成长期机制。