# Ai Risk Appetite
**Source:** https://zh-hans.airisks.net/ai-risk-appetite
**Language:** Simplified Chinese

---

AI 风险偏好声明描述了组织在追求其目标时愿意接受的 AI 相关风险的类型和水平。一份有用的声明将广泛的原则转化为决策阈值、限制和升级规则，从而指导有关 AI 系统的实际抉择。

风险偏好由组织的治理机构设定，应反映其宗旨、法定义务、资源以及受其决策影响的人员。它并不是宣称 AI 是安全的或不安全的。不同的用途会产生不同的风险敞口：起草内部摘要的工具与影响工作、医疗保健、信贷或基本服务获取的系统，其后果并不相同。

## 使声明具备可操作性

没有具体阈值的声明只是新闻稿，而不是治理工具。“负责任”、“低风险”或“以人为本”等词汇表达了意图，但并未告诉团队何时需要批准提议的用途、可以接受什么残余风险或谁可以停止部署。一个有用的风险偏好声明定义了可衡量或可观察的边界，并解释了超出这些边界时会发生什么。

阈值可以涉及潜在危害的严重性和可逆性、证据质量、允许的人工审核级别、数据敏感性、模型性能或对单一供应商的依赖。它们还应确定不可妥协的限制，例如组织政策规定禁止的用途或不能委派给自动化系统的决策。措辞需要确保董事会成员、系统所有者和技术团队都能理解。

## 将风险偏好与决策联系起来

对于拟议的人工智能应用，所有者可以记录其预期效益、受影响群体、主要风险、证据和控制措施，然后将残余风险与商定的限度进行比较。如果超出限度或证据薄弱，下一步应该明确：获得额外保证、缩小应用范围、增加控制措施、寻求更高层级的批准或拒绝部署。这使得风险偏好成为决策过程的一部分，而不是一份脱离日常运营的文件。

风险偏好还需要反映不确定性。系统可能在测试中表现良好，但在发布后会遇到不熟悉的输入或不断变化的环境。组织可以在证据有限的情况下设定更严格的限度，要求分阶段部署，并定义触发暂停或重新评估的信号。风险偏好不能取代持续监控，也不能取代在出现实际危害时采取行动的职责。

随着组织的应用、义务和风险状况不断演变，请对该声明进行审查。合理的方法是将企业级边界与系统级容忍度联系起来，而不是假定可以用单一数字来描述每种形式的人工智能风险。指定的负责人需要明确哪些决策可以自行做出，哪些决策需要上报给高层领导或董事会。

## 相关术语

- 人工智能治理
- 人工智能风险管理
- 人工智能的人类监督

深入了解：EW-AiRM™ 框架