# Home
**Source:** https://zh-hans.airisks.net/
**Language:** Simplified Chinese

---

通俗易懂的参考指南

# AI风险详解

AI风险是指因人工智能系统的开发、部署或使用而产生的伤害、损失或意外结果的可能性。它包括对个人、组织及其所依赖系统构成的风险。

浏览参考库

起点

## 三大类AI风险

三大类别提供了一个起点；单一事件可能同时影响多个层面。

### 战略风险

战略风险涉及组织是否应该使用AI、是否准备就绪以及预期收益是否值得承担风险。它包括与目标不一致、不当使用、问责制薄弱以及不可接受的依赖性。

### 运营风险

操作风险存在于人工智能的设计、获取、部署和使用过程中。它包括不可靠的输出、有偏见或不完整的数据、隐私和安全故障、滥用、审查不力以及中断。控制措施必须将模型、人员、供应商和流程综合考虑。

### 系统性风险与人工智能“黑天鹅”事件

系统性风险通过共享模型、基础设施、数据或激励机制在组织或社会中蔓延。一些高影响的尾部风险超出了操作分类法的范畴。韧性规划要求我们思考如何感知并做出响应，而不是试图预测每一个未知因素。

## 为什么人工智能风险不同于传统技术风险

传统软件被期望遵循预先编写的规则。人工智能系统根据学习到的模式产生输出，因此结果可能因环境和更新而异。其行为可能难以解释、重现或进行详尽测试，尤其是当模型与数据、人员和其他系统结合时。

这可能会使从决策到造成伤害的路径更难追踪。输出可能会影响人类决策、触发行动或在代理之间传递。风险分析应审查模型、更广泛的系统、目的、运行条件和相关责任人。其目的是明确假设、所有权和响应计划。

参考库

## 探索人工智能风险术语

每个条目都以简短的定义开头，然后解释该概念在实践中如何应用。

## 相关术语

- 人工智能风险管理
- 人工智能治理
- 人工智能风险分类法

常见问题

## AI 风险：快速解答

AI 风险与网络安全风险是一回事吗？
:   不是。网络安全只是 AI 风险的一部分，两者虽有重叠，但 AI 风险还涵盖了行为、伦理和系统性维度。

组织内谁负责 AI 风险？
:   归根结底，董事会负责组织的风险监督。每个部署的 AI 系统也应有一名指定的负责人，并赋予其监控系统并在情况发生变化时采取行动的权限。

AI 风险管理与 AI 治理有何区别？
:   治理确立了问责制、决策权和风险偏好。风险管理是在该治理框架内识别、评估和处理风险的运营准则。

深入了解：探索 EW-AiRM™ 框架