# Shadow Ai
**Source:** https://zh-hans.airisks.net/shadow-ai
**Language:** Simplified Chinese

---

影子 AI 是指在组织内部使用人工智能工具或系统，而负责监管这些使用的人员对此并不知情、未经批准或监督。按定义来说，它就是不受监管的，即使员工的目的是正当的或该工具看起来风险很低。

例如员工将工作信息输入公共聊天机器人、使用未经批准的 AI 转录服务，或在未经审查的情况下将模型连接到公司文件。该工具可能是免费的、嵌入在另一个产品中或通过个人账户访问，因此传统的采购记录可能会漏掉它。暴露风险取决于共享了什么信息、系统如何处理这些信息以及如何使用其输出。

## 为什么这很重要

未公开的使用可能会在不明条款下向供应商暴露机密、个人或受监管的信息。它还可能将不准确的输出引入决策、重现偏见、侵犯版权或在组织无法审计的地方记录数据。如果将AI工具用于重要任务，可能没有人检查过它是否合适，也没有人为其后果承担责任。

一刀切的禁令很少能解决根本需求。如果缺乏经批准的选项，或者这些选项速度慢、难以理解，人们可能会继续暗中。有效的应对措施应当使安全的途径变得切合实际，明确说明哪些信息绝对不能输入到未批准的服务中，并为员工提供申请评估工具的渠道。

## 在做出决定前，先了解实际使用情况

组织可以结合几种发现方法：审查软件采购和费用记录、咨询 IT 和安全团队、调查员工、在合法的情况下评估浏览器和网络信号，以及让业务部门识别已经在使用人工智能协助的任务。其目的是了解使用情况和数据流，而不是假设每个用户都在鲁莽行事。

对于每个识别出的用途，记录工具、目的、用户、涉及的数据、决策影响以及任何外部连接。然后对暴露风险进行分类并选择应对措施：制止有害用途、将其转移到经批准的服务、添加保障措施，或者在明确限制和有负责人的情况下批准它。保持开放的渠道来报告新用途，因为工具和功能变化很快。

一旦组织理解了这一模式，治理部门就可以通过批准的工具清单、培训、采购审查和技术控制来弥补实际差距。随着产品不断添加人工智能功能以及工作方式的改变，应重新检查这些措施。影子AI不仅仅是一个技术清查问题；它表明实际行为与正式治理之间可能已经出现了偏离。

## 相关术语

- 人工智能治理
- 人工智能风险管理
- 人工智能风险分类法

深入探讨：影子AI，按定义属于不受管制的范畴