AI 治理是一套决策权、问责制、政策和监督安排，用于指导组织如何开发、采购和使用人工智能。它明确了谁可以批准某项用途、适用哪些限制以及在系统整个生命周期中如何上报问题。

良好的治理始于系统选型之前。领导者应评估 AI 是否适合该任务、哪些人员或服务可能受到影响，以及组织是否能够管理由此产生的风险。这些答案决定了允许的用途、可接受的风险水平、审查要求以及停止使用的条件。治理还应涵盖从供应商处购买的系统以及员工私自引入的工具。

问责制需要落实到具体个人

委员会可以制定政策、审查证据并解决问题，但问责制无法由委员会承担。每个部署的 AI 系统都应有一名具名的负责人。该负责人需要具备足够的权力来质疑性能、请求更改、暂停使用并确保事件传达给相关人员。如果只指定某人却不赋予他们接触证据或决策的权力，那就只是纸面上的问责。

在组织层面，董事会最终负责监督风险。高管将这一责任转化为可行的治理结构：谁批准高影响力的使用，谁监督对内部政策的合规性，谁检查技术性能，以及谁可以进行干预。系统负责人无需亲自完成每一项任务，但应清楚哪些团队在执行这些任务，并对系统的运行负有责任。

治理与合规

合规旨在评估组织是否满足特定的法律或政策要求。治理则更为广泛。它确立了组织针对人工智能的目标、风险偏好、决策权以及监督机制，涵盖了规则不完善或适用多项法律的领域。合规证据可以为治理提供参考，但填完一份检查清单并不足以证明某个系统是合适的、公平的或处于有效控制之下的。

有效的治理应当适度且与实际决策紧密相连。它记录了系统使用背后的原因、接受了哪些风险、谁有权更改其用途以及触发审查的信号。它还为员工提供了一条无需率先证明危害即可报告异常行为的途径。当责任、阈值和上报路径明确时，组织就能更好地在系统或环境发生变化时进行学习和应对。