Anthropic CEO 提议引入“银行式监管”：专家称评估员无权叫停 AI，你不能既当运动员又当裁判
AI 解读 整体概述
Anthropic CEO Dario Amodei 提议将独立第三方安全评估员嵌入前沿 AI 公司，赋予其类似内部风险团队的访问权限，并自主发布调查结果，援引银行业嵌入式监管为先例。但多位银行业监管专家和 AI 评估从业者指出，该方案缺乏银行监管者的强制执行权，评估员无法阻止模型训练或发布，权力不可同日而语。此前 Anthropic 前员工也曾批评公司安全承诺。
核心要点
- Anthropic CEO 提议第三方安全评估员嵌入 AI 公司。
- 评估员应拥有接近内部风险团队的访问权限。
- 可自主发布调查结果，援引银行业嵌入式监管。
- 专家指出评估员缺乏强制执行权，无法叫停模型。
- 银行业监管者拥有强制权力，两者不可同日而语。
深度分析 影响与意义
Amodei 的提议旨在提升 AI 安全透明度，但缺乏强制执行权可能使监管流于形式。银行业监管有法律后盾，而 AI 评估员无此权力，难以有效制衡。这反映 AI 安全治理的困境：行业自律与外部监管如何平衡。若无法赋予实权，此类提议可能被批为“既当运动员又当裁判”，影响公信力。