200 名专家编写报告：AI 发展可能对人类构成“灭绝级威胁”

3 月 14 日消息，美国国务院委托编写了一份新报告，警告 AI 正呈指数级发展，可能会对人类构成“灭绝级威胁”。

这份报告全称为《提高先进人工智能安全保障的行动计划》，要求美国政*必须迅速、果断地采取行动，以避免 AI 带来的重大国家安全风险。报告接着说，如果不实施这些阻碍措施，人工智能或人工通用智能（AGI）就有可能成为“对人类物种的灭绝级威胁”。

这份报告由 200 多名来自 OpenAI、Meta、谷歌、谷歌 DeepMind 等人工智能领域大公司的高管，以及政*工作人员参与，建议美国政*限制和监管 AI 的发展，并要求 AI 公司训练任意新的 AI 模型时都需要提交申请。

从报道中获悉，报告中还建议美国政*立法，宣布开源重要 AI 模型定为非法，认为这些模型中的信息可能会导致“对全球安全具有潜在破坏性的后果”。