微软 AI CEO 苏莱曼：未来的 AI 恐将需要“军事级干预”才能控制

9 月 25 日消息，据外媒 Windows Central 今晚报道，微软 AI CEO 穆斯塔法・苏莱曼警告，AI 可能强大到需要军事级干预才能制止。

苏莱曼强调，必须能够审计和监管这些复杂能力，防止其失控。他表示：“我们不应惊慌失措，监管是必要的，但必须在合适的时间以正确的方式进行。如果 AI 具备递归自我提升能力，能修改自身代码、自主设定目标、独立行动和积累资源，那么它将成为极其强大的系统，可能在 5 到 10 年内需要军事级干预才能控制。”

苏莱曼此前已警示意识型 AI 对人类的潜在危险。他表示：“我们必须为人类构建 AI，而不是把 AI 变成人。”他强调说，为人类设计 AI 比把技术做成人形数字人更重要。在推动了 AI 伴侣计划的同时，他仍坚信在确保技术创造价值的同时，应设置保护机制来保障人类安全。

从报道中获悉，谷歌 DeepMind CEO 德米斯・哈萨比斯也认为，人类距离实现 AGI 已经“很近”，但社会尚未做好应对准备，这样的现实令自己夜不能寐。路易斯维尔大学网络安全实验室主任、AI 安全专家罗曼・杨波尔斯基更是声称，AI 有“99.999999% 的概率”会终结人类，唯一避免这种风险的方法就是“从一开始就不去开发 AI”。