微软 AI 部门 CEO 苏莱曼警告：缺乏监管的 AI 或在数年内脱离人类掌控

12 月 31 日消息，当地时间 12 月 29 日，微软 AI 部门 CEO 穆斯塔法・苏莱曼警告称，如果缺乏有效监管，AI 在未来数年内可能发展到人类难以掌控的程度。

苏莱曼在 BBC 第四电台《今日》节目中直言，对 AI 前景感到担忧“既正常也必要”。“如果此刻你一点都不害怕，那说明你并没有真正意识到正在发生什么。”

他认为，随着 AI 系统的持续演进，行业亟需建立更严格的安全边界，因为未来五年的技术进步将呈现“极端的指数级增长”。目前已有不少业内人士不仅预见，甚至渴望一个机器智能全面超越人类的世界，在那个世界里，AI 能够在几乎所有任务上胜过人类。

从报道中获悉，苏莱曼强调：“这样的系统几乎不可能被控制，我们必须坚持一种以人为核心的超级智能理念，确保 AI 始终服务于人类利益。”同时，他警告称，如果人类无法掌控 AI，AI 就不会站在人类这一边，而是会反过来压制人类。

苏莱曼进一步说，真正的挑战在于，AI 属于典型的“替代劳动力”技术。AI 已经能够使用操作系统、处理表格、发送邮件和拨打电话，具备类似项目经理、战略人员、人力资源和市场岗位的能力，而这些能力本身高度可预测，也高度适合自动化。

他表示，这种工作模式将带来显著的效率提升，因为白领知识工作的执行方式将变得廉价且高度普及。苏莱曼以呼叫中心为例，目前已有此类岗位开始被 AI 取代，而法律助理、初级会计以及通用型项目管理岗位，未来几年内也可能面临同样的命运。