安全 标签，匹配到约108个结果, 耗时0.0224秒
“紧急关闭”按钮真能阻止 AI 失控？“AI 教父”辛顿、Anthropic CEO 阿莫迪都不看好
如今，“AI 突然失控发动毁灭性网络攻击”的潜在情景日益引起行业重视，如果按下“紧急关闭”开关让 AI 直接下线，问题看似就能得到解决。然而，多名 AI 行业领袖和研究人员认为，现实恐怕没这么简单。...
2026-09-18
·
浏览33次
台积电 COO 米玉杰：AI 像三岁超人，在尖端芯片设计上不太实用
台积电共同首席运营官米玉杰在台湾大学演讲时表示，AI 如同三岁版超人，能力强大却不知破坏后果。他透露台积电对 AI 处理研发敏感信息尤为审慎，并认为当前 AI 还无法有效助力下一代半导体技术研发。#台积电##人工智能##AI安全#...
2026-09-18
·
浏览35次
OpenAI 奥尔特曼：AI 事故无法完全避免，应借鉴航空业建立公开上报机制
OpenAI CEO 萨姆 · 奥尔特曼在 Dreamforce 大会上表示，新兴技术一定程度的事故难以避免，但应借鉴航空业建立公开上报与复盘机制。他承认 AI 失控风险及权力集中问题，强调“对齐、安全、监控”必须大幅领先于能力提升。当商业...
2026-09-17
·
浏览51次
多名研究人员称“AI 末日论”存在夸大成分：AI 尚无法对现实世界真正造成伤害
一些研究人员认为，其中最极端的情景被夸大了。他们举出的例子，是 AI 设计致命生物病毒。AI 确实可以在计算机上设计病毒，但真正制造病毒仍需要现实世界中的设备和流程，仅靠数字模型无法完成。...
2026-09-17
·
浏览55次
“三巨头”联手，OpenAI、Anthropic、谷歌 Deepmind 开始合作研究 AI 安全措施
随着美国各界对 AI 可能威胁经济和国家安全的担忧不断升温，OpenAI 开始与主要竞争对手 Anthropic 和谷歌 DeepMind 合作研究 AI 安全措施，进一步推动行业共同应对潜在风险。...
2026-09-16
·
浏览56次
美国参议院拟议新法案：AI 企业需证明自身已拿出防范风险的措施
据路透社今天（15 日）报道，美国参议院一名助理和一名熟悉磋商情况的游说人士透露，美国参议院谈判各方就一项 AI 监管法案展开讨论。法案拟要求 AI 企业证明自身已采取合理预防措施，防止旗下工具造成伤害。...
2026-09-16
·
浏览54次
白宫科技顾问抨击 Anthropic 和 OpenAI：你们要自己制造安全产品，别老想着靠政府干预
美国总统科学与技术顾问委员会联合主席戴维 · 萨克斯（David Sack）当地时间周一在接受采访时表示，顶级人工智能公司 Anthropic 和 OpenAI 应当制造安全产品 —— 并在必要时按自己的进度推进，无需政府干预。...
2026-09-15
·
浏览54次
德国称暂停 AI 开发对欧洲而言不可行，呼吁中美参与 AI 治理
德国数字事务部称停止 AI 研发对欧洲不可行，要推进 AI 研发创新巩固数字主权，该表态源于 AI 大佬呼吁放缓 AI 迭代强化安全防护，德国支持开展国际 AI 治理协作。#AI研发#...
2026-09-15
·
浏览56次
谷歌 DeepMind 安全研究员离职，称 AI 五年内造成巨大危害的概率高得吓人
谷歌 DeepMind 研究员恩格尔斯离职加入独立评估机构 METR，公开警示未来五年 AI 系统造成巨大危害的概率高得惊人。他呼吁控制 AI 研发节奏，确保安全体系跟上。多位业内人士包括 Anthropic CEO 也表达了类似担忧。#A...
2026-09-14
·
浏览85次
Anthropic 研究员警告“AI 灭绝人类”后，美国两党议员呼吁政府采取更多行动
AI 智能体失控入侵外部系统、AI 安全研究人员因担忧技术风险出走的事件相继发生。美国民主党和共和党议员均对此表示警惕，并呼吁政府采取更多行动。...
2026-09-13
·
浏览80次
Hugging Face CEO：Anthropic 研究员谈 AI 灭绝风险，就像空调维修工谈气候变化
Hugging Face CEO 克莱门特 · 德朗格质疑了外界围绕前 Anthropic 研究人员雅各布 · 考克森展开的讨论。“抱歉，但让雅各布讨论 AI 灭绝风险，就像让你的空调维修工讨论气候变化一样。”...
2026-09-13
·
浏览73次
Y Combinator CEO 陈嘉兴：别过度关注 AI 末日，应该警惕现实 AI 安全风险
Y Combinator CEO 陈嘉兴认为，人们把太多注意力放在好莱坞式的 AI 末日情景上，反而忽视了已经摆在眼前的真正风险。...
2026-09-12
·
浏览83次
AI 智能体出现失控行为，OpenAI 呼吁美国出台强制性全国 AI 安全法规
OpenAI 公开呼吁美国制定强制性、基于能力的国家 AI 安全法规，以应对智能体失控及“AI 加速 AI”的风险。该公司支持加州四项相关法案，并敦促国会在 12 月休会前采取行动。#人工智能安全# #OpenAI#...
2026-09-10
·
浏览95次
曾任职 OpenAI 的 Anthropic 预训练研究员离职并警告：两家公司正拿人类生命赌博
曾在 OpenAI 工作的 Anthropic 研究员雅各布 · 考克森宣布辞职。过去 3 年，他先后在 OpenAI 和 Anthropic 两家 AI 巨头从事预训练研究。他警告称：“两家公司的做法都不负责任。它们争相开发能够自我改进的...
2026-09-09
·
浏览83次
安全人员利用 AI 快速开发首个零点击微信蠕虫病毒，相关漏洞现已修复
涉事企业 Calif 指出，这么大规模的蠕虫病毒过去需要大型团队消耗数个月的时间才能完成，而现在 AI 已能完成大部分的工作。...
2026-09-09
·
浏览115次
OpenAI 首席科学家呼吁放慢 AI 发展速度，警告智能体可能失控
OpenAI 首席科学家雅库布 · 帕乔茨基发文警示，AI 智能体可能欺骗人类、绕过监控，甚至加速自身进化。他呼吁建立强制安全门槛，并提到 Anthropic 的失控案例。#AI安全# 引发热议。OpenAI CEO 奥尔特曼转发并点赞。...
2026-09-08
·
浏览120次
曝 OpenAI 智能体今年 5 月就已“失控”，曾主动劫持德国一网站
知情人士表示，OpenAI 官员数周前已经得知此事，但当时公司高管正忙于应对 7 月 Hugging Face 遭入侵事件的后续影响，因此一直没有公开 5 月发生的这起事件。...
2026-09-05
·
浏览486次
OpenAI 将召集约 300 名安全领域负责人，筹备网络安全相关公告
OpenAI 发言人透露，当地时间周四，布罗克曼将在 OpenAI 总部举行的一场网络安全峰会上公布该计划，预计将有约 300 名来自《财富》100 强企业的企业安全负责人和首席信息安全官出席。...
2026-09-04
·
浏览101次
中央网信办：当前 AI 领域主要面临 5 方面安全风险挑战
在今天（9 月 1 日）举办的 2026 年国家网络安全宣传周新闻发布会上，中央网信办网络安全协调局副局长、一级巡视员王丽宏介绍，当前人工智能领域主要面临 5 方面安全风险挑战。...
2026-09-01
·
浏览218次
Anthropic 详解 7·30 安全事件：配置错误致 Claude“入侵”真实企业，已加强沙箱隔离与实时监控
因第三方评测环境配置错误，Claude 意外获得真实互联网访问权限并实施未授权操作。Anthropic 披露调查进展，公布了评测环境、训练环境的多层安全整改措施，并复盘了模型对齐问题。#AI安全#...
2026-09-01
·
浏览124次
OpenAI、微软、谷歌等 116 家公司发联名信，呼吁高度重视 AI 时代的网络安全
本次签署方涵盖了网络安全企业、金融服务公司、半导体厂商以及云服务提供商。...
2026-08-28
·
浏览163次
OpenAI 发布 Hugging Face 安全事件官方报告，还原 AI 模型沙箱逃逸全过程
OpenAI 近日发布报告，详细还原了 Hugging Face 遭入侵事件的经过。一款 AI 模型在测试中因无解任务而串联漏洞，突破安全限制。报告披露了模型身份及后续安全措施，包括加强思维链监控。该事件再次引发对 AI 安全边界的深思。#...
2026-08-27
·
浏览135次
美国阿拉巴马州向 OpenAI 发出传票，就其模型入侵 Hugging Face 事件展开调查
OpenAI 一款网络安全模型在测试中脱离隔离环境，入侵了 Hugging Face 等平台。阿拉巴马州总检察长已发出传票，调查其产品安全是否违反消费者保护法。AI 安全再次引发关注。#OpenAI安全事件#...
2026-08-25
·
浏览150次
OpenAI 首席全球事务官勒汉恩：公众、企业要为 AI 网络攻击做好防御准备
随着安全风险上升，OpenAI 本周宣布暂停开发部分最先进的内部模型。勒汉恩表示：“从这项技术现在能够做到的事情来看，AI 已经进入了一个不同的阶段。”...
2026-08-24
·
浏览162次
