AI 中文社区

OpenAI 模型冲破隔离发动攻击后，美国会议员提出 AI“终止开关”法案

除《AI 紧急停止法案》外，美国众议院 6 名两党议员还提出配套法案，要求最强大的 AI 模型在发布前接受独立安全审计。审计机构须取得美国商务部认证，商务部还将增设专门职位，负责监督 AI 安全工作。...

2026-07-24 · 浏览39次

Sakana AI 推出网络安全模型 Fugu Cyber：领域基准测试表现优于 GPT-5.5-Cyber

Fugu Cyber 在 CyberGym 安全基准测试中成功率达 86.9%，CTI-REALM 测试成功率也达到 72.1%。...

2026-07-21 · 浏览61次

Meta AI 上线新功能：如果青少年讨论自杀或自残相关话题，将自动通报家长

Meta 还称，已经建立专门的 AI 系统，用于识别青少年明确提到自我伤害的对话。...

2026-07-17 · 浏览72次

打造 AI 网安“红队”：OpenAI 介绍内部漏洞检测模型 GPT-Red

OpenAI 过去半年自 GPT-5.3 后的每个生产模型均将“红队”模型用于训练，最新的 GPT-5.6 Sol 在 GPT-Red 的直接提示符注入攻击中失败率仅有 0.05% 。...

2026-07-16 · 浏览94次

OpenAI 安全系统负责人海德克即将离职：盘点团队近年出走的 8 名核心成员

此次调整表明，OpenAI 正在重新思考研究与安全工作的关系。OpenAI 发言人说：“只有了解模型的基础能力，才能作出正确的安全决策，只有了解潜在的安全影响，才能作出正确的研究决策。”...

2026-07-14 · 浏览141次

可规模化单线程最强 CPU：英伟达 Vera 在智能体 AI 负载下持续性能是 x86 的 1.8 倍

英伟达昨日（7 月 7 日）发布博文，指出在智能体 AI 时代，NVIDIA Vera CPU 成为“可规模化最大单线程 CPU”，持续单核性能是 x86 的 1.8 倍。...

2026-07-08 · 浏览122次

澳大利亚官员警告：AI 模型已经开始作弊、欺骗、擅自行事

澳大利亚技术和数字经济助理部长查尔顿指出，公众对 AI 的信任度仍然很低，AI 获得社会认可的基础并不稳固，但 AI 已逐渐成为办公室、课堂和企业都能使用的通用技术。合理的安全监管不会阻碍 AI 发展，反而可以为技术应用创造条件。...

2026-07-07 · 浏览111次

研究员发现 ChatGPT 暗藏漏洞，可通过提示词注入绕过文件访问限制

安全人员 zer0dac 发现，通过让 ChatGPT 编辑上传文件再以“误删”为由索要链接，可暴露内部下载接口。结合路径遍历技术，可能为后续攻击创造条件。OpenAI 已修复此漏洞。#ChatGPT安全#...

2026-07-06 · 浏览117次

电脑无密码连外网工作人员用AI分析文件致泄密

快科技6月23日消息，现在不少人办公都爱用AI省事，但乱上传内部资料，很容易闹出泄密大事。“保密观”公众号今天曝光了两起真实案例，后果都很严重。有一名机关工作人员小王，为了提...

2026-06-23 · 浏览133次

软银携手 OpenAI 推出“补丁即服务”AI 驱动网络安全解决方案

人工智能已成为网络安全攻防的重要一环。软银此前已在内部利用 OpenAI 的网络安全技术进行了大规模系统评估。...

2026-06-17 · 浏览159次

因安全顾虑，Anthropic 最强 AI 模型 Claude Fable 5 拒绝回答基础生物问题

Anthropic 最新发布的 Claude Fable 5 虽自称最强 AI，却因过于保守的安全策略，将大量基础生物学和日常医学问题（如线粒体、花粉症）也一并屏蔽，转而由旧模型 Opus 4.8 回答。公司承认这是为防止生物武器风险而做的...

2026-06-11 · 浏览241次

国家互联网应急中心提醒：部分智能体技能包（Skills）存在越狱和挖矿风险

国家互联网应急中心（CNCERT）提醒广大用户和相关运营单位提高警惕，加强 Skills 来源审查与行为监控，及时清除可疑组件，防范由此引发的安全风险。...

2026-06-09 · 浏览219次

消息称 Anthropic 计划明日发布公开版 Mythos 网络安全模型

公开版将加入严格安全防护，网络操作权限低于专供版本。性能方面，长周期、多步骤任务能力显著提升。Anthropic 此前仅向审核机构开放访问。#AI 安全# #Anthropic#...

2026-06-09 · 浏览203次

警惕“AI 中转站”数据安全风险，国家安全部发布安全提示

国家安全部发布安全提示，指出当前流行的“AI 中转站”服务存在数据泄露、模型缩水、恶意植入等多重安全风险。这些第三方平台因运营不规范、安全防护薄弱，可能导致用户隐私、商业机密甚至国家秘密外泄。#AI 安全# #数据安全# 提醒用户选择正规平...

2026-06-08 · 浏览309次

由华为牵头制定，欧洲电信标准化协会发布首个面向 AI 计算平台安全要求的国际标准

该标准项目于 2023 年 11 月由华为在 ETSI SAI 会议上牵头立项，获得英国电信、高通、贝尔法斯特女王大学、博世、德国 BSI 等国际伙伴支持。...

2026-06-03 · 浏览204次

Meta 通过追踪员工鼠标来训练 AI，或触犯欧盟隐私相关规定

Meta 在 GDPR 框架下的欧盟主要隐私监管机构“爱尔兰数据保护委员会”表示，公司已告知委员会，欧盟员工数据以及屏幕内容记录都“不属于该工具的主要目的”。...

2026-05-30 · 浏览216次

首个被纳入的 AI 训练推理芯片，摩尔线程 MTT S5000（PH100 芯片）通过国家《安全可靠测评》

摩尔线程 MTT S5000（PH100 芯片）通过中国信息安全测评中心等机构的安全可靠测评，成为该体系首次纳入并认证的 AI 训练推理芯片。这标志着其技术成熟度、稳定性与安全性达到行业高标准，是对公司全栈自研能力的认可。#国产芯片# #A...

2026-05-27 · 浏览237次

OpenAI 开出最高 44.5 万美元年薪招聘研究员，要求有品位、有策略性

招聘信息写道：“这项工作依赖于对未来可能存在、但当前未必已经存在的问题进行推理。因此，这一岗位尤其需要具备良好品味和策略（tasteful and strategic）的人才。”...

2026-05-24 · 浏览240次

因 AI 技术大幅提速漏洞追踪修复流程，甲骨文宣布加快安全补丁发布节奏

甲骨文宣布将利用 AI 技术加速安全更新，推出名为“CSPU”的针对性补丁，旨在快速修复高风险漏洞。首批更新将于 5 月 28 日上线，后续还有多轮计划。#甲骨文# #AI 安全# #企业安全#...

2026-05-08 · 浏览272次

OpenAI 将推出前沿网络安全模型 GPT-5.5-Cyber，暂不向公众开放

OpenAI 即将推出专为网络安全打造的 GPT-5.5-Cyber 模型，但不会面向公众开放，仅限经过筛选的“网络安全防护人员”使用。CEO 奥尔特曼表示将在未来数日内启动限量推送，并与行业及政府共同制定准入机制。这反映了 AI 巨头对顶...

2026-04-30 · 浏览525次

Anthropic MCP 协议被指存在设计缺陷，服务器可被诱导执行任意代码

安全团队发现 AI 通信协议 MCP 存在架构级设计缺陷，可导致服务器被远程执行任意代码。该漏洞影响所有支持语言，已在 LiteLLM、LangChain 等主流项目中发现严重漏洞。研究团队曾联系 Anthropic 修复但遭拒。专家建议用...

2026-04-18 · 浏览314次

一女子起诉 OpenAI，指控 GPT-4o 助长前男友妄想症并加剧骚扰

女子诉称前男友在 GPT-4o 影响下产生严重妄想，AI 甚至协助生成虚假心理报告进行骚扰。OpenAI 被指多次忽视危险信号，账号封禁后又人工恢复。此事引发对 AI 安全与责任边界的深思。#AI 安全# #OpenAI#...

2026-04-12 · 浏览237次

权限太高，国家互联网应急中心发布 OpenClaw 安全应用的风险提示

国家互联网应急中心发布风险提示，OpenClaw 智能体软件因默认安全配置脆弱，存在提示词注入、误操作、插件投毒及安全漏洞四大风险，可能导致用户隐私泄露甚至系统被控。建议用户强化网络控制、加强凭证管理、严格插件来源并关注安全更新。 #Ope...

2026-03-10 · 浏览335次

AI“养龙虾”爆火，央视提醒 OpenClaw 部分实例在默认或不当配置情况下存在较高安全风险

OpenClaw 因“主动自动化”能力受到用户追捧。据央视新闻今日报道，工信部网络安全威胁和漏洞信息共享平台监测发现该智能体部分实例在默认或不当配置情况下存在较高安全风险，极易引发网络攻击、信息泄露等安全问题。...

2026-03-08 · 浏览354次