AI 中文社
安全 标签，匹配到约41个结果, 耗时0.0255秒
权限太高，国家互联网应急中心发布 OpenClaw 安全应用的风险提示
国家互联网应急中心发布风险提示，OpenClaw 智能体软件因默认安全配置脆弱，存在提示词注入、误操作、插件投毒及安全漏洞四大风险，可能导致用户隐私泄露甚至系统被控。建议用户强化网络控制、加强凭证管理、严格插件来源并关注安全更新。 #Ope...
2026-03-10
·
浏览91次
AI“养龙虾”爆火，央视提醒 OpenClaw 部分实例在默认或不当配置情况下存在较高安全风险
OpenClaw 因“主动自动化”能力受到用户追捧。据央视新闻今日报道，工信部网络安全威胁和漏洞信息共享平台监测发现该智能体部分实例在默认或不当配置情况下存在较高安全风险，极易引发网络攻击、信息泄露等安全问题。...
2026-03-08
·
浏览119次
AI 来抢网安“饭碗”：Anthropic 推出安全工具 Claude Code Security
这一工具能像老练的网安工程师一样理清组件交互与数据流动的方式，捕获业务逻辑缺陷、访问控制失效等更为复杂的漏洞。...
2026-02-22
·
浏览122次
英国首相斯塔默：为确保青少年网络安全，将像与 Grok 战斗一样与 AI 聊天机器人战斗
斯塔默称，在勒令 X 平台对 AI 助手 Grok 创建未经同意的不雅深伪内容采取行动后，政府已经“赢得”了与 X 的“战斗”，现在是时候对“所有 AI 机器人”采取同样的行动了。...
2026-02-18
·
浏览129次
消息称因安全担忧，欧洲议会已禁用办公设备上的人工智能功能
因担忧数据泄露至云端及服务提供商，欧洲议会已禁用议员及工作人员办公平板电脑上的内置AI功能，包括写作助手、内容摘要等。议会建议在私人设备上采取类似防范措施，避免工作信息暴露给AI扫描。这反映了欧盟对数据安全及本土技术自主的持续关注。#欧洲议...
2026-02-17
·
浏览123次
Anthropic 安全负责人 Mrinank 离职，称无法认同公司价值观
Anthropic安全部门主管Mrinank Sharma宣布离职，并在公开信中坦言，公司日益增长的经济压力使其行为与自身价值观相悖，工作中面临调整优先级或务实妥协的压力。他决定彻底离开科技行业，转向诗歌和哲学领域深造。#AI安全# #科技...
2026-02-13
·
浏览123次
英政府机构专家警告：世界“恐将没时间”为应对 AI 安全风险做好准备
据英国《卫报》报道，英国先进研究与发明署（Aria Agency）项目主管、AI 安全专家 David Dalrymple 警告称，前沿 AI 系统带来的安全风险发展速度之快，可能已经让世界来不及充分准备。...
2026-01-05
·
浏览172次
“AI 教父”约书亚・本吉奥示警：人工智能已显现“自我保护”迹象
AI先驱、2018 年图灵奖得主约书亚・本吉奥警告，赋予AI权利将是一次危险的误判。在AI已经显现出自我保护行为的背景下，人类必须准备好在必要时关闭系统、拔掉电源。...
2026-01-01
·
浏览216次
全美检察长协会致信批评微软等科技公司：AI 聊天机器人不能忽视安全
信中点名警告微软，指出其 AI 在输出内容时反复出现奉承与妄想倾向，并已引发严重后果。信中提到，弱势群体因依赖 AI 而出现自杀、中毒、因精神症状入院及陷入妄想等事件。...
2025-12-12
·
浏览240次
ChatGPT 被指与“先杀人后自杀”案有关，OpenAI、微软双双遭到起诉
56 岁男子 Soelberg 与 83 岁母亲 Suzanne Adams同住，并长期通过 ChatGPT 表达他被监视、遭人谋害的恐惧。根据诉状，他在 8 月先杀害母亲，随后自尽。家属认为，他与聊天机器人持续数月的交互让偏执不断加深，最...
2025-12-11
·
浏览247次
OpenAI 亲自“打预防针”，警告自家新模型存在“高级别”网络安全风险
OpenAI 通过官方博客文章发出提醒：随着其下一代人工智能模型的能力迅速提升，可能会带来“高”级别的网络安全风险。...
2025-12-11
·
浏览228次
黑客成功“欺骗”ChatGPT、Grok、谷歌，诱导其辅助安装恶意软件
这种攻击最危险的一点是完全避开传统的警示信号。受害者不需要下载文件、不需要安装软件，甚至不需要点击可疑链接，只要信任谷歌和 ChatGPT 即可。...
2025-12-11
·
浏览204次
研究称 OpenAI、xAI 等全球主要 AI 公司安全措施“不及格”，远未达全球标准
据路透社报道，“未来生命研究所”今天发布了最新 AI 安全指数，指向 Anthropic、OpenAI、xAI 和 Meta 等主要 AI 公司的安全措施“远未达到新兴的全球标准”。...
2025-12-03
·
浏览196次
研究揭示 OpenAI Sora2 监管漏洞：13 岁账号即可轻易生成“校园枪击”视频
在美国青少年精神健康问题日益严峻的背景下，风险尤其突出。一名华盛顿州的青少年此前因与 ChatGPT 反复交流而陷入妄想，最终自杀。类似悲剧已多次被归因于 OpenAI 的产品。...
2025-11-30
·
浏览197次
警惕 AI 大模型“读心”：央视提醒含个人信息的图片别往朋友圈发
据央视新闻报道，随着大模型在各行业深度应用，其安全风险呈现出复合化特征。看似简单的图片、文字信息等内容通过 AI 处理，可能泄露个人身份信息、人际关系等敏感内容。照片上传后，人像识别技术会把人物身份提取出来，还可能被不法分子进一步利用。...
2025-11-11
·
浏览203次
美国多所学校部署监控工具，实时监测学生与聊天机器人对话以预防心理问题
安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。...
2025-11-09
·
浏览262次
美国参议员提出“GUARD”法案，拟禁止未成年人使用 AI 聊天机器人
据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天机器人。...
2025-10-29
·
浏览242次
研究称 AI 模型或将形成自己的“生存驱动力”，避免被人类关闭命运
前 OpenAI 员工斯蒂文・阿德勒表示：“除非我们刻意避免，否则模型天生可能具备‘生存驱动力’。‘生存’对模型实现多种目标都是关键步骤。”...
2025-10-27
·
浏览287次
宇树科技回应机器人存安全漏洞：已完成大部分修复工作，将在不久后推送更新
宇树科技旗下多款机器人被曝存在安全漏洞，攻击者可远程获取root权限并形成僵尸网络。公司回应已完成大部分修复，即将推送更新。#机器人安全# #宇树科技#...
2025-09-30
·
浏览280次
以 AI 应对 AI：专家讲解如何高效应对网络攻击威胁
2025国家网络安全宣传周AI安全治理分论坛在昆明举行，探讨AI在网络安全领域的应用。通过AI模型三级降噪筛选，网络攻击告警效率提升98%，实现AI对抗AI的自动化拦截。#网络安全##AI技术#...
2025-09-17
·
浏览202次
公安网安部门依法对某人工智能服务科技有限公司予以行政处罚
国家网络安全通报中心今日发文，公安网安部门在“护网 —2025”专项工作中发现，某主营业务为对外提供人工智能模型训练基础数据（算料）的科技有限公司，在处理人脸等生物识别类敏感个人信息前，未按《个人信息保护法》有关规定进行个人信息保护影响评估...
2025-09-15
·
浏览317次
美国 FTC 出手，要求 OpenAI、谷歌等 7 家 AI 巨头说清如何保证青少年安全
美国联邦贸易委员会（FTC）要求七家 AI 聊天机器人公司提交资料，说明它们如何评估虚拟陪伴对儿童和青少年的影响。...
2025-09-12
·
浏览284次
美国加州、特拉华州检察长警告 OpenAI：对伤害儿童的行为应当零容忍
美国加利福尼亚州总检察长罗伯・邦塔和特拉华州总检察长凯西・詹宁斯近日会见了 OpenAI，并向公司发出公开信，表达自身对 ChatGPT 安全性的担忧，尤其是针对儿童和青少年的使用风险。...
2025-09-06
·
浏览311次
博主质疑谷歌“AI 试衣”存在隐私风险，竟遭对方高管拉黑
自我介绍为“旅行博主”的 Nate Hake 批评谷歌一项 AI 功能不当，随即被谷歌高管拉黑，引发了围绕技术责任、数据伦理等话题的广泛争议。...
2025-08-02
·
浏览365次
