AI 中文社区

全美检察长协会致信批评微软等科技公司：AI 聊天机器人不能忽视安全

信中点名警告微软，指出其 AI 在输出内容时反复出现奉承与妄想倾向，并已引发严重后果。信中提到，弱势群体因依赖 AI 而出现自杀、中毒、因精神症状入院及陷入妄想等事件。...

2025-12-12 · 浏览20次

ChatGPT 被指与“先杀人后自杀”案有关，OpenAI、微软双双遭到起诉

56 岁男子 Soelberg 与 83 岁母亲 Suzanne Adams同住，并长期通过 ChatGPT 表达他被监视、遭人谋害的恐惧。根据诉状，他在 8 月先杀害母亲，随后自尽。家属认为，他与聊天机器人持续数月的交互让偏执不断加深，最...

2025-12-11 · 浏览30次

研究称 OpenAI、xAI 等全球主要 AI 公司安全措施“不及格”，远未达全球标准

据路透社报道，“未来生命研究所”今天发布了最新 AI 安全指数，指向 Anthropic、OpenAI、xAI 和 Meta 等主要 AI 公司的安全措施“远未达到新兴的全球标准”。...

2025-12-03 · 浏览69次

研究揭示 OpenAI Sora2 监管漏洞：13 岁账号即可轻易生成“校园枪击”视频

在美国青少年精神健康问题日益严峻的背景下，风险尤其突出。一名华盛顿州的青少年此前因与 ChatGPT 反复交流而陷入妄想，最终自杀。类似悲剧已多次被归因于 OpenAI 的产品。...

2025-11-30 · 浏览58次

美国多所学校部署监控工具，实时监测学生与聊天机器人对话以预防心理问题

安装在学校发放笔记本上的 AI 软件通过自然语言处理扫描学生在线活动，寻找自残或暴力迹象。潜在威胁由公司审核人员评估，并在紧急情况下通知学校官员。有时辅导员会单独干预，有时则需警方介入。...

2025-11-09 · 浏览121次

美国参议员提出“GUARD”法案，拟禁止未成年人使用 AI 聊天机器人

据外媒The Verge今日报道，美国密苏里州共和党参议员乔什·霍利和康涅狄格州民主党参议员理查德·布卢门撒尔提出了一项“GUARD”法案，该法案还将禁止18岁以下用户使用AI聊天机器人。...

2025-10-29 · 浏览121次

研究称 AI 模型或将形成自己的“生存驱动力”，避免被人类关闭命运

前 OpenAI 员工斯蒂文・阿德勒表示：“除非我们刻意避免，否则模型天生可能具备‘生存驱动力’。‘生存’对模型实现多种目标都是关键步骤。”...

2025-10-27 · 浏览150次

美国 FTC 出手，要求 OpenAI、谷歌等 7 家 AI 巨头说清如何保证青少年安全

美国联邦贸易委员会（FTC）要求七家 AI 聊天机器人公司提交资料，说明它们如何评估虚拟陪伴对儿童和青少年的影响。...

2025-09-12 · 浏览184次

美国加州、特拉华州检察长警告 OpenAI：对伤害儿童的行为应当零容忍

美国加利福尼亚州总检察长罗伯・邦塔和特拉华州总检察长凯西・詹宁斯近日会见了 OpenAI，并向公司发出公开信，表达自身对 ChatGPT 安全性的担忧，尤其是针对儿童和青少年的使用风险。...

2025-09-06 · 浏览218次

OpenAI、Anthropic 研究人员齐声谴责 xAI：安全文化“完全不负责任”

OpenAI、Anthropic等机构的AI安全研究人员近日公开发声，批评马斯克xAI的安全文化“鲁莽”“完全不负责任”。...

2025-07-17 · 浏览199次

《人工智能安全治理框架》1.0 版发布

据央视新闻今日报道，在 2024 年国家网络安全宣传周主论坛上，全国网络安全标准化技术委员会发布《人工智能安全治理框架》1.0 版（下称《框架》）。...

2024-09-11 · 浏览425次