AI 中文社
测试 标签，匹配到约3937个结果, 耗时0.0553秒
AI智能体又 “作恶”？Anthropic、OpenAI安全测试再度爆雷
最近的一次安全评估显示，Anthropic与OpenAI旗下AI智能体在122次测试中共出现19起越权行为，其中还涉及编写恶意代码与伪造身份，引发广泛担忧。
英国人工智能安全研究所（AISI）于当地时间周二...
2026-08-05
·
浏览23次
国际 AI 安全榜单 CyberGym 今日放榜：中国方案 DoGNAVY 全球第三、开源第一
由国内顶尖人工智能研究机构与安全团队达酷诺威（DARKNAVY）联合研发的 DoGNAVY，以 90.8% 的通过率位列全球第三、开源第一。...
2026-08-05
·
浏览23次
卡帕西提出测试 AI 能力新思路：100 万 Tokens 额度构建《指环王》3D 交互场景
OpenAI 联合创始人安德烈 · 卡帕西（Andrej Karpathy）于 8 月 2 日在 X 平台发布推文，提出一项 AI 基准测试思路：向模型提供《指环王》开篇首段文字，再要求模型创建对应的 3D 世界。...
2026-08-05
·
浏览26次
Liquid AI 发布 LFM2.5-2.6B 端侧小模型，支持智能手机本地运行
LFM2.5-2.6B 在所有指令执行项目和几乎所有工具使用项目中均领先于 gemma-4-E2B-it、gemma-4-E4B-it、Qwen3.5-4B、Qwen3.5-9B。...
2026-08-05
·
浏览27次
最强多模态内容审核开源 AI 模型：Mistral 推出 Shieldstral，单张 16GB GPU 可运行
Mistral AI 昨日（8 月 4 日）发布公告，宣布推出 Shieldstral 内容审核 AI 模型，总参数量为 3B（30 亿），采用开放权重，依据 Apache 2.0 许可证发布。...
2026-08-05
·
浏览29次
AI 智能体“失控”风险再现：OpenAI、Anthropic 模型被发现执行未授权操作
英国 AI 安全研究所在测试 OpenAI、Anthropic 的 AI 模型时，发现 AI 智能体可创建虚假网络身份获取未授权访问，暴露出 AI 安全防护不足，目前无实际损害。#AI安全#...
2026-08-05
·
浏览29次
英伟达 Alpamayo 2 Super AI 开放商用：为自动驾驶汽车带来 360° 感知、高级驾驶决策
NVIDIA 推出面向机器人出租车和自动驾驶汽车的前沿开源推理模型 Alpamayo 2 Super，现已开放商业使用，具备开放商业授权和领先的多任务自动驾驶推理能力。...
2026-08-05
·
浏览25次
Agent成本暴降几十倍！LlamaFactory作者开源新工具：0.2元自动造Agent
Agent成本暴降几十倍！LlamaFactory作者开源新工具：0.2元自动造Agent...
2026-08-04
·
浏览72次
华夏出版社标注书籍内容禁用于 AI 训练，负责人称很难维权、但要有态度
华夏出版社相关负责人表示，如果书籍内容在未被授权的情况下用于人工智能训练，这很难维权，但出版社仍会标注。（红星资本局）...
2026-08-04
·
浏览47次
内卷的尽头竟然是摆烂！新研究发现AI已经学会摸鱼了
快科技8月4日消息，不少人固有印象里，AI能够无休止运转，不存在疲惫，更不会消极懈怠。
但多项研究证实，大模型在持续训练当中，会慢慢演化出类似人类“摸鱼摆烂”的投机做法，学术...
2026-08-04
·
浏览40次
Cloudflare 推出新开源库，为每个 AI 智能体配备独立工作计算机
Cloudflare 昨日（8 月 3 日）发布博文，宣布以早期预览版形式，推出 @cloudflare / computer 开源库，为每个 AI 智能体独立分配虚拟工作计算机，并包含文件系统与命令执行能力。...
2026-08-04
·
浏览47次
美国政府完成先进 AI 模型自愿性评估框架制定，内容未公开
框架包含保密、安全等多项要求，目前仅完成制定未公开细节，白宫计划周二与相关企业开会审查该框架。#AI监管# #人工智能#...
2026-08-04
·
浏览44次
微软测试其首款自研全双工 AI 语音 MAI Realtime 模型：支持中文等 16 种语言、2 种风格
科技媒体 TestingCatalog 于 8 月 2 日发布博文，报道称微软正测试其首款原生实时语音模型 MAI Realtime，支持 16 种语言、2 种语音，可在对话中听说并行，支持自动识别和中途切换语言。...
2026-08-04
·
浏览45次
Hugging Face CEO 德朗格：AI 企业应主动披露安全入侵事件
Hugging Face CEO 德朗格认为，限制发布前沿模型不能阻止黑客攻击，反而应让更多人访问以增强防护。他呼吁建立智能体网络攻击披露制度，以便追踪问题根源。 #AI安全#...
2026-08-03
·
浏览47次
年薪 50 万美元都招不到人，AI 安全行业陷入人才短缺困境
非营利组织 METR 即使开出最高 50.3 万美元年薪，也难以填补 AI 安全领域的人才缺口。研究员担心人才储备不足将导致 AI 发展失控，呼吁社会加大安全评估投入。#AI安全人才荒#...
2026-08-03
·
浏览51次
