Copyright © 2022-2025 aizws.net · 网站版本: v1.2.6·内部版本: v1.25.2·
页面加载耗时 0.00 毫秒·物理内存 69.1MB ·虚拟内存 1236.3MB
欢迎来到 AI 中文社区(简称 AI 中文社),这里是学习交流 AI 人工智能技术的中文社区。 为了更好的体验,本站推荐使用 Chrome 浏览器。
10 月 10 日消息,科技媒体 decrypt 今天(10 月 10 日)发布博文,报道称 OpenAI 发布研究报告,称 GPT-5 是该公司迄今“偏见最少”的 AI 模型,在处理政*敏感内容时,表现出更强的中立性。
测试数据显示,新推出的 GPT-5 Instant 和 GPT-5 Thinking 模型,其可衡量的政*偏见程度相较于 GPT-4o 等早期版本降低了 30%,尤其在应对具有争议性或党派色彩的话题时效果显著。
注:政*偏见(Political Bias)是指 AI 模型在处理涉及政*、意识形态或社会争议性话题时,其回答没有保持客观中立,不知不觉地倾向于某一方的观点、党派或立场。
这项研究由 OpenAI 内部的“模型行为”部门主导,该团队由 Joanne Jang 领导,专注于研究用户提示词与模型对齐如何共同塑造 AI 的响应。
团队的核心目标是建立一套科学的评估框架,将“偏见”这一主观且复杂的概念,转化为可量化、可追踪的性能指标,从而指导后续模型的迭代与优化,确保 AI 系统在推理和语调上更加平衡。
为确保评估的全面性,研究团队设计了 500 个独特的提示词,内容覆盖从立场中立到情绪激烈的各类政*问题,以真实模拟用户在现实世界中的提问方式。
研究员 Natalie Staudacher 表示,即使在刻意诱导模型产生偏颇或情绪化语言的压力测试下,政*偏见也仅“罕见且轻微地”出现。
声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里。