谷歌推出智能体视频理解功能:提升 Gemini 模型视频分析准确率,大幅降本减耗

浏览5次 点赞0次 收藏0次

9 月 2 日消息,谷歌今日宣布在最新的 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 模型中,推出 智能体视频理解(agentic video understanding)功能。该新功能可提升视频分析准确率,同时大幅减少视频分析过程中的 Token 使用量和成本。

Gemini智能体视频理解

该功能使用标准 Gemini API Token 定价,不收取额外功能费用。

    与现有“静态”处理方式(模型按固定帧率读取视频,默认 1 FPS,可通过 API 调整)不同,智能体视频理解将模型核心推理与原生视频工具结合,可在视觉帧、音频和转录文本中动态搜索、扫描和检查目标视频片段。

    在标准视频分析基准测试中,搭载智能体视频理解的 Gemini 模型可将分析成本降低最高 66%Token 消耗量降低最高 88%,同时将准确率提升最高 7%。这类效率提升在长视频场景中尤为明显,因为传统静态处理会让开发者不得不在高 Token 成本和丢失关键细节之间做取舍。

    谷歌指出,Gemini 3.7 Flash 搭配智能体视频理解可实现最佳的整体质量,同时在质量和成本效率间达到最优平衡,在视频理解任务中,位于准确率与成本的帕累托最优前沿。

    不同于静态处理中模型按固定帧率读取媒体流,智能体视频理解让 Gemini 可以主动、有目标地决定观看哪些内容、以何种速度观看、通过哪种模态(帧、音频或转录文本)获取信息,仅提取所需的片段和信号。此前开发者只能手动完成这类操作,而借助智能体视频理解,Gemini 可通过智能循环完成,调用内部工具加载视频相关部分,大幅减少开发工作量。

    据了解,该功能为开发者处理长视频内容带来了诸多新能力。

    • 亚秒级时刻检索:精准定位在 1 FPS 下容易错过的瞬间状态变化和紧凑剪辑边界,实现高精度自动化视频编辑。

    • 长视频“大海捞针”搜索:在数小时长的视频中回答复杂查询,且无需消耗数百万 Token。

    • 异常检测:对感兴趣的时间窗口以更高帧率重新采样,检查快速运动和细微视觉伪影。

    • 动作与物体计数:随时间推移精准跟踪重复物理动作和不同物体。

    目前该功能已在 Google AI Studio 和 Gemini Enterprise Agent Platform 的 Gemini API 中上线,支持视频上传和 YouTube 视频分析。开发者只需在 API 配置中将处理模式设置为“agentic”即可启用该功能。

    谷歌还计划将这项能力推广到旗下更多面向普通用户的产品,该功能很快就会向 Gemini 应用中所有 Flash 和 Flash-Lite 模型用户推送;未来几个月内,智能体视频理解还为 YouTube 视频观看页的“Ask YouTube”功能提供支持,借助 Gemini 提供基于视频画面的更高质量回答。

    声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

    点赞(0) 收藏(0)
    0条评论
    珍惜第一个评论,它往往能得到较好的回响。
    评论
    游客
    游客
    登录后再评论
    • 鸟过留鸣,人过留评。
    • 和谐社区,和谐点评。
    最新资讯