腾讯混元全新翻译模型 Hy-MT2 开源:可在手机端本地部署,最小仅 440MB

浏览15次 点赞0次 收藏0次
感谢网友 不一样的体验 的线索投递!

5 月 21 日消息,混元 21 日(今天)宣布,新一代多语言翻译模型 Hy-MT2 正式开源, Hy 翻译小程序也同步开放体验,iOS 和安卓 App 即将推出,并支持本地推理。

Hy-MT2 包含 1.8B、7B、30B-A3B 三种尺寸,均支持 33 种语言互译及 5 种民族语言 / 方言互译,在多语言指令遵循、专业领域翻译和真实应用场景翻译中的表现,相比上一代 Hy-MT1.5 拥有明显提升。

其中,轻量级的 1.8B 模型也超越了微软等主流商业 API,且得益于 AngelSlim1.25-bit 极端量化,仅需 440MB 存储空间,可部署在苹果、高通、联发科等手机芯片上支持本地推理,相比 Hy-MT1.5 推理速度提升 1.5 倍。

同步推出的“ Hy 翻译”小程序基于 Hy-MT2 打造,支持语音输入,并优化了自定义翻译风格和指令的能力。

用户不仅可以在联网环境下体验高速版的混元翻译模型,也可以通过提前下载端侧翻译模型,在无网络或者弱网络场景中使用离线翻译,从而解决部分应用场景中网络条件受限的问题。

IFMTBench 也随着模型发布一并开源,这是一个翻译指令遵循测试集,测试集中的指令主要是和翻译任务相关(翻译风格变换、指定术语翻译等),指令和待翻译的文本涵盖多个语种。

例如下面的例子,通过“个性化设定:翻译结果简洁精炼,去掉冗余表达,每句不超过 15 个字”,模型可以遵循指令,让翻译结果更符合要求。

640 (1080×2222)

图片

据了解,该模型已在 GitHub、Hugging Face、ModelScope 等平台开放,兼容多品牌芯片与硬件环境。

声明:本文转载自IT 之家,转载目的在于传递更多信息,并不代表本社区赞同其观点和对其真实性负责,本文只提供参考并不构成任何建议,若有版权等问题,点击这里查看更多信息!本站拥有对此声明的最终解释权。如涉及作品内容、版权和其它问题,请联系我们删除,我方收到通知后第一时间删除内容。

点赞(0) 收藏(0)
0条评论
珍惜第一个评论,它往往能得到较好的回响。
评论
游客
游客
登录后再评论
  • 鸟过留鸣,人过留评。
  • 和谐社区,和谐点评。
最新资讯