荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型:功耗下降 80%,内存占用减少 1.6GB

10 月 23 日消息,荣耀今日正式发布 MagicOS 9.0,号称是“行业首个搭载智能体的个人化全场景 AI 操作系统”。

荣耀 MagicOS 9.0 升级支持 30 亿参数端侧大语言模型:功耗下降 80%,内存占用减少 1.6GB

在 MagicOS 9.0 中,MagicOS 全新魔法大模型家族迎来升级,支持端云资源灵活调配,不同设备灵活部署,附各版本如下:

  • 500 万参数图像大模型,端侧部署,全系列支持
  • 4000 万参数图像大模型,端侧部署,中高端系列
  • 30 亿参数大语言模型,端侧部署,中高端系列
  • 10 亿参数多模态大模型,端侧部署,中高端系列
  • 1500 万参数语音大模型,端侧部署,全系列支持

荣耀表示,MagicOS 9.0 升级支持 30 亿参数端侧大语言模型,相比 MagicOS 8.0 的 70 亿参数魔法大模型,加载速度提升 77%、出词速度提升 500%、功耗下降 80%。此外,新版大模型的内存占用减少 1.6GB,存储占用减少 1.8GB。

声明:内容均采集自公开的网站等各类媒体平台,若收录的内容侵犯了您的权益,请联系邮箱,本站将第一时间处理。
资讯

智谱与中国三星官宣战略合作:AI 手机与 GLM 大模型相结合

2024-10-24 9:56:09

资讯

继续换血!OpenAI 任命前Uber 高管为首席合规官

2024-10-24 9:59:11

搜索