Google: Running artificial intelligence models on mobile phones will take up a lot of memory

Google在 3 月初发布了一个奇怪的声明,称旗下两款新cell phone Pixel 8 和 Pixel 8 Pro 中,只有 Pixel 8 Pro 能够运行其最新的人工智能模型“Google Gemini”。尽管两款手机的配置非常相似,但谷歌却以神秘的“硬件限制”为由拒绝在 Pixel 8 上运行该模型。这番言论让人费解,因为谷歌一直宣称 Pixel 8 是以人工智能为核心的手机,并且还专门针对智能手机设计了“Gemini Nano”模型,然而这两者居然无法兼容运行。

Google: Running artificial intelligence models on mobile phones will take up a lot of memory

几周后,谷歌似乎开始松口,宣布即将在 6 月的季度更新中为 Pixel 8 提供“Gemini Nano”功能,不过有个限制,Pixel 8 Pro 可以直接使用该功能,而 Pixel 8 只能通过隐藏的开发者选项开启,这意味着大多数用户将无法轻易体验到这项功能。

谷歌设备和服务软件副总裁 Seang Chau 在自家的“Made by Google”播客中解释了这一决定,他表示:“Pixel 8 Pro 拥有 12GB 内存,非常适合用来运行‘Gemini Nano’,让我们可以尽情探索它的潜力。但 Pixel 8 只有 8GB 内存,如果贸然启用该功能,可能会影响用户的使用体验. "

Chau 还进一步解释了在手机上运行大型语言模型 (LLM) 的影响,谷歌希望部分 AI 模型能够“常驻内存”,以便随时调用。Chau 称:“‘智能回复’需要模型常驻内存,才能保证随时可用。用户在使用 Gboard 回复消息时,肯定不希望等待模型加载,因此我们选择让它一直保持运行状态。”正因如此,由 Gemini 驱动的“智能回复”功能在 Pixel 8 和 Pixel 8 Pro 上都隐藏在了开发者选项中,常规键盘设置中的“智能回复”功能并非由 Gemini 提供支持。

这意味着 Gemini Nano 可能占用大量系统内存,并且无法轻易释放。目前安卓手机的最低内存配置为 8GB,但未来这个标准可能会进一步提升。目前市面上最高配的手机已经拥有 24GB 内存,主流旗舰机也普遍配备了 12GB 或 16GB 内存。

Samsung Galaxy S24 系列的最低配版本也只有 8GB 内存,但同样可以运行 Gemini Nano 模型,谷歌最初声称 Pixel 8 存在“硬件限制”的说辞似乎站不住脚。这其实取决于用户愿意为运行此功能而放弃多少可用于其他应用程序的内存。

不过,最核心的问题在于,作为普通用户,我们是否真的需要这类功能?生成式人工智能正处于炒作周期的高峰,谷歌大力推广 AI 技术也存在自身的考量 (例如股价)。虽然 ChatGPT 有其用武之地,但真正实用的操作系统级生成式人工智能功能却屈指可数。可以自动生成回复的功能对大多数用户来说并非必需,如果占用大量本可用于其他应用的内存,用户可能会选择将其关闭。

statement:The content is collected from various media platforms such as public websites. If the included content infringes on your rights, please contact us by email and we will deal with it as soon as possible.
Information

Databricks launches DBRX, a 132 billion parameter large language model, known as "the most powerful open source AI at this stage"

2024-4-1 9:28:44

Information

Coco Lee's mother stated: AI infringing content must be removed within 7 days to protect the dignity of the deceased

2024-4-1 9:30:36

Search