高通携手Meta 2024年在手机使用生成式AI
-
生成式AI示意图。（图：REUTERS/TPG）(photo:CnYes)高通 (QCOM-US) 今 (19) 日宣布，公司与 Meta 正携手致力于最佳化 Meta 的 Llama 2 大型语言模型，让其直接在装置上执行，不再依赖云端服务运作，预计 2024 年开始在旗舰智慧型手机和 PC 上提供基于 Llama 2 的 AI 部署，让开发人员能够使用 Snapdragon 平台的 AI 功能，推出全新生成式 AI 应用。
高通强调，与仅使用基于云端的 AI 部署和服务相比，装置上 AI 部署能协助开发人员以显着降低的成本，提升使用者隐私、处理安全偏好、强化应用程式可靠性并实现个人化。
高通期待，未来将在智慧型手机、PC、VR/AR 头戴式装置和汽车等装置上，运行如 Llama 2 这类的生成式 AI 模型，透过搭载 Snapdragon 的全新装置上体验 AI，可在没有连网的地区、甚至是飞航模式中运行。
高通资深副总裁暨技术、规划和边缘解决方案业务总经理 Durga Malladi 表示，Meta 在 AI 技术上採取开放和负责的策略，公司也致力推动创新，透过将生成式 AI 导入装置，将为各种规模的开发人员降低入门的门槛。且为了将生成式 AI 有效地规模化扩展至主流市场，AI 需要同时能在云端与如智慧型手机、笔电、汽车和物联网装置等边缘装置上运行。
Meta 和高通长期合作，共同推动技术创新，提供新一代的顶级装置体验。两家公司目前携手支援 Llama 生态系，范围横跨研究和产品工程工作，尤其高通在边缘装置具有无可比拟的布局，涵盖全球数十亿的智慧型手机、汽车、XR 头戴式装置和眼镜、PC、物联网等装置，皆搭载高通领先业界的 AI 硬体和软体解决方案，为生成式 AI 带来规模化扩展的机会。
高通规划将于 2024 年开始在搭载 Snapdragon 平台的装置上支援基于 Llama 2 的 AI 部署。开发人员自今日开始便可使用高通 AI 叠层针对装置上 AI 进行应用最佳化。高通 AI 叠层是一套可在 Snapdragon 平台上更有效地处理 AI 的专用的工具，即使在轻薄小巧的装置上也可支援装置上 AI。
