神经处理单元:详解
Neural Processor Units: Explained
AI and Games 多亏支持我们工作的高级订阅者才得以实现。 立即订阅,让您的名字出现在视频片尾字幕中,为未来剧集主题提供建议,提前观看内容,并获取仅限支持者观看的专属内容。
如果您希望与我们合作开展您自己的游戏项目,请查看我们在 AI and Games 提供的咨询服务。如需赞助我们的内容,请访问我们的专属赞助页面。
近年来,在购买新的 PC 硬件时,开发者和玩家如今都要应对一个被加入其中的新缩写。
我们有用于计算游戏逻辑指令的CPU,即中央处理器
用于处理图形渲染——以及一点物理——的图形处理器或GPU,
当然还有用于将游戏保存在动态(随机)可访问内存中的RAM。
但如今的新事物是 NPU,即旨在支持 AI 计算工作负载的 神经处理单元。我们曾看到 GPU 开始借助张量核心搭载专用 AI 计算节点,这些节点能够执行一些 AI 任务,而现在 NPU 正作为硬件上的独立模块出现,用于高效节能的 AI 执行。不仅在游戏 PC 和笔记本电脑中,也在手机中,甚至微软和索尼的下一代游戏主机也将把 NPU 作为其硬件配置的一部分。
但这一切的意义是什么?在设备内置 NPU 有什么价值?难道只是为了让游戏搭载一些玩家可能根本不会使用的生成式 AI 功能吗?这对游戏开发者构建游戏有什么价值,玩家又能从中获得哪些好处?
在以下平台关注 AI and Games: BlueSky | YouTube | LinkedIn | TikTok
什么是 NPU?
现在让我们稍微回溯一下,谈谈 NPU 究竟是什么。神经处理单元是一种特定的硬件加速器,用于提升 AI 应用的性能。之所以被称为神经处理单元,是因为其主要用例是运行人工神经网络。
NPU 的构建旨在解决机器学习 AI 如何计算这一根本需求,以及传统 CPU 并不适合这些工作负载的问题。CPU 旨在处理在单线程上运行的顺序计算任务,而如今典型的处理器虽然拥有多个高时钟频率的独立“核心”,但它们仍然主要被设计用于处理顺序计算工作负载:复杂的逐步逻辑,即我们按顺序逐条处理指令。当然,这对于游戏的核心逻辑或任何其他常规软件来说都是完美的,但当你尝试进行任何密集数学运算(例如基于线性代数的图形)时,情况就会变得复杂。
原因在于 CPU 的构建方式,以及如何大规模计算线性代数。3D 图形依赖于在向量与矩阵上运行大量计算,而每当你在游戏中做哪怕只是旋转相机这样简单的事情,都会导致数百万次操作被执行;鉴于 CPU 并非为大规模并行计算而设计,这正是 GPU 发挥作用的地方。
20世纪90年代,得益于3D游戏的繁荣,图形处理器在PC中变得越来越流行。GPU 与 CPU 的主要区别在于,它们被设计为拥有数千个较小的核心,以实现并行计算,即同时运行大量计算,而不是像 CPU 那样按顺序执行。这意味着以更高的分辨率和稳定的帧率渲染游戏要容易得多。因此,对于现代游戏 PC 而言,在 CPU 旁边配备 GPU 是必不可少的。
而这把我们带到了 AI 和机器学习,尤其是机器学习背后的数学,或者更具体地说,训练神经网络的数学,与图形渲染有许多相似之处,因为它们都关乎矩阵的并行处理。因此,从理论上讲,GPU 是运行 AI 代码的绝佳平台。事实上,当我 20 年前开始读研究生时,就已经有研究通过编写着色器代码在 GPU 上处理神经网络。在随后十年里,GPU 厂商一直在构建软件 API,例如 Nvidia 的 CUDA 和 AMD 的 ROCm,以允许 GPU 的通用用途,使在该硬件上运行 AI 任务变得更加容易。此外,我们随后看到 Nvidia 的 RTX-20 系列在 2018 年开始将专用 AI 核心直接集成到 GPU 中。所有这一切导致 2010 年代末 GPU 供应受到影响,因为机器学习工程师和加密货币矿工开始批量购买它们,并将这些处理过程推向硬件。所有这种对使用此类硬件进行 AI 加速日益增长的兴趣,最终导致了 NPU 的出现。
NPU 内部的单个计算单元是专为执行 AI 模型而设计的,我们称之为 推理。虽然它们并不擅长训练 AI 模型——因为它们不仅是为较低精度数学运算而构建的,而且缺乏在云端训练时所拥有的更广泛生态系统——但它们经过优化,以确保与在 GPU 的 AI 核心上运行相同任务相比,运行速度更快且能耗更低。这意味着,虽然你可能仍然会在 GPU 上训练 AI,但在玩游戏时,你可以将 AI 的执行从 GPU 核心中释放出来。
如今,NPU 在消费级硬件中的采用已成为热门话题,但这是十余年发展的最终结果。首批进入市场的 NPU 可追溯到 2016 年,当时 Google 的张量处理单元 或 TPU 被部署到云计算数据中心。与此同时,2017 年 NPU 进入移动设备,苹果 iPhone 8 搭载的 A11 Bionic 芯片和华为 Mate 10 使用的 Kirin 970 均随 GPU 一起配备了集成 NPU。此外,AMD 早在 2023 年就通过 Ryzen 7040 系列成为首家将 NPU 内置到 CPU 中的公司。
此外值得一提的是,NPU 出现在消费级硬件中,是边缘计算这一持续趋势的一部分:与其将数据发送到云端进行处理,设备更适合在源头处理这些信息。NPU 让 AI 算力能够更便捷地在你的本地设备上处理,避免延迟、个人数据安全等问题,并降低整体能耗。
那么,现在我们已经拥有了所有这些 AI 算力,接下来该拿它们做什么呢?这是一个更大的问题,在游戏领域仍有待充分探索,我们接下来会深入探讨。
感谢阅读《AI 与游戏》!这篇文章是公开的,欢迎分享。
NPU 对游戏有什么价值?
好吧,那么你去买一台内置 NPU 的新台式机或笔记本电脑,有什么好处? 玩家——或游戏开发者——为什么会关心?
目前,我们没有看到游戏中大量使用 NPU,因为该领域并不统一。由于 PC、移动设备和主机目前拥有不同的 NPU 配置,工作室无法以利用这些能力的方式构建旨在跨多个平台发行的游戏。等到下一代 Xbox 和 PlayStation 主机上市时,游戏将不仅知道这些设备内置了 NPU,而且知道在上市前数年售出的任何 PC 也具备这种能力。
NPU 的主要卖点并不在于它们将如何启用新功能,而更像 GPU 一样,将工作负载卸载到设备的另一部分,从而保护 CPU,并最终保护游戏的帧率。随着新技术的出现,许多现有工作负载正变得由 AI 驱动,因此当它们被执行时,在可能的情况下会转移到 NPU 上。
我们已经在图形领域看到这种情况正在发生,越来越多的渲染任务借助 AI 技术在 GPU 上运行。诸如 Nvidia 的 DLSS 和 AMD 的 FSR,以及现在的神经纹理压缩等技术,都运行在 GPU 上,得益于内置在显卡中的 AI 核心,而且这一点不太会改变:图形任务将保留在 GPU 上,因为将这些操作保留在设备的同一部分是有意义的。虽然开发者可能有机会利用内置 NPU 来帮助卸载其中一些任务,尤其是在集成 GPU 有限的笔记本电脑上,但这似乎相当不太可能。
我们已经看到 NPU 被用于运行现有功能,因为它们利用机器学习技术。诸如麦克风语音隔离以削减背景噪音,或在线聊天中用于无障碍的实时转录和字幕等通信工具,都可以在 NPU 上运行。与此同时,在 Discord 或 StreamLabs 直播时,摄像头的背景模糊或图像抠图可以通过 NPU 处理。
在撰写本文时,实际上还没有游戏能在游戏过程中尽可能有效地利用 NPU。但考虑到我们正看到机器学习在已发售游戏的非图形任务中越来越频繁地被使用,就有机会开始将这部分工作负载迁移过去。我们看到机器学习正缓慢地被应用于各种类型游戏中设计的具体方面,无论是即时战略游戏中的自动战斗系统、赛车游戏中控制车辆,还是处理战斗 NPC 决策的某些方面。当游戏探索通过神经网络运行这些功能时,它们反过来也可能受益于使用 NPU 带来的性能提升。在未来硬件上看到这些任务被推送到 NPU 上,并不会令人感到太惊讶。
与此同时,我们之前讨论过动作匹配动画,它通常使用 AI 技术进行训练。骨骼和骨架计算等动画处理传统上是基于 CPU 的任务,但更先进的动作匹配模型——例如育碧的 La Forge 于 2020 年发布的这一模型——使用神经网络来优化动画流程的部分环节,并降低整体内存开销。这些在 NPU 上可以运行得更加高效。当然,开发者需要相关工具,才能充分利用这一效用并有效部署到 NPU 上。
当然,在 2026 年发布这篇文章,我们无法回避一个显而易见的事实:随着越来越多 AI 原生游戏登陆 Steam,NPU 能够证明其有用性的一个领域就是运行生成式 AI 模型。AI 原生游戏是(相当烦人的)用来描述在游戏玩法中采用生成式 AI 的游戏的术语,而且人们正大力推动它们使用 NPU,因为人们逐渐意识到,以目前的情况来看,使用 LLM 在大量游戏中很少行得通。我们现在正看到一个趋势:AI 原生游戏采用更小的语言模型(被称为 SLM),它们小到足以本地部署,但往往要牺牲一些保真度。原因是,在云端运行 LLM 根本不切实际。token 成本——这是 AI 计算的基本单位——太贵了,而且往往从一次游玩到下一次都不一致,而延迟则扼杀了任何流畅互动的机会。通过迁移到本地模型,它可以降低延迟,消除 token 成本,并且也许更重要的是消除相应的能源成本和碳足迹,因为开发者不需要在某个糟糕的数据中心里运行 AI。未来属于小模型,孩子们,别被大模型的炒作带偏了!
训练设计为在设备本地运行的机器学习模型,对于任何机器学习被部署为常规游戏体验一部分的现实未来而言,都是最合理的方法——事实上,也适用于其他一切。随着越来越多用于构建、游玩和享受游戏的特性转向经过训练的 AI 模型,NPU 的价值将在长期内在此得到体现。
AI and Games 是一份由读者支持的出版物。要接收新文章并支持我的工作,请考虑成为免费订阅者或付费订阅者。
来源:AI and Games · 游戏AI研究与实践 · aiandgames.com