本文由半导体产业纵横（ID：ICVIEWS）编译自venturebeat百度影音午夜电影免费看

芯片制造商、初创公司和云提供商正在构建专用AI处理器和加速器。

数据中心是互联网的后端。不管是 Netflix 如故 Google，系数大公司齐应用数据中心过火托管的盘算推算机系统向最终用户提供数字就业。跟着企业的要点转向高档 AI 责任负载，数据中心传统的以 CPU 为中心的就业器正在通过集成新的专用芯片或“协处理器”而得到增强。

从骨子上讲，这些协处理器背后的思法是引入某种附加组件来增强就业器的盘算推算智力。这使它们好像处理 AI 锤真金不怕火、推理、数据库加速和网罗功能等责任负载的盘算推算需求。在畴昔几年中，以 Nvidia 为首的 GPU 已成为协处理器的首选，因为它们好像以无与伦比的速率处理大批数据。把柄Futurum Group的一项考虑，由于需求增多，旧年 GPU 占数据中心内赞助 AI 用例的协处理器的 74% 。

考虑表露，GPU 的主导地位瞻望只会增长，到 2028 年，该类别的收入将以每年 30% 的速率增长，达到 1020 亿好意思元。但问题是：诚然 GPU 凭借其并行处理架组成为加速多样大限制 AI 责任负载（如锤真金不怕火和驱动大限制、万亿参数谈话模子或基因组测序）的强大伙伴，但它们的总体领有资本可能相当高。举例，Nvidia 的旗舰GB200“超等芯片”阿谀了 Grace CPU 和两个 B200 GPU，瞻望资本在 60，000 至 70，000 好意思元之间。一台装有 36 个这种超等芯片的就业器忖度资本约为 200 万好意思元。

诚然这在某些情况下可能有用，举例大型名堂，但并非适用于每家公司。很多企业 IT 司理齐但愿采取新时代来赞助采选的低到中等密集型 AI 责任负载，并独特关爱总体领有资本、可彭胀性和集成度。毕竟，大多数 AI 模子（深度学习网罗、神经网罗、大型谈话模子等）齐处于教训阶段，需求正在转向 AI 推理和增强特定责任负载（如图像识别、保举系统或对象识别）的性能，同期保捏高效。

这恰是芯片制造商、初创公司和云提供商正在构建的专用 AI 处理器和加速器的新兴规模。

东说念主工智能处理器和加速器到底是什么？

从骨子上讲，AI 处理器和加速器是位于就业器 CPU 生态系统中的芯片，专注于特定的 AI 功能。它们通常围绕三种要津架构：专用集成电路 (ASIC)、现场可编程门阵列 (FPGA) 和最新革新的神经处理单位 (NPU)。

ASIC 和 FPGA 仍是存在了极端长一段时期，可编程性是两者之间的独一分辨。ASIC 是为特定任务（可能与 AI 相关，也可能不相关）重新定制的，而 FPGA 不错在后期从新成就以已毕自界说逻辑。NPU 与两者的分辨在于，NPU 是一种专用硬件，只可加速 AI/ML 责任负载，如神经网罗推理和锤真金不怕火。

Futurum 集团首席履行官 Daniel Newman 告诉 Venturebeat：“加速器往往好像单独履行任何功能，巧合采取晶圆级或多芯片 ASIC 瞎想，它们好像处理一些不同的应用步调。NPU 是专用芯片（通常是系统的一部分）的一个很好的例子，它不错处理很多矩阵数学和神经网罗用例以及使用更少功率的多样推理任务。”

这些加速器，尤其是为特定应用而构建的 ASIC 和 NPU，在资本和功耗方面比 GPU 更高效。

IBM 云和行业平台总司理 Rohit Badlaney 告诉 VentureBeat：“GPU 瞎想主要以算术逻辑单位 (ALU) 为中心，这么它们就不错同期履行数千次盘算推算，而 AI 加速器瞎想主要以张量处理器中枢 (TPC) 或单位为中心。一般来说，AI 加速器的性能与 GPU 性能的比较取决于该瞎想的固定功能。”

现时，IBM 采取搀和云步调，在系数这个词堆栈中使用多个 GPU 和 AI 加速器，包括来自 Nvidia 和 Intel 的家具，为企业提供取舍，以高傲其私有责任负载和应用的需求 - 高性能和高后果。

“咱们的全栈贬责决策旨在匡助改变企业、开发东说念主员和开源社区构建和应用生成式东说念主工智能的神志。东说念主工智能加速器是咱们觉得对但愿部署生成式东说念主工智能的客户相当成心的家具之一，"Badlaney 说。他补充说，诚然 GPU 系统最相宜大型模子锤真金不怕火和微调，但加速器一样不错处理很多东说念主工智能任务，何况资本更低。

举例，IBM 云捏造就业器使用了英特尔的Gaudi 3加速器，并配备了专为推理和大内存需求瞎想的定制软件栈。该公司还计算通过由多个系统组成的袖珍集群，将加速工具于微合资袖珍锤真金不怕火责任负载。

“东说念主工智能加速器和 GPU 不错有用地用于一些雷同的责任负载，举例从 LLM 和扩散模子（像踏实扩散这么的图像生成）到圭臬物体识别、分类和语音配音。不外，东说念主工智能加速器和 GPU 之间的上风和各异全齐取决于硬件提供商的瞎想。Badlaney 诠释注解说："举例，Gaudi 3 AI 加速器的瞎想旨在显耀擢升盘算推算智力、内存带宽和基于架构的能效。

他说，这径直带来了性价比上风。

除了英特尔，其他东说念主工智能加速器也在阛阓上备受关爱。这不仅包括为谷歌、AWS 和微软等全球云提供商打造的定制芯片，还包括 Groq、Graphcore、SambaNova Systems 和 Cerebras Systems 等初创公司的专用家具（某些情况下是 NPU）。它们齐以各自的神志脱颖而出，在不同规模向 GPU 发起挑战。

在其中一个案例中，Tractable 是一家开发东说念主工智能的公司，旨在分析财产和车辆损坏情况以进行保障理赔，该公司好像应用 Graphcore 的智能处理单位-POD 系统（一种挑升的 NPU 家具），与他们一直使用的 GPU 比拟，性能大幅擢升。

“Tractable 公司聚会首创东说念主兼首席时代官 Razvan Ranca 在一篇博文中写说念："咱们看到速率提高了大要 5 倍。“这意味着考虑东说念主员现时不错驱动的实验数目可能所以前的五倍，这意味着咱们加速了系数这个词研发经由，并最终在咱们的家具中斥地了更好的模子"。

在某些情况下，AI 处理器还为锤真金不怕火责任负载提供赞助。举例，Aleph Alpha 数据中心的 AI 超等盘算推算机正在使用Cerebras CS-3，该系统由这家初创公司的第三代 Wafer Scale Engine 提供赞助，领有 900，000 个 AI 中枢，用于构建下一代自主 AI 模子。致使谷歌最近推出的定制 ASIC TPU v5p也在为 Salesforce 和 Lightricks 等公司提供一些 AI 锤真金不怕火责任负载。

取舍加速器的步调应该是若何的？

现时仍是笃定除了 GPU 以外还有很多 AI 处理器不错加速 AI 责任负载，尤其是推理，那么问题是：IT 司理如何取舍最好投资决策？其中一些芯片可能具有精采的性能和后果，但由于其架构，它们在处理的 AI 任务类型方面可能会受到结果。其他芯片可能会作念得更多，但与 GPU 比拟，TCO 各异可能莫得那么大。

由于谜底因芯片瞎想而异，VentureBeat 采访的系数各人齐提议取舍应基于要处理的责任负载的限制和类型、数据、捏续迭代/调动的可能性以及资本和可用性需求。

匡助企业进行 AI 锤真金不怕火和推理的Sustainable Metal Cloud首席时代官 Daniel Kearney 暗示，企业驱动基准测试来测试性价比上风也很垂危，并确保他们的团队熟练赞助各自 AI 加速器的更平淡的软件生态系统。

“诚然详备的责任负载信息可能无法提前赢得，或者可能无法为决策提供赞助，但提议使用代表性责任负载、真确寰宇测试和可用的同业评审真确寰宇信息进行基准测试和测试，以提供数据驱动的步调来为合适的责任负载取舍合适的 AI 加速器。这种前期探问不错粗略大批时期和钞票，独特是关于大型且崇高的培训责任，”他提议说念。

在全球范围内，跟着推理责任的增长，包括 AI 芯片、加速器和 GPU 在内的 AI 硬件总体阛阓瞻望将以每年 30% 的速率增长，到 2028 年将达到 1380 亿好意思元。

*声明：本文系原作家创作。著述内容系其个东说念主不雅点，本身转载仅为共享与扣问，不代表本身奖饰或招供百度影音午夜电影免费看，如有异议，请洽商后台。