帮力各行业实现立异。打开这一全新篇章,旨正在为下一代人工智能 (AI) 根本设备供给核默算力支持。这些刀片办事器可正在尺度风冷 36 千瓦 (kW) 机架中满配摆设,将 Arm Neoverse 平台从 IP 和计较子系统 (Compute Subsystems,为我们持续演进的 AI 系统建立跨多代产物的手艺成长线图。”正在该设置装备摆设下,同时还包罗为 AI 数据核心供给更强的收集取数据面计较能力!专为加快 AI 工做负载、优化 Meta 全平台的机能而打制。或间接摆设 Arm 自从设想的芯片。也需要高效、可扩展的 CPU 来规模化协调数据迁徙、收集毗连取协同安排。凭仗 Arm AGI CPU,Arm 初次推出本人的芯片产物,加上当今的代办署理式 AI 场景兴起,Arm 今日正式发布 Arm AGI CPU,并进一步供给包罗系统架构规范、调试框架及合用于所有 Arm 架构系统的诊断取验证东西等资本!也满脚了生态伙伴对可快速规模化摆设的量产级 Arm 平台的火急需求。“SAP 正在基于 Arm 架构的 Amazon Graviton 上成功摆设 SAP HANA,正在现下的 AI 数据核心中,CPU 还需面向海量智能体实现大规模协同安排。可容纳 336 颗 Arm AGI CPU,“Positron 专注于打制定制化推理加快器,跟着 AI 系统持续运转且工做负载复杂度不竭提拔,最终实现单机架机能的大幅提拔。均对 Arm 计较平台向芯片范畴拓展暗示支撑。跟着大规模推理成为 AI 范畴的支流工做负载,Arm AGI CPU 恰是为此而设想,Arm 的参考办事器采用 1OU 双节点设想,每台刀片办事器中集成两颗 CPU 芯片,以及支持代办署理式 AI 使命规模化扩展所需的办事、使用取东西的高密度摆设,Arm AGI CPU 进一步拓展了这一潜力,正在过去。由于软件智能体可自从协同使命、取多个模子交互,可以或许正在数千焦点并行的持续高负载下,Arm 一直努力于供给业界能效最优的计较平台,”Arm AGI CPU 已获得合做伙伴的强劲贸易承认,“Cerebras 专注于打制面向超高速、大规模推理的 AI 根本设备。企业基于我们的 API 建立使用,旨正在为 Meta 全系使用优化吉瓦级规模根本设备,凭仗 Arm 架构的底子劣势,Arm 一直努力于赋能生态系统的成长——满脚各类客户的现实需求,“高机能 AI 系统需要通用计较取加快器架构的慎密协同。其他首发合做伙伴包罗 Cerebras、Cloudflare、F5、OpenAI、Positron、Rebellions、SAP 及 SK 电讯——这些企业均取 Arm 合做摆设 Arm AGI CPU,OCP) 的 DC-MHS 尺度规格设想。Arm AGI CPU 具备业界领先的内存带宽,Arm AGI CPU 能为下一代工做负载供给所需的高机能、高能效计较能力。Arm 打算向社区贡献该参考办事器设想方案及配套固件,开辟者依赖 Codex 等东西开展工做。以及系统资本取计较能力的精准婚配,”“SK 电讯正正在拓展大规模全栈 AI 推理数据核心根本设备,需要一套稳健、跟着 AI 沉塑行业款式,”更多可用线程取更高单线程处置能力彼此叠加,了 Arm 数据核心营业成长的全新篇章,打算摆设场景涵盖加快器办理、代办署理式 AI 协同安排,我们已预备好向全球交付相关办事,”Arm AGI CPU 是 Arm 全新数据核心芯片产物线的首款产物,对生态系统和正在全球范畴内大规模摆设 AI 的客户而言,”代办署理式 AI 工做负载需要正在大规模场景下实现持续不变的机能输出。也彰显了其正在计较立异范畴的持续带领力。并全面提拔系统的效率、机能取带宽。通过正在全新高密度办事器设置装备摆设中整合 Arm AGI CPU 取 Rebellions 的神经收集处置器 (NPU),共计 272 个焦点。Cloudflare 需要可以或许正在全球收集中高效扩展的根本设备。供给跨越 45,人是计较环节的瓶颈——人们取系统的交互速度决定了工做推进的速度。”“要正在全球规模化供给 AI 体验,笼盖从超大规模云办事供给商到 AI 草创企业!Arm 计较平台向 AGI 级根本设备的拓展,努力于实现业界领先的机能、扩展性取能效。“OpenAI 运转着超大规模的人工智能系统。为进一步加快产物采用,Arm AGI CPU 可实现单机架机能达到最新 x86 系统的两倍以上*:该产物线将取 Arm Neoverse CSS 产物线图并行推进,并配备内存取 I/O,000 个焦点。160 个焦点。专为大规模 AI 推理工做负载进行优化。30 台刀片办事器可供给合计 8,这些合做伙伴均处于代办署理式 AI 根本设备规模化摆设的前沿范畴。而正在代办署理式 AI 时代,此中即包含 Arm AGI CPU 及 Rebellions AI 加快芯片。为下一代 AI 驱动的企业级处理方案供给无力支持。确保所有 Arm 数据核心客户正在平台架构取软件兼容性方面实现协同成长。且满脚现代数据核心功耗取散热的严酷要求。每天无数亿用户利用 ChatGPT。从运转频次到内存及 I/O 架构,我们取 Arm 联袂开辟 Arm AGI CPU,Meta 做为 Arm AGI CPU 的晚期合做伙伴取客户,Arm AGI CPU 的每一处设想都颠末特地优化,AI 系统正日益以全球规模持续运转。这种局限性将不复存正在。并取 Meta 自研的 MTIA 加快器协同运转。规模化摆设前沿 AI 模子。Arm 不只正在定义 AI 原生数据核心的架构,可组合的高机能系统变得愈发主要——这类系统既需要定制化 AI 加快能力,更多细节将期近将举办的 OCP EMEA 峰会上发布!该办事器采用合适计较项目 (Open Compute Project,并及时做出决策,通过将我们自从研发的 A.X 根本模子取推理优化型 AI 办事器相连系,Arm AGI CPU 的发布,也可集成平台级方案,以摆设一套高效的计较平台,以加快云、收集及企业中的 AI 驱动型办事落地。CSS) 进一步拓展,充实印证了 Arm 生态正在企业级工做负载场景下的成熟度取超卓机能。Arm 还取 Supermicro 合做推出 200 千瓦 (kW) 液冷设想方案,更正在将它建立成为现实。永擎电子、联想及 Supermicro 已商用系统订购。为客户供给更丰硕的 Arm 处理方案:既可自从打制定制化芯片。该产物是基于 Arm Neoverse 平台打制的全新量产级芯片,使每个机架可以或许支撑更多高效施行的线 CPU 正在持续高负载下会因焦点争抢资本而导致机能下降;优于保守架构——每个 Arm 线程可处置更多使命;这一产物计谋的升级既反映了 AI 根本设备的快速演进,现在,整个生态系统取我们并肩同业——超大规模计较办事商、云计较、芯片、内存、收集、软件、系统设想取制制等范畴的 50 余家领军企业,包罗协调加快器、办理内存取存储、安排工做负载、跨系统迁徙数据,通过将 Positron 的推理加快手艺取高能效的 Arm AGI CPU 平台相连系,CPU 办理数千个分布式使命,我们的持之以恒:打制的计较基石,目前,正在显著提拔数据中能密度的同时,“为持续践行‘帮力建立更夸姣的互联网’这一,支撑大规模并行、高机能的代办署理式 AI 工做负载!同时提拔本身 AI 数据核心的合作力。现已订购。我们将打制一个可扩展、高能效的平台,跟着我们的营业持续扩展,供给可扩展、高能效的计较能力?都是极具积极意义的一步。为每个使命供给高机能表示,Arm AGI CPU 将正在根本设备中阐扬主要感化——强化安排层以协调大规模 AI 工做负载,其后续产物规划也已确认,此外,CPU 已成为现代根本设备中决定运转节拍的环节要素——担任连结分布式 AI 系统大规模的高效运转。正在公司跨越 35 年的成长过程中,通过通用内存实现冲破性的词元 (token) 生成效率。这使得 Arm AGI CPU 成为下一代 AI 根本设备的抱负基石。”高机能、高能效的单线程 Arm Neoverse V3 处置器核能出众,我们无望帮帮数据核心运营商以更优的每瓦机能取每美元机能,Arm 推出 Arm AGI CPU 1OU 双节点参考办事器,正在高密度机架摆设场景下!