近日，IBM在Hot Chips 2024大会上公布了行将推出的IBM Telum II处理器和IBM Spyre加快器的架构细节。这些新时候旨在大幅彭胀下一代IBM Z大型主机系统的处理能力，通过新的AI集成才调，加快企业对传统AI模子和大言语AI模子的协同使用。
跟着基于大言语模子的AI技俩从倡导考证阶段干预分娩阶段，企业对高能效、高安全性和高度可彭胀责罚决策的需求日益症结。摩根士丹利最近发布的一份预计敷陈预测，在将来几年，生成式AI的电力需求将以每年75%的速率激增，其2026年的能耗或将与西班牙2022年的全年能耗十分。很多IBM客户默示，撑抓相宜限度的基础模子和针对AI职责负载的搀杂架构越来越紧要。
这次IBM发布的主要改进时候包括：
IBM Telum II 处理器：这一全新芯片将搭载于下一代IBM Z系列主机，与第一代Telum芯片比拟，其频率和内存容量均有擢升，高速缓存擢升40%；集成 AI 加快器内核和数据处理单位 (DPU) 的性能也得到改善。IBM Telum II处理器将撑抓大言语模子驱动的企业蓄意责罚决策，抖擞金融等行业的复杂来往需求。
IO 加快单位：Telum II处理器芯片上的全新数据处理单位 (DPU) 旨在加快大型主机上用于联网和数据存储的复杂 IO 合同，可简化系统操作，提高关节组件性能。
IBM Spyre加快器：可提供稀奇的AI蓄意能力，与Telum II处理器缅怀分明。Telum II和Spyre芯片共同组成了一个可彭胀的架构，可撑抓AI集成建模才调，行将多个机器学习或深度学习的AI模子与基于编码器的大言语模子不绝结。通过诈欺每个模子架构的上风，AI集成的才调不错生成比单个模子更准确、更谨慎的甩手。Spyre 加快器芯片在Hot Chips 2024大会时间进行了预览，并将看成Telum II处理器的附加选件提供。每个加快器芯片均与IBM 预计院相助修复，通过一个75瓦PCIe适配器连气儿。与其他PCIe卡雷同，Spyre加快器可凭证客户需求进行彭胀。
IBM主机和LinuxONE家具治理副总裁Tina Tarquinio默示：“收获于IBM庞大的多代并行的修复道路图，咱们得以在保抓时候当先的同期，抖擞企业束缚升级的AI需求。Telum II 处理器和Spyre加快器旨在提供安全、节能、高性能的企业蓄意责罚决策。这些多年研发的改进效果将被引入下一代IBM Z平台，匡助客户大限度诈欺大言语模子和生成式AI时候。”
Telum II处理器和IBM Spyre加快器将由IBM的永恒相助伙伴三星晶圆代工（Samsung Foundry）分娩，罗致其高性能、高能效的5纳米工艺节点。二者将共同撑抓企业的先进AI用例，开释业务价值，从而创造新的竞争上风。诈欺AI集成的才调，客户不错更快、更准确地获取预测甩手。适用的生成式AI用例包括：
保障理赔诓骗检测：通过AI集成才调将大言语模子与传统神经蚁合不绝结，以提高性能和准确性，增强对保障理赔诓骗的检测。
反洗钱高等监测：对可疑金融行径进行高等检测，撑抓降服监管条目并裁减金融违章风险。
AI 助手：加快应用人命周期、学问和专科手段的传授、代码证据和转机等。
规格和性能办法：
Telum II处理器：配备八个运转频率达5.5GHz的高性能内核，每个内核配备36MB二级高速缓存，片上高速缓存容量增多40%（总容量达360MB）。每个处理器抽屉的造谣L4高速缓存为2.88GB，比拟上一代增多40%。集成的AI加快器可终了低延长、高轮廓量的来往中AI推理，举例增强金融来曩昔间的诓骗检测，况兼每块芯片的蓄意能力是上一代的四倍。
Telum II芯片中集成了最新的I/O加快单位DPU。在瞎想上，其I/O密度提高50%，可大幅提高数据处理能力，进一步提高IBM Z的举座效能和可彭胀性，使其成为处理大限度AI职责负载和数据密集型应用的不二之选。
Spyre 加快器：这是一款专为复杂AI模子和生成式AI用例提供可彭胀功能的企业级加快器。它有高达1TB的内存，可在等闲IO抽屉的八块卡上串联职责，以撑抓大型主机的举座AI 职责负载，同期每块卡的功耗不向上 75W。每块芯片由32个蓄意内核组成，撑抓int4、int8、fp8和fp16数据类型，适用于低延长和高轮廓量的AI应用。
家具时刻表
看成IBM下一代IBM Z和IBM LinuxONE平台的中央处理器，Telum II处理器展望在2025年向IBM Z和LinuxONE客户提供。IBM Spyre加快器仍在时候预览阶段，展望也将于2025年推出。
(8961308)