IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

知识 2024-12-25 02:04:17 565

12月12日消息,发封装据报道,布全IBM在光学技术方面获得新进展,新光训练有望提升数据中心训练和运行生成式AI模型的电共效率。

IBM推出了新一代光电共封装(CPO)工艺。工艺该技术利用光学连接,模型实现了数据中心内部的速度升倍光速数据传输,完美补充了现有的将提短距离光缆系统。

IBM发布全新光电共封装工艺:AI模型训练速度将提升5倍

研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、发封装电路板和服务器之间的布全高带宽数据传输。最大限度地减少GPU停机时间,新光训练同时大幅加快AI工作速度。电共

具体而言,工艺这一新技术带来了三大方面的模型显著优势:

首先,它极大地降低了规模化应用生成式AI的速度升倍成本。与中距离电气互连装置相比,光电共封装技术的能耗降低了五倍以上,同时,数据中心互连电缆的长度也从传统的1米扩展至数百米,进一步提升了数据中心的灵活性和扩展性。

其次,该技术显著提高了AI模型的训练速度。与传统的电线相比,使用光电共封装技术训练大型语言模型的速度几乎提升了五倍。

这意味着,原本需要三个月才能训练完成的标准大语言模型,现在仅需三周即可完成。对于更大的模型和更多的GPU,性能的提升将更为显著。

最后,光电共封装技术还显著提升了数据中心的能效。据估算,每训练一个AI模型所节省的电量,竟然相当于5000个美国家庭一年的耗电量总和。这一数据无疑彰显了该技术在节能减排方面的巨大潜力。

本文地址:http://vkprd.ahlulin.com/html/64b26899667.html
版权声明

本文仅代表作者观点,不代表本站立场。
本文系作者授权发表,未经许可,不得转载。

全站热门

可能6000+元!全球首款骁龙X Elite迷你机泄露:4.2GHz残血版

奔波于熊猫杯、三大球运动会两项赛事,唐天翼:累并快乐着

加拉塔萨雷主帅:的确有冬季离队条款,但奥斯梅恩想留到赛季结束

《黑神话:悟空》影神图实体书来了:普通版159.2元、典藏版342元

[流言板]状态火热!塔特姆全场砍下34分10篮板5助攻

[流言板]麦凯恩已经4次单场20+,其余24届新秀最多为卡斯尔的2次

网友喊话雷军生产卫生巾 小米暂时不做:已有公司申请小米卫生巾商标

强势反弹👹哈兰德本月2场欧国联4球1助,上个月全场0射正遭惨败

友情链接