资讯
12月11日消息，IBM正式宣布推出一项具有革新性的光学技术，该技术使得AI模型的训练速度得以光速进行，同时还实现了能源消耗的大幅降低。IBM方面宣称，将这一技术应用于数据中心后，训练单个AI模型所能节省的能源量，等同于5000个普通美国家庭一整年的能源使用量。
该公司解释说，虽然数据中心通过光纤电缆与外部世界连接，但内部仍然使用铜线。这些铜线连接着 GPU 加速器，而 GPU 加速器在等待来自其他设备的数据时会有大量时间处于空闲状态，同时消耗能量并推高成本。
IBM 高级副总裁兼研究总监 Dario Gil 称：“随着生成式 AI 对更多能源和处理能力的需求，数据中心必须进化，而共封装光学技术（CPO）可以使这些数据中心面向未来。通过这一突破，未来的芯片将像光纤电缆进出数据中心传输数据一样进行通信，从而开启一个更快、更可持续的通信新时代，能够处理未来的 AI 工作负载。”
IBM 在一篇技术论文中概述了其新的 CPO 原型。通过显著增加数据中心的带宽，可以最大限度地减少 GPU 的闲置时间，从而加速 AI 处理。IBM 称，大型语言模型（LLM）的训练时间可以从三个月缩短到三周。同时，更高的能源效率将降低能源消耗，并减少与训练 LLM 相关的成本。
文明上网，理性发言，共同做网络文明传播者