光互连技术打破AI带宽瓶颈
虽然AI算力飞速发展, 然而数据传输速度却难以跟上, 这个被称作“带宽墙”的问题, 长久以来对行业构成困扰。传统铜线互连已然快要逼近物理极限, 没办法支撑海量数据的流动。SK海力士的最新研究成果刊载于顶级期刊《自然·电子学》之上。
论文对于共封装光学技术于高性能计算以及AI领域当中的开发进程, 还有下一代光互连技术的发展轨迹作了系统阐述, 研究人员给AI基础设施设立了清晰的技术目标, 是将光互连延伸至内存接口层面。
AI集群互联面临严峻挑战
AI集群运行之时, 需要开展大量的数据交换工作, 其算力每过两年便会翻上三倍, 然而互联带宽在同一时期仅仅增长了1.4倍, 二者之间的差距正变得越来越大, 这种情况致使大量的算力硬件由于等待数据而出现空转现象, 进而严重地制约了系统的整体效率。
传统的铜互连存在着物理方面的限制, 难以去满足未来会有的需求, 用光互连来取代铜互连, 被看作是实现未来可扩展性的极其有希望的途径, 弗吉尼亚大学教授Lee针对此明确地表示了相应的看法。
“以光为中心”架构颠覆传统方案
SK海力士提出了名为“以光为中心”的架构, 借助光子中介层, 将存储器与处理器直接相连, 这种设计对传统的数据传输方式予以了改变, 使得多个AI加速器能够实现共享同一个大容量内存池的情况。
先前那种需要为每一个加速器各自配备单独独立内存的情况并不再需要了, 因为这种集中式的管理方式极大程度地提升了内存的利用效率, 而在传统的设计当中, 每个加速器都配备独立内存, 这导致了大量资源的浪费。
硬件资源灵活扩展成为可能
全新架构赋予AI基础设施拥有更为灵活的扩展能力, 随着模型规模不断增长, 系统能够高效地进行资源配置调整，这样的设计将数据传输效率提升至最大限度, 突破了硬件资源固定不变的限制。
预计能够达成每个节点超出100 Tb/s的带宽, 且能耗比1 pJ/bit要低, 同时芯片间延迟小于10纳秒。这些数字意味着性能有着极大的跃进。
技术指标实现重大突破
与传统方案相较而言, 性能实现了数倍的提升, 低能耗致使数据中心运营成本大幅度降低, 这对大规模 AI 基础设施来讲是尤为意义突出的, CPO 被视作是系统级 HBM 创新规模化的关键所在。
客户持续构建规模愈发大的人工智能系统, 在此情形下, 光互连的重要性会日益增长, 技术标准化会加速推进, 行业竞争格局有重塑的可能。
存储企业角色转变
CPO使存储公司从仅供应单一组件的那个角色, 转变成为借助光互连技术助力提升客户整个系统竞争力的合作伙伴, 这表明未来的竞争并非是单一产品的角逐比拼哟。
SK海力士宣称会持续加大与客户以及生态系统合作伙伴的开放式合作力度, 加快人工智能基础设施领域的创新进程。这场技术变革会对整个AI产业链的格局产生深刻影响。
如若光互连技术得以普及之后, 你对 AI 数据中心的建设成本究竟会降低多少这一情况作何认为, 欢迎于评论区之中分享你所持有之看法, 点赞并分享以便让更多的人能够看到这一篇质量优良的文章！
© 版权声明
文章版权归作者所有，未经允许请勿转载。
