联系我们

曦智科技@WAIC|期待共建光电混合计算大生态

发布时间:2023-09-08

2023年7月6日至8日,世界人工智能大会(WAIC)在上海召开。曦智科技创始人、首席执行官沈亦晨博士受邀出席“从‘端’到‘云’,勇攀‘芯’高峰”——WAIC芯片主题论坛,在圆桌论坛环节以“围绕新应用,打造新生态”为主题,分享了曦智科技的见解和实践。曦智科技联合创始人、首席技术官孟怀宇博士则受邀出席WAIC AI开发者领袖论坛,以2022年WAIC云帆奖得主(点击阅读)身份参与圆桌对话,就大模型时代范式转变中的机遇和挑战分享了他的洞见。


微信图片_20230908104507.jpg

 沈亦晨博士(左二)出席WAIC芯片主题论坛


随着ChatGPT横空出世,以大模型为代表的新应用不断涌现,对AI芯片以及产业链产生了诸多影响。


在WAIC 芯片主题论坛上,沈亦晨博士就此发表了他的观点。他认为,产业应用会驱动底层技术的创新,在大模型出现之前,AI的发展已然推动了许多底层技术的发展。然而,从传统计算到大模型等AI计算产生,该级别的AI对算力、存储、带宽的需求激增,对现有的数据中心和边缘设备提出了更高挑战。


沈亦晨博士说:“从曦智科技的角度来看,光电混合技术是催生下一个大模型发展的底层技术之一,光子技术与电混合在一起形成新的异构计算方式,可以提供更高效的算力解决方案。一方面,光电混合技术具备高带宽、低功耗的特点,让更多的计算节点之间高效传输,完成更大规模的计算;另一方面,光电混合技术也将改变产业链和供应链,如何让不同厂商、不同技术共享一种语言,遵循一个通用协议,将是提升算力必须探讨的重要议题。”


面对大模型热潮,行业该如何通过应用创新去适应当前的市场情况,同样是各界关注的焦点问题之一。

 

在这一方面,曦智科技基于大规模光电集成技术的计算新范式,发展出纵向单节点算力提升与横向多节点算力提升的解决方案,形成光子矩阵计算(oMAC)、片上光网络(oNOC)、片间光网络(oNET)三大核心技术。同时,曦智科技还成立了曦智研究院,并且已对外发布《大规模光电集成赋能智能算力网络白皮书》。“期待能够与大家有更多合作,共同建立光电混合计算的大生态,助推技术发展。”沈亦晨博士说。

 

在WAIC AI开发者领袖论坛上,针对“大模型热”,孟怀宇博士表示,随着摩尔定律的放缓,算力提升已遭遇瓶颈。在这样的背景下,从业者更需要思考能做些什么,该如何应对。

 

“我们认为需要从物理底层机制入手,寻求一种不同的解决方案来突破现有的限制。这就是我们提出光子计算概念的原因。光信号也是电磁波,但其频率约为200THz,因此几乎没有串扰,在计算过程中几乎不受频率影响,也没有欧姆发热等问题。当然,光子计算也存在一些局限性,但只有通过改变,才有可能突破现有的限制。”孟怀宇博士说。


微信图片_20230908104507_1.jpg

 孟怀宇博士在AI开发者论坛圆桌会话环节发表他对于大模型热潮的看法


在当天的论坛上,其他与会嘉宾指出,当前的深度计算变慢,变成宽度计算。对此,孟怀宇博士进一步阐释说:“这是因为从逻辑上讲,从电芯片的层面来看,目前,单个芯片计算能力的提升无法跟上模型规模的增长速度,所以必须使用越来越多的计算资源。然而,我们知道对于电来说,并行计算的规模是有限的,1加1小于2,2加2小于4,4加4远远小于8。”

 

在有限的计算资源情况下,又该如何更好地利用资源,使计算能力尽量接近线性增长?孟怀宇博士给出了他的解决方案:“这就需要更好地优化整个互连状态。从理论上讲,如果在一个大规模计算中,比如万卡的情况下,每个芯片都能在任何时刻立即获得所需的数据,那么我们就可以实现线性增长。然而,目前的互连架构还无法达到这个水平,我们需要尽量通过技术手段接近这个目标,光互连具有高带宽、低延迟、低功耗等特性,同时对于传播距离不敏感,我们认为,光可以成为一种更好的解决方案,我认为这一点可能比GPU本身的性能提升更为关键。

 

与此同时,目前已经投入商用的,GPU之间的大带宽、低延迟互连解决方案依然数量有限。“世界应该是多样的,解决方案也应该是多样的,曦智科技也希望我们的光电混合计算成为其中的一个解决方案。”孟怀宇博士在分享时,也表达了他的期望。

技术文件

资料已提交,感谢查阅!

Ok