注:Lightmatter创始人 (从左到右):首席科学家Darius Bunandar, CEO Nicholas Harris, COO Thomas Graham
作者丨巴里
编辑丨海腰
作为人工智能的基础设施,目前算力依旧处于供小于求的境地,算力缺口还在持续加大。除了GPU之外,行业也在迫切寻找其他的算力替代方案。
光芯片便是其中一项。
日前,由三位麻省理工学院(MIT)校友创立的AI算力独角兽Lightmatter宣布获得新一轮4亿美元(约合28.5亿元人民币)D轮融资。本轮由普徕仕(T. Rowe Price)领投,老股东GV、富达等跟投。
此次融资后,Lightmatter累计融资已经达到8.22亿美元(约合58.6亿元人民币),估值达到44亿美元(约合313.7亿元人民币),相比上一轮融资,估值直接翻了约3.7倍,这也使其成为目前估值最高的光芯片创业公司之一。
据悉,Lightmatter通过其研发的光学互连层技术,能够使数百个GPU协同工作,极大地简化了AI模型训练的复杂流程,并大大降低了成本。
麻省理工三位校友组团夺冠
开启创业被谷歌连投五轮
这是一个三位MIT校友联手创业的故事。
Nicholas Harris拥有MIT电气工程和计算机科学的博士学位。后来,他成为了MIT的博士后研究员,研究光学量子计算和人工智能,在《自然》、《自然·光子》和《自然·物理》等期刊上发布过超过30项专利和70篇论文。
值得一提的是,他还曾入选2021年《麻省理工科技评论》“35岁以下科技创新35人”,要知道获得过这个奖项的可是谷歌创始人拉里·佩奇和谢尔盖·布林、Facebook创始人马克·扎克伯格、苹果公司前首席设计官乔尼·艾夫等重量级人物。
实际上,他还曾在半导体储存巨头美光科技干过两年的研发工程师。也是这一经历使他认识到,提高计算性能的传统方法即在每个芯片上塞满更多晶体管,已经达到了极限。
Nicholas Harris说:“我看到算力的发展路线图正在放缓,我想弄清楚通过什么方法才能继续提升算力。量子计算和光子学就是其中的两条途径。”
Lightmatter创始人兼CEO Nicholas Harris,图源:Lightmatter
这时,他找到了MIT的物理学博士Darius Bunandar。
Darius Bunandar的研究方向是用纳米光子电路进行量子计算和通信。在德克萨斯大学奥斯汀分校读本科时,他还参与了加州理工学院-康奈尔大学的模拟极限时空(SXS)合作项目,开发了一种能够可视化双黑洞的软件。在美国大片《星际穿越》中,就使用了他创建的黑洞图像。
可以说,Nicholas Harris和Darius Bunandar两人都是技术宅,对如何创业以及商业化运作都知之甚少。因此,他俩决定去MIT的斯隆管理学院上一门创业课程,来好好恶补一下。
不巧不成书,在那里,他俩遇见了深谙商业运作的Thomas Graham。彼时,Thomas Graham正在攻读MIT斯隆管理学院的MBA学位。
Thomas Graham不仅在摩根士丹利做过公司并购和融资方面的咨询,还在谷歌做过产品经理、运营和商务方面的工作,可谓商业运营的全才。
在商学院,Thomas Graham看到了他们使用光子来加速AI的视频。他们开发出一种新的光子芯片架构,完全依靠光而不是电子作为计算中携带信息的媒介,这意味着芯片的工作速度比传统的电子芯片要快得多,并且消耗更少的能源。
“这个项目非常棒”,Thomas Graham说道。
于是,他们决定组队参加MIT $ 100K创业大赛。这个大赛被誉为世界范围内顶尖商学院的盛事,已经持续了30 多年,孵化出的公司市值超过100亿美元。
最终,他们赢得了2017年比赛的冠军,击败了其他数十支队伍,获得了10万美元的奖金。
Lightmatter小组获奖时照片,图源:mit100k
2017年9月,三位MIT校友共同创立了Lightmatter。Nicholas Harris成为了公司CEO,Darius Bunandar担任首席科学家,Thomas Graham则发挥其运营才能,担任COO。
次年2月,他们就获得了来自星火资本(Spark Capital)和经纬创投(Matrix Patners)的1100万美元A轮融资。
此后便一发不可收拾,睿兽分析显示,Lightmatter共完成6轮融资,其中谷歌风投(Google Ventures,GV)已经从A+轮连投五轮,星火资本(Spark Capital)和经纬创投(Matrix Patners)也都连投了三轮。
值得注意的是,2023年12月,Lightmatter宣布完成1.55亿美元(约合28.5亿元人民币)C+轮融资,公司估值超过12亿美元(约合85.6亿元人民币),正式跻身独角兽。近日,公司更是获得了4亿美元(约合28.5亿元人民币)D轮融资,成为其有史以来最大一轮融资,估值达到44亿美元(约合313.7亿元人民币),累计融资8.22亿美元(约合58.6亿元人民币)。
“把电换成光”正成为一场算力革命
实际上,在AI革命背后,“把电换成光”正在成为一场芯片行业的潜在算力革命。
AI带来的巨大计算需求正在推动数据中心的发展,不过并不是直接插入一千个GPU那么简单就能解决。
这其中,互连层是将 CPU 和 GPU 机架变成一台巨型机器的关键。因此,互连速度越快,数据中心的速度就越快。
随着摩尔定律接近极限,未来算力提升的空间很有可能在光子计算芯片技术上。数字芯片受限于底层元器件:CMOS晶体管,而光学信号和光学器件遵循不同的物理原理。
和传统芯片不同,光芯片是通过光学技术而非电信号实现信息处理。而依靠光作为传递载体,让光芯片拥有了更高的传输速度、更低的功耗、更大的带宽。
经过测算,理想状态下,光芯片的端到端功耗仅仅为电子芯片的10%,延迟只有其1%,而同等条件下的算力却能达到电芯片的100倍以上。
从下游趋势而言,随着生成式AI将海量的高质量数据、大规模参数的模型推向市场,针对于大模型算力芯片的需求已达到非常高的水平,并仍在快速增长。这对未来的AI算力芯片提出了大算力、低功耗且成本可控的需求,而这些需求也恰好是光芯片的优势所在。
Lightmatter想要做的正是提升GPU或CPU芯片互联层的效率,从而突破现代数据中心的瓶颈。通过光子技术,可以让数百个GPU同步工作,从而简化复杂又极其烧钱的AI模型训练。
Lightmatter一直在开发的光子芯片,构建了速度最快的互连层。
Nicholas Harris指出,“针对超大规模的数据中心,如果他们想要一台拥有一百万个节点的计算机,无法使用思科传统交换机来实现。一旦离开机架,高密度互连就变成了一根绳子上的杯子。”
因此,对于一百万个 GPU,你需要多层交换机,这会增加巨大的延迟负担,Nicholas Harris说。
“你必须从电到光再到电再到光……你使用的电量和等待的时间都是巨大的。而且在更大的集群中,情况会变得更糟。”
那么,Lightmatter又是怎么做的呢?
其首款产品Envise是一款专门用于人工智能操作的芯片,另一款产品Passage则促进芯片之间数据传输的互连,它们利用光子和电子来提高操作效率。
Envise是一种通用机器学习加速器,,结合了光子学和基于晶体管的系统,图源:Lightmatter
此外,Lightmatter还研发了世界上第一个3D堆叠光子引擎Passage,能够在超大规模数据中心以光速连接数千到数百万个处理器,用于最先进的人工智能和高性能计算工作负载。
具体来说,Passage提供了一个功能类似于OCS(光路交换机)的通信层,该层位于基本和ASIC之间,几乎可以实现全方位通信,这个通信层可以进行动态的配置。通过采用硅内置光学(或光子)互连的形式,使其硬件能够直接与GPU等硅芯片上的晶体管连接,这使得在芯片之间传输数据的带宽是普通带宽的100倍。
Passage是晶圆级可编程光子互连,使异构芯片阵列能够进行通信,图源:Lightmatter
“AI对于能源消耗方面的挑战是前所未有的,数据中心产生的能源消耗会越来越多。据统计,训练一个大型语言模型所消耗的能量大约比100个美国家庭一年的消耗总量还要多,除非改变现有的计算范式,否则到本世纪末,AI模型将消耗世界总电力的10%-20%。这也迫使我们改进现有的计算基础设施。”
Nicholas Harris相信,未来几年,光子技术将改变生成式AI和超级计算。
又能提高运算效率,又能节能降本,这也恰恰是科技巨头所需要的。
Nicholas Harris指出,“这个市场非常巨大,从微软到亚马逊,再到xAI和OpenAI等新进入者,每家拥有大型数据中心的科技公司都对光子计算表现出了极大的兴趣。”
这其中,不少公司已经是Lightmatter的客户。目前,公司正在与芯片制造商和云服务提供商合作,以实现大规模部署。不过Nicholas Harris并没有透露具体的客户名称。
他还表示,由于Lightmatter的设备是在硅上运行的,因此可以由现有的半导体制造设施生产,无需大规模改变工艺。
同时,他还暗示到:“这很可能是公司最后一轮融资。”这也意味着,Lightmatter有可能正在准备冲刺IPO。
实际上,今年7月,Lightmatter任命了英伟达前高管Simona Jankowski为CFO,进一步表明了其上市的决心。
几乎同时,位于纽约的Xscape Photonics也获得了4400万美元A轮融资,由IAG Capital Partners领投,思科投资和英伟达等机构跟投。其光子解决方案可优化AI数据中心的网络架构,将GPU的“逃逸带宽”提升10倍,能耗降低10倍。
华为入局、VC哄抢
国内光芯片赛道逐渐火热
不仅是国外,国内光芯片也正在成为一条火热的赛道。
2024年3月,位于苏州的光计算芯片公司光本位完成了近亿元人民币的天使+轮融资。这家成立于2022年的初创企业在半年内完成了天使和天使+轮融资。
其联合创始人&CEO程唐盛在牛津大学攻读博士期间,选择与高中时期好朋友熊胤江一起回国创建了光本位,并迅速获得了资本和市场的肯定。
“光芯片不像硅基电芯片(集成电路)一般有着对先进制程(光刻机在内)的强依赖。”熊胤江说到。
集成电路的性能提升符合摩尔定律,要提升性能必须加大晶体管密度,而随着摩尔定律陷入瓶颈,这一性价比变低。而光芯片却可以通过借助多个波长、频段的光进行并行计算,且彼此不会进行干扰,更能够成倍提升算力,这使得光芯片可以不依赖于制程的进步完成迭代。
基于此,光计算芯片有极大可能成为中国在算力领域换道超车的绝佳机会。
熊胤江表示,目前光芯片领域的国产化替代率较高,国内已经拥有了成熟的芯片设计软件,以及成熟的硅光工艺代工厂,国内外先进技术的差异不大。
80后MIT博士沈亦晨创立的曦智科技则已经获得三轮融资。其投资方包括真格基金、BV百度风投、经纬创投、祥峰投资、中科创星、招商局创投、中金资本等知名机构。
实际上,在MIT时期,沈亦晨与Lightmatter的三位创始人还有一段交集。
当时,沈亦晨也是Lightmatter小组的成员,一同在MIT $ 100K创业大赛中获得 10 万美元奖金。2017年,他们分别以一作、二作的身份,在顶级期刊 《自然·光子》发表了将光计算应用于人工智能领域的关键论文。该论文累积引用超1400次,为纳米光子领域近5年引用数最高的论文。
不过,当时由于采用了不同的技术路径,在2017年9月同时诞生了两家公司——曦智科技和Lightmatter。
成立不到两年,曦智科技便发布了全球首款光子芯片原型板卡,成功将当时占据半个实验室的整个光子计算系统集成到了常规大小的板卡上,验证了以光子替代电子进行高性能计算的开创性想法,并解决了光子芯片处理准确性问题。
2021年,在此基础上,曦智科技发布了高性能光子计算处理器PACE(光子计算引擎)。PACE成功验证了光子计算的优越性,跨出了整个光子计算行业的一大步。2023年,其首款兼容PCIe和CXL(Compute Express Link)协议的数据中心计算光互连硬件产品Photowave亮相。
祥峰投资合伙人李伟指出,由于光芯片是一个全新革命性的技术,并不是做某个国产替代的芯片,有比较明确的目标客户,因此会有一个市场发掘的过程。随着产品的进展顺利,曦智科技在发展过程中也逐步找到了商业落地的场景,例如银行间的高频交易、滴滴的路径导航规划。
如今,光芯片已是全球通信厂商必争之地。
近两年,华为集中投资光电芯片,一度掀起国内光芯片投资热潮。据统计,仅华为哈勃就已投资10余家光芯片相关企业。