欢迎访问:新清华

日期选择

清华交叉团队突破智能光计算训练难题 生命学院揭示去甲肾上腺素转运蛋白再摄取与抑制的分子基础 清华53项成果获第九届高等学校科学研究优秀成果奖(人文社会科学) 化学系李亚栋院士荣获2024未来科学大奖 环境学院曲久辉院士、胡洪营教授分别荣获国际水协会荣誉会员奖和出版奖 材料学院合作在介电储能薄膜新设计策略研究中取得新进展
学术前沿
新清华

2024年08月23日

2334

本期8

文章30

字号【 加大 还原 减小

清华交叉团队突破智能光计算训练难题

新清华 2024年08月23日 第2334期 学术前沿

“太极-Ⅱ”光训练芯片概念图。

  本报讯 近日,清华大学电子系方璐教授课题组和自动化系戴琼海院士课题组另辟蹊径,首创了全前向智能光计算训练架构,研制了“太极-Ⅱ”光训练芯片,实现了光计算系统大规模神经网络的高效精准训练。研究成果以“光神经网络全前向训练”为题,于北京时间8月7日在线发表在《自然》(Nature)期刊上。
  近年间,具有高算力低功耗特性的智能光计算逐步登上了算力发
展的舞台。通用智能光计算芯片“太极”的问世便是其中的一个缩影,它首次将光计算从原理验证推向了大规模实验应用,以160TOPS/W的系统级能效为大规模复杂任务的“推理”带来了曙光,但未能够释放智能光计算的“训练之能”。
  相较于模型推理而言,模型训练更需要大规模算力。然而,现有的光神经网络训练严重依赖图形处理器进行离线建模,并且要求物理系统精准对齐。正因如此,光学训练的规模受到了极大的限制,光高性能计算的优势仿佛被禁锢在无形的枷锁之中。
  方璐、戴琼海课题组找到了“光子传播对称性”这把钥匙,将神经网络训练中的前向与反向传播都等效为光的前向传播。
  由于不需要进行反向传播,“太极-Ⅱ”架构不再依赖电计算进行离线的建模与训练,大规模神经网络的精准高效光训练终于得以实现。
  以光为计算媒介,以光的可控传播构建计算模型,光计算天然具有高速和低功耗的特性,利用光的全前向传播实现训练能够极大地提升光网络训练的速度与能效。
  研究表明,“太极-Ⅱ”能够对多种不同光学系统进行训练,并在大规模学习领域、复杂场景智能成像、拓扑光子学领域等各种任务下表现出卓越的性能。
  “太极-Ⅱ”的面世,继“太极Ⅰ”芯片之后进一步揭示了智能光计算的巨大潜力。方璐表示:“‘定两仪太极之道,合正反乾坤之法’,我们这样形容太极系列这一组辩证协作架构,相信它们将合力为未来人工智能大模型注入算力发展的新动力,构建光算力的新基座”。
  在原理样片的基础上,研究团队正积极地向智能光芯片产业化迈进,在多种端侧智能系统上进行了应用部署。可以预见,经过太极系列在内的光计算领域的不懈努力,智能光计算平台将有望以更低的资源消耗和更小的边际成本,为人工智能大模型、通用人工智能、复杂智能系统的高速高能效计算开辟新路径。
  清华大学电子系为论文第一单位,方璐、戴琼海为该论文的通讯作者,清华大学电子系博士生薛智威、博士后周天贶为共同第一作者。(电子系)

  • 语音播报
  • 一键复制
  • 导出
清华大学新闻中心版权所有,清华大学新闻网编辑部维护,电子信箱: news@tsinghua.edu.cn
Copyright 2001-2020 news.tsinghua.edu.cn. All rights reserved.