陈云霁:深度学习勇攻坚,云霁初开创新篇

原始性创新,是攀登科学高峰的必由之路,更是一个艰难的突破过程。在中国科学院计算技术研究所研究员陈云霁看来,原始性创新就是在科研中充分发挥研究人员的学习能力、创造能力,去解决未知的科学问题。

他从2008年决定开展人工智能和芯片设计的交叉研究。最初不管是在国际还是国内的科研领域,都不太看好这一方向的前景。而正是在这一背景下,陈云霁决心带领团队,探索这一少有人问津的领域。

功夫不负有心人。在十几年的科研探索征途中,陈云霁带领团队成功研制了国际上首个深度学习专用处理器芯片。2021年11月3日,其主持的“深度学习处理器体系结构新范式”项目,获得了2020年度国家自然科学奖二等奖。在他和团队的努力下,现如今,深度学习处理器研究方向已成为当前国际计算机体系结构领域最重要的研究热点之一。

《科学中国人》封底人物:陈云霁

“天才”是怎样炼成的

9岁上中学,14岁就读于中国科学技术大学少年班,24岁博士毕业于中国科学院计算所,29岁起任中国科学院计算技术研究所研究员(正教授)、博士生导师。陈云霁的履历与成长,与他的家庭教育背景息息相关。陈云霁的父亲是电力工程师,母亲是历史老师。从四五岁开始,陈云霁就接触到了诗文知识,对语文、数学等科目的学习也有涉及。这些因素给他此后的学习、工作奠定了基础。

然而,在成长过程中,陈云霁也曾迷失过方向。他直言,自己刚上大学的时候,因为年纪很小,所以自制力不是很好,也没有完全适应大学的环境。这一阶段,陈云霁痴迷上了打游戏,是因为有陈国良院士等恩师的指引,他才慢慢从迷途中知返,并从兴趣中找到了自己未来的方向。

1931年,爱因斯坦曾在美国纽约州立大学的演讲《论教育》中说“教育是如果学校的知识都忘光之后剩下的东西”。陈云霁十分同意这一观点,在他看来学校教育的重点,是为了培养一个和谐的人格,一个有激情、有创意、能独立思考和判断的人格。而一个人价值观的形成,越小的时候影响便是越大的。

在陈云霁看来,能够早一点去上大学,更早地接受科学精神和人文精神的洗礼,是十分宝贵的体验。“导师们对于科学的态度和精神对我的影响是非常大的,从某种程度上来说,已经深深刻在了我的灵魂里面。”他说。

本科毕业后,陈云霁听在中国科学院计算技术研究所实习的同学说那里正在研制中国第一块通用CPU芯片龙芯1号,听闻这一消息,他激动万分。

陈云霁深知,在当时中国计算机领域的发展背景下,开展这项工作需要决心,更需要勇气,而他十分愿意投身到这一研究中。在心愿的驱使下,2002年,他通过不懈努力如愿以偿来到了中国科学院计算技术研究所,跟随胡伟武研究员硕博连读,成为当时龙芯研发团队中最年轻的成员。

博士毕业后,他留在了计算所。25岁时,陈云霁就已经成为8核龙芯3号的主要架构师。在“龙芯”系列的研发工作中,陈云霁不但提升了个人能力,还磨砺了意志品质,这一切都为他今后科研工作的开展奠定了坚实的基础。

深度学习处理器的“开拓者”

科研之路无疑是孤独的。最开始从事人工智能和芯片设计交叉研究的时候,陈云霁也不止一次地问自己,为什么要做这样的研究。面对前路的未知,他最终还是选择坚定自己的内心。在他看来,很多原始创新做出来之前,相关方向一定是不被大家认可的。

“那时候我们还是凭着一个学术的信念,相信这样的交叉研究是一个有意义的方向,即便其没有什么功利意义上的价值,我们还是希望能把这项研究给坚持下来。”陈云霁说。

起初,陈云霁主要凭借着自己对这一课题的理解孤军奋战,直到2008年,弟弟陈天石来到了北京实习。就这样陈云霁开始与在人工智能算法方面有着丰富经验的陈天石开展合作,兄弟两个一个人推算法,一个人推结构,经过几年的潜心研究,最终在相关领域取得了一系列进展。

2014年,在美国盐湖城召开的“计算机国际体系结构支持、编程语言和操作系统”(ASPLOS)国际会议上,陈云霁团队与法国国家信息与自动化研究所(INRIA)的奥利维尔·特姆(Olivier Temam)合作发表了一篇题为“DianNao:一种小尺度的高吞吐率机器学习加速器”的论文受到了全世界的关注,这篇论文最终获得了会议的最佳论文奖。这次会议之后,深度学习处理器开始被全世界所关注。

此后,陈氏兄弟带领的团队再获新进展,他们成功研发出世界首款深度学习处理器原型芯片。

2018年,陈云霁团队的研究成果被《科学》(Science)杂志刊文评价为深度学习处理器基础研究的“开创性进展”、“先驱”和“引领者”,被图灵奖得主、深度学习开创者之一——尤舒·本吉奥(Y. Bengio)编著的教科书引用。成果推动深度学习处理器体系结构方向从无到有,成为当前国际计算机体系结构领域最重要的基础研究热点之一。

值得一提的是,成果发布后,全球五大洲、30个国家/地区的200余家高校、企业及研究机构(哈佛、斯坦福、麻省理工、谷歌、英伟达等),以及2位图灵奖得主、10位中国和美国的院士、120余位ACM/IEEE会士先后跟踪引用了项目成果。包括华为、三星、台积电等企业,也在广泛引用陈云霁团队的论文,参考他们的科学发现去研究怎样为深度学习设计芯片。

在研究成果的支撑下,陈云霁与陈天石、杜子东、孙凝晖、郭崎合作研究的科研项目“深度学习处理器体系结构新范式”成功荣获2020年度国家自然科学奖二等奖,这也是我国历史上处理器芯片领域获得的唯一的国家自然科学奖。

陈云霁团队荣获2020年度国家自然科学奖二等奖

教研有道勤探索

以兴趣为马,以心为驱使。在陈云霁的心中,科学研究从不是自己养家糊口的工具,而是兴趣,是理想,是驱使自己向前的动力。从5岁开始读书,如今三十载有余,陈云霁对学习、对科学也有着属于自己的感悟。

教师家庭出身,他从小耳濡目染,虽然现如今并没有繁重的教学任务,但是陈云霁希望以自己的学习经历为鉴,为国家培养更多的掌握系统性思维的科研、工程人才。在这一目标的驱使下,他带领团队一起开发了“智能计算系统”课程,这是国际上首门系统讲授当前机器学习系统完整软硬件技术栈的课程。

在陈云霁看来,传统的教学机制是一个缺乏奖励、缺乏反馈的过程,以至于很多人明明知道学习的重要性,但仍提不起精神来投身其中。作为曾经的游戏热衷者,陈云霁深知:很多学生沉迷于网络游戏的原因,与其及时的奖励机制有着莫大的联系。而如果学习也能够效仿相关的奖励机制,给予学生及时的反馈,加深学生的学习成就感,可能就会无形中提升学生的学习热情。

在这一理念的影响下,陈云霁一直尝试在自己上课的过程中变革旧有的教学模式,在实验教学过程中,把课程实验设计成了一个提供稠密、即时、体系化奖励的小程序游戏“太空开发者”。在这门实验课中,学生可以边做实验边玩游戏,自主完成智能计算系统全栈工程师的学习之旅。

在传统的实验教学中,学生的实验结果需要助教来评估,要在数天后才能得到反馈,此时学生已经脱离了实验完成的兴奋状态。与之不同的是,陈云霁在课程中采用了一套自动智能评测系统,学生在提交实验时可以即时获得实验分数,并在截止日期前可以多次提交成绩实现突破,游戏系统可以根据学生的实验分数实时刷新“科技点”。如果实验做得好,学生可以即时获得正向奖励。

现如今,这门智能计算系统课程已经在中国科学院大学、北京大学等全国80多所高校进行了推广,通过实行,陈云霁发现:学生的学习积极性有了明显提高。

师者,传道授业解惑者也。“每个人的生活都需要有一定的价值,尤其是对科学院的青年工作者来说,如果能找到自己的使命,是一件非常幸运的事情。”陈云霁这样勉励后辈。

一直以来,陈云霁从不缺乏勇气及冒险精神。他直言,现如今科研探索最艰难的那段时间已经过去了,未来的方向也愈加明朗了起来。展望未来,陈云霁深知:现在远不是能停下来的时候。