2020年12月(yuè)31日,北京智源人工智能研究(jiū)院(以下简称“智(zhì)源研究院(yuàn)”)发布了《2020人(rén)工智能十(shí)大(dà)进展报告》。该报(bào)告由智源研究院全体智源(yuán)学者共同参与,对2020年里全球范围内人工智能领域的科(kē)学系统、算法等方向(xiàng)进(jìn)行了评价分析,最终形成了十大进(jìn)展(zhǎn)成(chéng)果。其中(zhōng),由中国学(xué)者取得的(de)进(jìn)展(zhǎn)有3项(xiàng)。
这十大进展分别(bié)是:
进展1:OpenAI发布(bù)全球规(guī)模最大的预训练语言模型GPT-3;
进展2:DeepMind的(de)AlphaFold2破(pò)解蛋白(bái)质结构预测难题;
进展3:深度势能分子动力学(xué)研究获得戈登·贝尔奖;
进展4:DeepMind等用深度神经网络求解薛定谔方程促进量子化学(xué)发展;
进(jìn)展5:美国贝勒医学院通(tōng)过动态颅(lú)内(nèi)电刺(cì)激实现高效率(lǜ)“视皮(pí)层打印机”功能;
进展(zhǎn)6:清华大学首次提出类脑(nǎo)计算完(wán)备(bèi)性概念及计算系(xì)统层次结构;
进展7:北京(jīng)大学(xué)首次实现基于相变存储器的神经网(wǎng)络高速训练系统;
进展(zhǎn)8:MIT仅用19个类(lèi)脑神经元实(shí)现控制自(zì)动驾驶汽车;
进展9:Google与FaceBook团队分别提出全新无监(jiān)督表征学习(xí)算法;
进展10:康奈尔大学(xué)提出无偏公平排序(xù)模型可缓解检索排名的马(mǎ)太效应问题;
在中国学者取得的进展中,北京应用物理与计算数学研究院王涵(hán)所在的“深(shēn)度势能(néng)”团队,获得了国际高性能计算应用领域(yù)最高奖项(xiàng)“戈登·贝(bèi)尔奖”。“戈登·贝尔奖”设立于(yú)1987年,由美国计算机协会(ACM)颁发,被誉为“计算应(yīng)用领域的诺(nuò)贝尔奖(jiǎng)”。该(gāi)团队(duì)研究(jiū)的“分子动力(lì)学”,结合了分子(zǐ)建模、机器(qì)学(xué)习和(hé)高性能(néng)计算相关(guān)方(fāng)法,能够将第一性原理精度(dù)分子动(dòng)力学模拟规模(mó)扩展到1亿原子,同时计算效率相比此(cǐ)前人类最好(hǎo)水(shuǐ)平提升1000倍以上,极大地提升了人(rén)类使用计算机模(mó)拟客观物(wù)理世界的能力。
清华大学张悠(yōu)慧(huì)、李(lǐ)国齐、宋森(sēn)团队首次提出“类脑计算完备(bèi)性”概念以及(jí)软(ruǎn)硬件去耦合(hé)的(de)类脑计算系统(tǒng)层次结构,通过理论论(lùn)证与原型实验证明该类系统(tǒng)的硬(yìng)件完备(bèi)性与(yǔ)编译(yì)可行性,扩(kuò)展了类(lèi)脑计算(suàn)系统应用(yòng)范(fàn)围使之能支持通用(yòng)计算。《自然》周(zhōu)刊评(píng)论认为,“‘完备性’新概念(niàn)推动(dòng)了类脑计算”,对(duì)于类脑系统存在的软硬件紧耦合问题(tí)而言这(zhè)是“一个突破性(xìng)方案”。
北京大(dà)学杨玉超(chāo)团队提出并实现了一种基于相变(biàn)存储器(PCM)电导随(suí)机性的神(shén)经网(wǎng)络高速训练系统,有效地缓解了人工神经网络训练过程中时(shí)间、能(néng)量开(kāi)销巨大并(bìng)难以在(zài)片上(shàng)实现的问(wèn)题。该系统在误差直接回传算(suàn)法(DFA)的基础上进行改进,利用PCM电(diàn)导的(de)随机性自然地产生(shēng)传(chuán)播误差的随(suí)机权重,有效降低了系统的(de)硬(yìng)件(jiàn)开销以及训练(liàn)过程中的时间、能量消耗。该(gāi)系统(tǒng)在大(dà)型卷积神经网络的训练过程中表现优异,为人工神经网(wǎng)络在终端平(píng)台上(shàng)的应用以及片上训练的实现提供了(le)新的方向。