很快查理斯看到论文的第三部分。
在这个部分,论文展示了在一台本地计算机上,通过代码构建的虚擬环境,模擬100个计算节点、一万次叠代周期的分布式深度学习训练过程。
在极端异步环境中,每一个计算节点都加入了不同程度的网络延迟。
最终却达成了一个很不错的结果。
查理斯盯著最终收敛的曲线图看了好一会儿。
在曲线图上,那条代表误差率的红线,並没有像传统的异步模型那样,在模擬到几千次叠代之后就出现各种误差甚至於直接崩溃。
相反,那条红线呈现出一种极其平稳的向下趋势。最终的误差率被控制在了一个合理区间內,整个模型也没有崩溃。
很稳定!
查理斯深吸了一口气,眼神之中露出兴奋。
“上帝啊……”
查理斯靠在椅背上,口中喃喃自语。
作为nips大会的资深审稿人兼编辑,他在加州大学圣地亚哥分校也拥有自己的计算机实验室,他有著很高的专业素养。
正因为专业,他一眼就看出了这个全新架构背后隱藏的巨大价值。
这不仅仅是一篇停留在纸面上的理论推导论文。作者还无可辩驳的实验数据。
这种数据是不可能造假的,因为太容易被復现了,数据造假的可能性极低!
如果这个基於动態时间戳权重惩罚的异步框架能够实现工业级部署…………
查理斯想到这儿,呼吸都变得粗重了几分。
如果真能应用,那目前困扰整个ai学界的通信瓶颈会被打破。
神经网络的训练规模將会摆脱单机算力或者同步锁的物理限制,迎来一次爆炸式的增长。
这篇论文意义重大!学术价值,甚至超出了本届nips大会所有已接收论文。
想到这儿,查理斯兴奋的抓起桌上的座机电话,迅速拨通了本届nips大会主程序委员会执行会长、史丹福大学计算机系资深教授的电话號码。
电话很快被接了起来。
“喂!会长先生!我是查理斯。”
查理斯的声音有些兴奋的喊道。
电话那头的执行会长显然正在处理其他事务,被查理斯这种罕见的失態语气弄得有些发愣。
“查理斯?怎么了?什么事情让你如此失態?是谷歌大脑团队那边又提交了什么关於大规模无监督学习的新成果吗?”
会长好奇的问道。
“不是谷歌!也不是微软或者多伦多大学的团队!是一个完全陌生的个人投稿者,名字叫yang zhao!”
查理斯拿著听筒,大声说道:“他解决了一直困扰我们的异步sgd框架梯度陈旧问题!他引入了一种极其先进的模型,基於延迟时间差赋予动態权重惩罚。
在完全异步的环境下实现了模型的平稳收敛!而且在附件里还给出了实验流程和实验数据!”
“你確定推导过程和数据没有造假?”
听到梯度陈旧问题被解决,执行会长的语气也立刻变得极其严肃。这关乎到整个分布式计算领域未来的发展方向。
“我花了一个小时,逐行粗略看了一遍他的核心算法和数学推导公式。逻辑上严丝合缝,没有任何明显的漏洞,至於数据,物我个人认为造假概率极低。
因为復现难度很低。”
查理斯快速回答,“我已经把完整论文发到你的工作邮箱了,你快点亲自看一眼!”
“好,我马上下载查看。”
执行会长直接说到。
“你立刻在后台把这篇论文的优先级调到最高,加入a级优先评审通道。我会亲自联繫麻省理工和伯克利的三位最顶尖的分布式计算专家进行紧急盲审!!”
“明白,我立刻去办。”
掛断电话,查理斯重新坐回电脑前。
他在nips的內部审稿系统中,將这篇论文的状態更改为最高级別的加急评审,並將其分发给了会长指定的几位外部独立审稿人。
做完这一切,查理斯看著屏幕上依然打开著的pdf文件,目光落在標题下方的作者署名和单位位置。
“yang zhao……燕京林业大学?燕京大学?这傢伙到底是从哪冒出来的怪物?”
查理斯喃喃自语,眼神之中满是好奇,他在计算机科学领域的顶级学者圈子里混跡了十几年,各大名校的华人学者他也认识不少,但对这个名字和这个单位毫无印象。
迟疑了一下,查理斯打开瀏览器,进入了谷歌学术的搜索界面。
他在搜索框中输入了“yang zhao”,並添加了“燕京林业大学”作为机构限定词进行精准检索。
页面跳转,检索结果弹出。
排在第一位的,是一篇发表在ieee tip(电气电子工程师学会图像处理汇刊)上的关於图像去噪的论文。
“图像处理领域的顶刊?看来確实是计算机方向的学者。”查理斯微微点头,这算是一个合理的背景履歷。
但当他的视线向下移动,看到检索结果第二条的那篇刚刚被系统收录索引的论文时。
查理斯握著滑鼠的手僵住了。
论文標题:论素数间隙的有界性。
发表期刊:数学年刊。
作者:yang zhao。
查理斯虽然是搞计算机深度学习的,但他同样也是一名科研工作者,他非常清楚《数学年刊》在科学界的地位,更清楚素数间隙这四个字代表著什么。
就在前两天,普林斯顿大学的官网和各大科学媒体还在铺天盖地地报导一位年轻的中国学者证明了孪生素数猜想的新闻。
这个新闻他还是多少有些耳闻的。
查理斯的眼神之中露出极度的震撼,瞳孔微微收缩。
“上帝……这个解决了异步通信算法的人,竟然就是前不久刚刚证明了孪生素数猜想的那个数学家?!”
查理斯盯著屏幕,难以置信地喃喃自语。
“这篇tip也是他发的。一个月前发图像处理顶刊,前几天发数学界最高期刊解决百年难题,现在又向nips投了一篇足以改变底层架构的计算机论文?”
这种极度的跨学科能力和恐怖的產出速度,完全顛覆了查理斯对人类智力极限的认知。
第178章 居然是他???
同类推荐:
娇门吟(H)、
武道从练刀开始、
这些书总想操我_御书屋、
逆战苍穹、
不朽灵魂、
仙绝恋、
逆凡之巅、
双穴少女和她的触手男友、

