字体
大
中
小
关灯
   存书签 书架管理 返回目录
    2014年6月3日,清晨。
    ArXiv,全球最大的学术预印本平台。这东西对搞AI的研究者来说,就是学术圈的朋友圈。
    论文上传后二十四到四十八小时内全球可见,不用等同行评审,不用排队走期刊流程,直接面向全世界亮牌。
    每天早上起来第一件事,刷ArXiv。
    这是所有做深度学习的人的肌肉记忆。
    今天早上,这个朋友圈里炸了一颗雷。
    论文标题:Deep Residual Learning for Image Recognition。
    作者:Shaoqing Ren, Yuhang Zheng, Liqiu Chen。
    单位:JiuTian AI Lab, Echo Technology, China。
    斯坦福大学盖茨计算机科学大楼三层,博士后林之远端着咖啡走进办公区,习惯性刷新了cs.CV板块。
    他的手停住了,咖啡差点洒出来。
    152层卷积神经网络。ImageNet验证集Top-5错误率,3.57%。
    人类标注员的平均水平是5.1%。去年ImageNet竞赛冠军GoogLeNet是6.67%。这篇论文直接把数字按到了3.57%。
    “你们过来看看这个。”
    林之远的声音不大,但语调不对。
    旁边几个人抬起头,三分钟后,实验室十一个人全围在他屏幕前面。
    “等等,152层?”一个叫Kevin的白人博士生最先反应过来,
    “不可能。超过三十层的网络根本没法训练,梯度消失会把信号吃干净。这是常识。”
    “你往下看。”林之远指着论文第三页的示意图,
    “他们加了一个跳跃连接,把输入直接加到输出上。梯度可以跳过中间层回传。”
    Kevin盯着那张图看了十几秒。
    “这也太简单了吧。”
    “简单?”坐后面的赵明推了推眼镜,
    “最好的想法往往都简单。问题是你没想到。”
    Kevin的脸色不好看。
    实验室主任Professor Williams也走了过来。
    他花了五分钟把论文从头到尾扫了一遍,表情从惊讶慢慢变沉。
    “这个结果如果可以复现,整个领域的范式都要变。”
    他看了一眼作者

关闭+畅/阅读=模式,看最新完整内容。本章未完,请点击下一页继续阅读》》
上一章 目录 下一页