字体
关灯
   存书签 书架管理 返回目录

    2006年的现在,人工智能还远未到后世那种爆发式增长的阶段。
    主流学界对神经网络的看法依旧偏向悲观,深度学习的概念尚未被正式提出。
    他想起了穿越前,自己在企鹅公司参与AI相关项目时,曾经花大力气啃过的大量论文和技术文档。
    那些关于卷积神经网络、深度信念网络、无监督逐层预训练方法的知识,像尘封的档案,储存在记忆的深处。
    “我明白了。”马宇腾站起身,走到书桌前。
    “对于AI技术我有一点想法,等整理一份东西,给他们指个方向。”
    “你还懂具体的AI技术?”马明那边明显愣了一下。
    马宇腾没有解释。
    “就这样,我去准备了。”
    挂断电话,他来到书房里,打开笔记本电脑,新建了一个文档。
    他没有丝毫犹豫,直接在文档的标题栏上,敲下了四个字:深度学习。
    他开始快速敲击键盘,将记忆中的那些核心概念一一复原。
    他首先定义了“深度学习”这个概念,将其描述为一种通过构建具有多个处理层的计算模型来学习数据中抽象特征的方法。
    接着,他详细阐述了卷积神经网络(CNN)的结构。
    从卷积层如何通过滤波器提取局部特征,到池化层如何进行降维和特征选择,再到全连接层如何进行最终的分类。
    他甚至画出了一个简易的LeNet-5网络结构示意图。
    然后,他引入了“深度信念网络(DBN)”的概念。
    他解释了如何通过堆叠多个受限玻尔兹曼机(RBM)来构建网络,以及这种结构在处理高维数据时的优势。
    最关键的部分,是他提出的“无监督逐层预训练”方法。
    他写道:直接训练一个深层网络是极其困难的,梯度消失或爆炸的问题会导致训练失败。
    我们可以采用一种逐层贪婪的训练方法。先无监督地训练第一层,当第一层训练好后,再将第一层的输出作为第二层的输入,训练第二层。
    以此类推,完成所有隐藏层的预训练。最后,再用有监督的方式,对整个网络进行微调。
    这套方法,正是那位AI“教父”,图灵奖和诺贝尔物理学奖得主杰弗里·辛顿未来提出的理论。
    它彻底解决了深度神经网络的训练难题,开启了深度学习的黄金时代。
    马宇腾的思路清晰无比,键盘敲击声在安静的书房里连成

关闭+畅/阅读=模式,看最新完整内容。本章未完,请点击下一页继续阅读》》
上一页 目录 下一页