第438章 AI技术的困境（2 / 3）
“团队是搭建起来了，也都是名校毕业的高材生。但是大家都很迷茫，不知道具体该往哪个方向发力。现在就是看论文，復现一些简单的图像识別算法，没什么突破性的进展。感觉像没头苍蝇一样乱撞。”
马宇腾沉默了。
他能理解这种迷茫。
2006年的现在，人工智慧还远未到后世那种爆发式增长的阶段。
主流学界对神经网络的看法依旧偏向悲观，深度学习的概念尚未被正式提出。
他想起了穿越前，自己在企鹅公司参与ai相关项目时，曾经花大力气啃过的大量论文和技术文档。
那些关於卷积神经网络、深度信念网络、无监督逐层预训练方法的知识，像尘封的档案，储存在记忆的深处。
“我明白了。”马宇腾站起身，走到书桌前。
“对於ai技术我有一点想法，等整理一份东西，给他们指个方向。”
“你还懂具体的ai技术？”马明那边明显愣了一下。
马宇腾没有解释。
“就这样，我去准备了。”
掛断电话，他来到书房里，打开笔记本电脑，新建了一个文档。
他没有丝毫犹豫，直接在文档的標题栏上，敲下了四个字：深度学习。
他开始快速敲击键盘，將记忆中的那些核心概念一一復原。
他首先定义了“深度学习”这个概念，將其描述为一种通过构建具有多个处理层的计算模型来学习数据中抽象特徵的方法。
接著，他详细阐述了卷积神经网络（cnn）的结构。
从卷积层如何通过滤波器提取局部特徵，到池化层如何进行降维和特徵选择，再到全连接层如何进行最终的分类。
他甚至画出了一个简易的lenet-5网络结构示意图。
然后，他引入了“深度信念网络（dbn）”的概念。
他解释了如何通过堆叠多个受限玻尔兹曼机（rbm）来构建网络，以及这种结构在处理高维数据时的优势。
最关键的部分，是他提出的“无监督逐层预训练”方法。
他写道：直接训练一个深层网络是极其困难的，梯度消失或爆炸的问题会导致训练失败。
我们可以採用一种逐层贪婪的训练方法。先无监督地训练第一层，当第一层训练好后，再將第一层的输出作为第二层的输入，训练第二层。
以此类推，完成所有隱藏层的预训练。最后，再用有监督的方式，对整个网络进行微调。
这套方法，正是那位ai“教父”，图灵奖和诺贝尔物理学奖得主杰弗里·辛顿未来提出的理论。
它彻底解决了深度神经网络的训练难题，开启了深度学习的黄金时代。
马宇腾的思路清晰无比，键盘敲击声在安静的书房里连成一片。
他像一个忠实的记录者，將未来的科技蓝图，一笔一划地描摹到眼前的屏幕上。
一个小时过去，文章的理论框架和实现路径已经基本成型。 ↑返回顶部↑
马宇腾沉默了。
他能理解这种迷茫。
2006年的现在，人工智慧还远未到后世那种爆发式增长的阶段。
主流学界对神经网络的看法依旧偏向悲观，深度学习的概念尚未被正式提出。
他想起了穿越前，自己在企鹅公司参与ai相关项目时，曾经花大力气啃过的大量论文和技术文档。
那些关於卷积神经网络、深度信念网络、无监督逐层预训练方法的知识，像尘封的档案，储存在记忆的深处。
“我明白了。”马宇腾站起身，走到书桌前。
“对於ai技术我有一点想法，等整理一份东西，给他们指个方向。”
“你还懂具体的ai技术？”马明那边明显愣了一下。
马宇腾没有解释。
“就这样，我去准备了。”
掛断电话，他来到书房里，打开笔记本电脑，新建了一个文档。
他没有丝毫犹豫，直接在文档的標题栏上，敲下了四个字：深度学习。
他开始快速敲击键盘，將记忆中的那些核心概念一一復原。
他首先定义了“深度学习”这个概念，將其描述为一种通过构建具有多个处理层的计算模型来学习数据中抽象特徵的方法。
接著，他详细阐述了卷积神经网络（cnn）的结构。
从卷积层如何通过滤波器提取局部特徵，到池化层如何进行降维和特徵选择，再到全连接层如何进行最终的分类。
他甚至画出了一个简易的lenet-5网络结构示意图。
然后，他引入了“深度信念网络（dbn）”的概念。
他解释了如何通过堆叠多个受限玻尔兹曼机（rbm）来构建网络，以及这种结构在处理高维数据时的优势。
最关键的部分，是他提出的“无监督逐层预训练”方法。
他写道：直接训练一个深层网络是极其困难的，梯度消失或爆炸的问题会导致训练失败。
我们可以採用一种逐层贪婪的训练方法。先无监督地训练第一层，当第一层训练好后，再將第一层的输出作为第二层的输入，训练第二层。
以此类推，完成所有隱藏层的预训练。最后，再用有监督的方式，对整个网络进行微调。
这套方法，正是那位ai“教父”，图灵奖和诺贝尔物理学奖得主杰弗里·辛顿未来提出的理论。
它彻底解决了深度神经网络的训练难题，开启了深度学习的黄金时代。
马宇腾的思路清晰无比，键盘敲击声在安静的书房里连成一片。
他像一个忠实的记录者，將未来的科技蓝图，一笔一划地描摹到眼前的屏幕上。
一个小时过去，文章的理论框架和实现路径已经基本成型。 ↑返回顶部↑