深度前馈网络,也称为前馈神经网络,有时也称为多层感知器(Multilayer Perceptrons, MLP)。
前馈网络的目标是逼近 函数。例如,对于一个分类器,
将输入
映射到一个标签
。而前馈网络定义了从输入到标签的映射
。它学习参数θ的值,然后得到最佳函数逼近。
我们在《第五章 递归神经网络》中讨论 RNN。前馈网络是通往复杂网络之路的一个概念性基石,它为许多自然语言应用提供动力。前馈神经网络被称为网络,因为它们将许多代表它们的不同功能组合在一起。这些函数由有向无环图组成。
该模型与描述函数如何组合在一起的有向非循环图相关联。例如,有三个函数 ,
,和
构成了
。这些链结构是最常用的神经网络结构。在这个例子中,
被称作网络的第一层。
被称作第二层,等等。链条的总长度给出了模型的深度。正是从这个术语中出现了深度学习的名称。前馈网络的最后一层称为输出层。

这些网络被称为神经网络,因为它们受到神经科学的启发。 每个隐藏层都是一个向量。 这些隐藏层的维度决定了模型的宽度。
您必须登录才能发表评论。