读西瓜书神经网络的一些思考

发布网友发布时间：2023-07-16 18:25

共1个回答

热心网友时间：2024-11-07 17:14

最近拜读西瓜教授的西瓜书，读到神经网络章节的时候，看到了一个神奇的现象。书中，画出了一个神经网络迭代25次、50次和100次分别得到的分类边界图，令人惊讶的是分类边界在给定范围内都是直线！一直以来，对神经网络分类边界的认识是很模糊的，潜意识觉得应该是一个很复杂且直观无法解释的东西。（呵呵，对线性可分数据似乎也不需要多复杂的分类面吼）本能反应是，我应该把这个分类边界算一个，看看是个什么函数。

令最上面一层两个节点的输出相等，可以得到如下公式（由于只是判断相等，最后一层省去Sigmoid函数运算）：
![]( http://latex.codecogs.com/png.latex?$$e ^{0.31x+0.32y+0.1} + 3.64e^{0.66x + 0.58y + 0.06} - 4.16e^{-0.35x-0.26y+0.04}- 1.52=0$$)
这么复杂的一个公式，局部作用域竟然是一条直线，有点不可思议，还是画出来看看。

还真的几乎是一条直线！！不过新的问题来了，这个图貌似和书本上第25轮迭代时误分了3个样本的图很不一样，这个图中明显各个类别的样本都乖乖的待在自己该待的那一侧。
下面分别看一下第50次迭代和第100次迭代得到的模型参数画出来的图是什么样。

感觉这三个图的顺序似乎颠倒了，出现这个结果，首先想到是不是哪里出问题了呢。

第250轮的图中没有曲线可能是因为曲线不在这个范围中，但是我并没有设置画图的取值范围，难道有一个默认取值？这个地方还有待分析。
由此来看，这个画图的过程应该是没有什么问题。或许是理解错书上的分类机制了？还是周老师给的参数？？？看来得找个时间跟周老师好好谈一谈。[奸笑]