Python 机器学习 基于 Pytorch 和 Scikit-Learn - 第二章

神经网络与感知机学习规则

基于神经元模型，提出了感知机学习规则。感知机规则提出了一个可以自动学习的权重优化算法。

感知机算法步骤如下。

1. 初始化权重和偏置项为 0 或很小的随机数
2. 遍历每个训练样本
   1. 计算感知机输出值
   2. 更新权重和偏置项

需要注意的是。

1. 只有当训练数据线性可分时，才能保证感知机具有收敛性
   1. 此时需要设置训练数据集的最大循环次数，或容错次数的阈值，来结束训练
2. 权重、偏置项使用很小的初始化值替代 0 ，如果全是 0 则学习率会失去对决策边界的影响
   1. 学习率只影响权重向量的大小，不影响其方向