硬间隔支持向量机 (线性可分的支持向量机) f(y) = sign(w^Tx + b) 判别模型 最大间隔分类器 我们目标是 max ~margin(w, b) \\ s.t. ~~~y_i(w^Tx_i + b) > 0 可知 margin(w, b) = \mathop{min}\limits_{w, b, x_i} ~distance(…
1.前向传播 将上一层的输出作为下一层的输入,并计算下一层的输出,一直到输出层为止 (图片源自网络) 使用矩阵表示 z^{(l)} = w^{(l)}a^{(l-1)} + b^{(l)} a^{(l)} = \sigma(z^{(l)}) 2.反向传播 记损失函数为L = C(W, b) 我们的目标是求\frac{\partial L}{\par…