神经网络文章

2023-08-28 • Raikay

一文讲透激活函数：为什么它能搞定非线性问题？

很多人入门神经网络，都会卡在“激活函数”这一步。你可能听过无数遍这句话：加入激活函数，神经网络就能处理非线性问题。但心里大概率藏着一堆问号：什么是线性？什么是非线性？为什么一条直线就能表示线性问 …

激活函数神经网络 ReLU

2023-05-08 • Raikay

很多工程师一看到导数、偏导、反向传播、自动微分、梯度下降、权重、偏置这些词，就容易觉得机器学习门槛很高。其实这些概念放到代码里并不神秘。本文会用一个广告系统智能出价引擎的例子，尽量不用复杂公 …

机器学习数学基础梯度下降