1、激活函数
常用于神经网络,激活函数增加了神经网络模型的非线性特征

2、损失函数
机器学习过程中中,我们期望样本数据训练的输出值与样本数据真实的输出值尽可能一致。而损失函数定义的就是训练错误产生的误差。
包括0-1损失函数:不依赖于输入值的大小,而取决于输入值的正负

Log损失函数:

绝对损失函数

3、核函数
核函数主要是从支持向量机演变过来。核函数隐藏了从低维空间映射到高维空间的关系,使得在低维空间线性不可分的数据到达高维空间后可以线性可分。

【注】支持向量机核心是在空间内找到一个超平面使得两类之间距离最远。而核函数构成了从线性到非线性的关联关系,可以用点积表示。
网友评论