机器学习_深度学习领域所涉及的基础知识

Argmax

参考：https://baike.baidu.com/item/argmax/6034072

相关应用：

• Sampling-Argmax：https://zhuanlan.zhihu.com/p/564050500

arg是变元（即自变量argument）的英文缩写。

• arg min就是使后面的式子达到最小值时变量的取值；

• arg max就是使后面的式子达到最大值时变量的取值；

例如：对于函数式$f(x,y,z)$，

• arg min$f(x,y,z)$：当$f$取得最小值时，变量$x,y,z$的取值；

• arg max$f(x,y,z)$：当$f$取得最大值时，变量$x,y,z$的取值；

argmax的公式如下：

对一个函数$f(x)$或一个映射$f：X \rightarrow Y$，当x取值范围为S的时候（也叫$x \in S$），argmax的结果是使得f(x)取得最大值的x点集。

Softmax：一种输出节点的激活函数

参考：

• https://zhuanlan.zhihu.com/p/105722023
• https://zhuanlan.zhihu.com/p/168562182

Softmax的含义就在于为每个输出分类的结果都赋予一个概率值，表示属于每个类别的可能性。

$z_i$表示的是第i个节点的输出值，j表示的是输出节点的个数，即分类类别的个数。

*注意以上图中的概率P值直接四舍五入为一位小数了，并不是真实的概率值。