第588章 激活函数,一个故事解释

职场小聪明 翟晓鹰 859 字 1个月前

激活函数包括阶跃函数,但也有其他函数,就像除了应急预案,还有日常处理程序。

故事比喻:魔法门与激活函数

在一个魔法世界里,有一座魔法学院,每位魔法师都要经过一道神秘的魔法门,才能进入更高级的修炼殿堂。

但这扇门不会让所有人随便通过,它会根据魔法师的魔力值来决定:

? 如果魔力值太低,门不会打开(相当于激活函数抑制无用信息)。

? 如果魔力值很高,门会全力打开(相当于激活函数放大有用信息)。

? 如果魔力值一般,门可能会半开半闭,让魔法师勉强通过(相当于某些平滑的激活函数)。

这个魔法门的决策过程,就像 AI 里的激活函数,它决定哪些信息能进入下一层,哪些要被过滤掉!

激活函数的作用:筛选、放大、非线性化

想象 AI 神经网络是一个“魔法训练过程”,每一层都需要做决策,而激活函数就像这个**“魔法门”**,决定哪些信息能继续往下走。

1. 魔力值的计算(输入信号加权求和)

? 每个魔法师的天赋不同,有些擅长火系魔法,有些擅长治愈术。

? 在进入魔法门之前,考官会给每个魔法师打分(相当于神经网络的加权求和)。

? 但这些分数本身没有用,必须经过魔法门筛选,才能决定是否晋级。

比喻: 这就像神经网络中的线性计算,只是单纯地累加输入信息,但还没有做真正的决策。

2. 通过魔法门(激活函数的选择)