偏置的故事:魔法天平的微调
在一座古老的魔法城堡里,有一位炼金术师艾利斯,他精通配制神秘的魔法药剂。他的实验室里摆放着一座魔法天平,用来精确测量各种魔法成分的比例,以确保药剂能够发挥最佳效果。
但是,他遇到了一个奇怪的问题:即使没有放任何材料,天平的指针也不是完全归零,而是略微偏向一侧。 这让他的实验变得困难,因为如果不校准这个偏差,他的配方就会出现误差,影响药剂的品质。
于是,他在天平的一侧放置了一个微调砝码,以便让指针在没有材料的情况下刚好归零。这块小砝码的作用,就像神经网络中的“偏置”(Bias)。
1. 偏置的作用:微调系统的初始状态
艾利斯的魔法天平对应于神经网络的计算过程,其中天平的两侧重量之和决定了最终的读数(就像神经网络的加权求和计算)。
但是如果天平本身就有偏差,那么无论他放入多少材料,最终的读数都会受到影响。因此,他需要添加一个微调砝码,让天平在空载时处于平衡状态。
在人工神经网络中,我们的预测计算公式如下:
其中:
? 代表输入数据(比如药剂的不同成分)。
? 代表每个成分的重要性(权重)。
? 就是偏置,它的作用类似于微调砝码,用来修正系统的初始状态。
2. 为什么需要偏置?(天平偏移的影响)
如果艾利斯的天平没有微调砝码(偏置),那么他的测量就会出现系统性偏差。例如: