Error,Bias,Variance

首先Error=Bias+Variance

理解：

• Error：整个模型的准确度，对于给出的模型，input一个变量，和理想的output之间接近程度，越接近Error越低。
• Bias：样本上的输出与真实值之间的误差，如下图，即对训练数据的拟合准确度。

• Variance：方差，模型稳定性，在概率论和统计学中方差是衡量随机变量或一组数据时离散程度的度量。

结论：

• Bias和模型复杂度的关系：当模型复杂度上升时，Bias减小。当模型复杂度降低时，Bias增加。
• Variance和模型复杂度的关系：当模型复杂度低时，Variance更低，当模型复杂度高时，Variance更高。
• Error = Bias + Variance，所以我们需要找到一个平衡点取得最优解。