1.4 模型评估与模型选择
1.4.1 训练误差与测试误差
统计学习的目的是使学到的模型不仅对已知数据而且对未知数据都能有很好的预测能
力。不同的学习方法会给出不同的模型。当损失函数给定时，基于损失函数的模型的训练
误差（training error）和模型的测试误差（test error）就自然成为学习方法评估的标准。注
意，统计学习方法具体采用的损失函数未必是评估时使用的损失函数。当然，让两者一致
是比较理想的。
假设学习到的模型是Y= (X)，训练误差是模型Y= (X)关于训练数据集的平均损失
训练误差的大服务器托管网小，对判断给定的问题是不是一个容易学习的问题是有意义的，但本质
上不重要。测试误差反映了学习方法对未知的测试数据集的预测能力，是学习中的重要概
念。显然，给定两种学习方法，测试误差小的方法具有更好的预测能力，是更有效的方
法。通常将学习方法对未知数据的预测能力称为泛化能力（generalization ability），这个
问题将在1.6节继续论述。
1.4.2 过拟合与模型选择
当假设空间含有不同复杂度（例如，不同的参数个数）的模型时，就要面临模型选择
（model selection）的问题。我们希望选择或学习一个合适的模型。如果在假设空间中存
在“真”模型，那么所选择的模型应该逼近真模型。具体地，所选择的模型要与真模型的参
数个数相同，所选择的模型的参数向量与真模型的参数向量相近。
如果一味追求提高对训练数据的预测能力，所选模型的复杂度则往往会比真模型更
高。这种现象称为过拟合（over-fitting）。过拟合是指学习时选择的模型所包含的参数过
多，以致于出现这一模型对已知数据预测得很好，但对未知数据预测得很差的现象。可以
说模型选择旨在避免过拟合并提高模型的预测能力。
下面，以多项式函数拟合问题为例，说明过拟合与模型选择。这是一个回归问题。
例1.1 假设给定一个训练数据集[1]：
其中，ix∊R是输入x的观测值，iy∊R是相应的输出y的观测值，i＝1,2,…,N。多项式函数拟
合的任务是假设给定数据由M次多项式函数生成，选择最有可能产生这些数据的M次多项
式函数，即在M次多项式函数中选择一个对已知数据以及未知数据都有很好预测能力的函
数。
假设给定如图1.2所示的10个数据点，用0～9次多项式函数对数据进行拟合。图中画
出了需要用多项式函数曲线拟合的数据。
设M次多项式为
式中x是单变量输入，w0
,w1
,wM,…是M+1个参数。
解决这一问题的方法可以是这样的．首先确定模型的复杂度，即确定多项式的次数；
然后在给定的模型复杂度下，按照经验风险最小化的策略，求解参数，即多项式的系数，
具体地，求以下经验风险最小化：
这时，损失函数为平方损失，系数 是为了计算方便。
这是一个简单的最优化问题。将模型与训练数据代入式（1.18）中，有
图1.2给出了M＝0，M＝1，M＝3及M＝9时多项式函数拟合的情况。如果M＝0，多
项式曲线是一个常数，数据拟合效果很差。如果M＝1，多项式曲线是一条直线，数据拟
合效果也很差。相反，如服务器托管网果M＝9，多项式曲线通过每个数据点，训练误差为0。从对给定
训练数据拟合的角度来说，效果是最好的。但是，因为训练数据本身存在噪声，这种拟合
曲线对未知数据的预测能力往往并不是最好的，在实际学习中并不可取。这时过拟合现象
就会发生。这就是说，模型选择时，不仅要考虑对已知数据的预测能力，而且还要考虑对
未知数据的预测能力。当M＝3时，多项式曲线对训练数据拟合效果足够好，模型也比较
简单，是一个较好的选择．
在多项式函数拟合中可以看到，随着多项式次数（模型复杂度）的增加，训练误差会
减小，直至趋向于0，但是测试误差却不如此，它会随着多项式次数（模型复杂度）的增
加先减小而后增大。而最终的目的是使测试误差达到最小。这样，在多项式函数拟合中，
就要选择合适的多项式次数，以达到这一目的。这一结论对一般的模型选择也是成立的。
图1.3描述了训练误差和测试误差与模型的复杂度之间的关系。当模型的复杂度增大
时，训练误差会逐渐减小并趋向于0；而测试误差会先减小，达到最小值后又增大。当选
择的模型复杂度过大时，过拟合现象就会发生。这样，在学习时就要防止过拟合，进行最
优的模型选择，即选择复杂度适当的模型，以达到使测试误差最小的学习目的。下面介绍
两种常用的模型选择方法：正则化与交叉验证。
服务器托管，北京服务器托管，服务器租用 http://www.fwqtg.net
机房租用，北京机房租用，IDC机房托管， http://www.fwqtg.net
服务器是支持网络服务和应用程序运行的核心设备，对于保持业务连续性和数据安全至关重要。为了确保服务器维护的准确性和可靠性，以下是一些关键的措施和建议： 1.定期进行系统更新和补丁管理：及时安装操作系统和应用程序的更新和补丁是保持服务器准确性和可靠性的关键步骤。这…
