网站1996年推广建设网官方网站

在机器学习中，许多算法中多个超参数，超参数的取值不同会导致结果差异很大，如何确定最优的超参数？此时就需要进行交叉验证的方法，sklearn给我们提供了相应的cross_val_score函数，可对数据集进行交叉验证划分。

一、K折交叉验证（Cross-validation）简介

正常情况下，在数据集划分阶段，通常会划分为训练集trainset和测试集testset，在数据集数量足够多的情况下进行划分，效果较好。但是，对于数据集特别少的情况下，直接划分为训练集和测试集进行训练，模型的效果可能不太好，此时便引入了交叉验证。
交叉验证Cross-validation思想很简单，就是对划分好的训练集再进行划分，分为训练集trainset和验证集validset。最终的数据集分为了三类，训练集trainset、验证集validset和测试集testset，通俗的理解为：训练集是学习知识，验证集是月考，测试集是期末考试。
模型在学习了一段知识之后，就定期进行月考试试手，模型训练完成好之后，再通过期末考试检验。就跟上初高中考试的感觉差不多，如果直接上来就是期末考试，谁顶得住啊，所以一般都会进行几次月考，然后查漏补缺，最终迎接期末考试。

举个例子：
原本数据集共1000张，训练集800张，测试集200张
交叉验证就是对那800张训练集再次进行划分，分为600张训练集和200张验证集

二、官网API

官网API
需要导包：from sklearn.model_selection import cross_val_score

这里的参数还是比较多的，具体的参数使用，可以根据官网给的demo进行学习，多动手尝试；这里就以一些常用的参数进行说明。

Cross-validation: evaluating estimator performance
交叉验证：评估评估器(estimator)性能
通过交叉验证评估分数

参数

①estimator

用于拟合数据的对象
也就是模型对象，例如可以是一个线性模型lasso = linear_model.Lasso()

具体官网详情如下：

②X

拟合数据X，可以是列表或数组。

具体官网详情如下：

③y

在监督学习的情况下，要尝试预测的目标变量，也就是自变量Y

具体官网详情如下：

④cv

确定交叉验证分割策略，也就是K折交叉验证中的K值
“None”，默认5倍交叉验证
int，用于指定（分层）KFold 中的折叠数，即K值

具体官网详情如下：

返回值

scores

交叉验证每次运行时估计器的得分数组，cv=k，就会得到k个估计器的得分数组

具体官网详情如下：

三、代码实现

①导包

若导入过程报错，pip安装即可

import numpy as np
import pandas as pd 
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn.model_selection import train_test_split
from sklearn.model_selection import cross_val_score
from sklearn.svm import SVC

②加载数据集

数据集可以自己简单整个，csv格式即可，我这里使用的是6个自变量X和1个因变量Y

fiber = pd.read_csv("./fiber.csv")
fiber.head(5) #展示下头5条数据信息

③创建模型

很多模型都可以的，这里以SVM为例，可参考博文：三、支持向量机算法(SVC，Support Vector Classification)（有监督学习）

svc = SVC(C=3.0,kernel='sigmoid',gamma='auto',random_state=42)

④K折交叉验证

k-fold cross validation，K折交叉验证，将数据集分为k(这里k=3)个大小相似的子集，并将k-1(3-1=2)个子集的并集作为训练集，余下的1个子集作为评估集，由此可得到k(3)个不同的训练/评估集；

k_corss = cross_val_score(svc, X, Y, cv=3)
print(k_corss)

⑤完整代码

import numpy as np
import pandas as pd 
import matplotlib.pyplot as plt
%matplotlib inline
from sklearn.model_selection import train_test_split
from sklearn.model_selection import cross_val_score
from sklearn.svm import SVCfiber = pd.read_csv("./fiber.csv")
fiber.head(5) #展示下头5条数据信息X = fiber.drop(['Grade'], axis=1)
Y = fiber['Grade']X_train, X_test, y_train, y_test = train_test_split(X,Y,train_size=0.75,test_size=0.25,random_state=42,shuffle=True)print(X_train.shape) #(36,6) 
print(y_train.shape) #(36,)
print(X_test.shape) #(12,6)
print(y_test.shape) #(12,)svc = SVC(C=3.0,kernel='sigmoid',gamma='auto',random_state=42)k_corss = cross_val_score(svc, X, Y, cv=3)
print(k_corss)