scikit_learn学习笔记二——scikit learn基

scikit-learn基础介绍

估计器（Estimator）

可以直接理解成分类器

主要包含两个函数：fit(x,y) 和 predict(x)，分别是训练和预测算法

模型流程：

# 拟合模型
model.fit(X_train, y_train)
# 模型预测
model.predict(X_test)
# 获得这个模型的参数
model.get_params()
# 为模型进行打分
model.score(data_X, data_y) 

线性回归

from sklearn.linear_model import LinearRegression
    # 定义线性回归模型
    model = LinearRegression(fit_intercept=True, normalize=False, copy_X=True, n_jobs=1)
    """
    fit_intercept：是否计算截距。False-模型没有截距

    normalize： 当fit_intercept设置为False时，该参数将被忽略。 如果为真，则回归前的回归系数X将通过减去平均值并除以l2-范数而归一化。

     n_jobs：指定线程数
    """

逻辑回归

from sklearn.linear_model import LogisticRegression
    # 定义逻辑回归模型
    model = LogisticRegression(penalty=’l2’, dual=False, tol=0.0001, C=1.0, 
        fit_intercept=True, intercept_scaling=1, class_weight=None, 
        random_state=None, solver=’liblinear’, max_iter=100, multi_class=’ovr’, 
        verbose=0, warm_start=False, n_jobs=1)

    """
        penalty：使用指定正则化项（默认：l2）
        dual: n_samples > n_features取False（默认）
        C：正则化强度的反，值越小正则化强度越大
        n_jobs: 指定线程数
        random_state：随机数生成器
        fit_intercept: 是否需要常量
    """

朴素贝叶斯

from sklearn import naive_bayes
    model = naive_bayes.GaussianNB() 
    model = naive_bayes.MultinomialNB(alpha=1.0, fit_prior=True, class_prior=None)
    model = naive_bayes.BernoulliNB(alpha=1.0, binarize=0.0, fit_prior=True, class_prior=None)
    """

        alpha：平滑参数
        fit_prior：是否要学习类的先验概率；false-使用统一的先验概率
        class_prior: 是否指定类的先验概率；若指定则不能根据参数调整
        binarize: 二值化的阈值，若为None，则假设输入由二进制向量组成
    """

决策树

from sklearn import tree 
    model = tree.DecisionTreeClassifier(criterion=’gini’, max_depth=None, 
        min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, 
        max_features=None, random_state=None, max_leaf_nodes=None, 
        min_impurity_decrease=0.0, min_impurity_split=None,
         class_weight=None, presort=False)
    """
        criterion ：特征选择准则gini/entropy
        max_depth：树的最大深度，None-尽量下分
        min_samples_split：分裂内部节点，所需要的最小样本树
        min_samples_leaf：叶子节点所需要的最小样本数
        max_features: 寻找最优分割点时的最大特征数
        max_leaf_nodes：优先增长到最大叶子节点数
        min_impurity_decrease：如果这种分离导致杂质的减少大于或等于这个值，则节点将被拆分。
    """

支持向量机SVM

 from sklearn.svm import SVC
 model = SVC(C=1.0, kernel=’rbf’, gamma=’auto’)
 """
 C：误差项的惩罚参数C
 gamma: 核相关系数。浮点数，If gamma is ‘auto’ then 1/n_features will be used instead.
 """

knn最近邻算法

from sklearn import neighbors
#定义kNN分类模型
model = neighbors.KNeighborsClassifier(n_neighbors=5, n_jobs=1) # 分类
model = neighbors.KNeighborsRegressor(n_neighbors=5, n_jobs=1) # 回归
"""
    n_neighbors： 使用邻居的数目
    n_jobs：并行任务数
"""

多层感知器

from sklearn.neural_network import MLPClassifier
# 定义多层感知机分类算法
model = MLPClassifier(activation='relu', solver='adam', alpha=0.0001)
 """
    hidden_layer_sizes: 元祖
    activation：激活函数
    solver ：优化算法{‘lbfgs’, ‘sgd’, ‘adam’}
   alpha：L2惩罚(正则化项)参数。
"""

交叉验证

from sklearn.model_selection import cross_val_score
cross_val_score(model, X, y=None, scoring=None, cv=None, n_jobs=1)
"""
   model：拟合数据的模型
   cv ： k-fold
   scoring: 打分参数-‘accuracy’、‘f1’、‘precision’、‘recall’ 、‘roc_auc’、'neg_log_loss'等等
 """

检验曲线

from sklearn.model_selection import validation_curve
train_score, test_score = validation_curve(model, X, y, param_name, param_range, cv=None, scoring=None, n_jobs=1)
    """
        model:用于fit和predict的对象
        X, y: 训练集的特征和标签
        param_name：将被改变的参数的名字
        param_range： 参数的改变范围
        cv：k-fold
    """

转换器（Transformer）

用于数据预处理和数据转换

主要函数有：transform()，还有fit_transform()将fit()和transform()结合在一起。

流水线（Pipeline）

sklearn.pipeline包

• 流水线的功能：
  • 跟踪记录各步骤的操作（以方便地重现实验结果）
  • 对各步骤进行一个封装
  • 确保代码的复杂程度不至于超出掌控范围

基本使用方法
流水线的输入为一连串的数据挖掘步骤，其中最后一步必须是估计器，前几步是转换器。输入的数据集经过转换器的处理后，输出的结果作为下一步的输入。最后，用位于流水线最后一步的估计器对数据进行分类。
每一步都用元组（ ‘名称’，步骤）来表示

scaling_pipeline = Pipeline([
  ('scale', MinMaxScaler()),
  ('predict', KNeighborsClassifier())
])

预处理（Preprocessing）

sklearn.preprocessing包

• 规范化：

  • MinMaxScaler :最大最小值规范化
  • Normalizer :使每条数据各特征值的和为1
  • StandardScaler :为使各特征的均值为0，方差为1

• 编码：

  • LabelEncoder ：把字符串类型的数据转化为整型
  • OneHotEncoder ：特征用一个二进制数字来表示
  • Binarizer :为将数值型特征的二值化
  • MultiLabelBinarizer：多标签二值化

from sklearn import preprocessing
# 标准化处理函数
# 将数据转化为标准正态分布（均值为0，方差为1）
preprocessing.scale(X,axis=0, with_mean=True, with_std=True, copy=True)

# 将数据在缩放在固定区间，默认缩放到区间 [0, 1]
preprocessing.minmax_scale(X,feature_range=(0, 1), axis=0, copy=True)

# 数据的缩放比例为绝对值最大值，并保留正负号，即在区间 [-1.0, 1.0] 内。唯一可用于稀疏数据 scipy.sparse的标准化
preprocessing.maxabs_scale(X,axis=0, copy=True)

# 通过 Interquartile Range (IQR) 标准化数据，即四分之一和四分之三分位点之间
preprocessing.robust_scale(X,axis=0, with_centering=True, with_scaling=True,copy=True)


# 标准化正态分布类
#基于mean和std的标准化
class preprocessing.StandardScaler(copy=True, with_mean=True,with_std=True)
   # 属性：
   # scale_：ndarray，缩放比例
   # mean_：ndarray，均值
   # var_：ndarray，方差
   # n_samples_seen_：int，已处理的样本个数，调用partial_fit()时会累加，调用fit()会重设

##########MinMaxScaler#############
# 将数据在缩放在固定区间的类，默认缩放到区间 [0, 1]
class preprocessing.MinMaxScaler(feature_range=(0, 1),copy=True)：
    # 属性：
    # min_：ndarray，缩放后的最小值偏移量
    # scale_：ndarray，缩放比例
    # data_min_：ndarray，数据最小值
    # data_max_：ndarray，数据最大值
    # data_range_：ndarray，数据最大最小范围的长度

##########MaxAbsScaler##############
# 数据的缩放比例为绝对值最大值，并保留正负号，即在区间 [-1.0, 1.0] 内。可以用于稀疏数据scipy.sparse
class preprocessing.MaxAbsScaler(copy=True)：
    # 属性：
    # scale_：ndarray，缩放比例
    # max_abs_：ndarray，绝对值最大值
    # n_samples_seen_：int，已处理的样本个数


############RobustScaler###################
# 通过 Interquartile Range (IQR) 标准化数据，即四分之一和四分之三分位点之间
classpreprocessing.RobustScaler(with_centering=True,with_scaling=True, copy=True)：
    # 属性：
    # center_：ndarray，中心点
    # scale_：ndarray，缩放比例


#################
# 生成 kernel 矩阵，用于将 svm kernel 的数据标准化
class preprocessing.KernelCenterer：


"""
fit(X[,y])：根据数据 X 的值，设置标准化缩放的比例
transform(X[,y, copy])：用之前设置的比例标准化 X
fit_transform(X[, y])：根据 X设置标准化缩放比例并标准化
partial_fit(X[,y])：累加性的计算缩放比例
inverse_transform(X[,copy])：将标准化后的数据转换成原数据比例
get_params([deep])：获取参数
set_params(**params)：设置参数
"""

特征工程

主要包括特征提取（Feature Extraction）和特征选择（Feature Selection）

• sklearn.select_extraction

  • DictVectorizer： 将dict类型的list数据，转换成numpy array
  • FeatureHasher ： 特征哈希，相当于一种降维技巧
  • image：图像相关的特征抽取
  • text： 文本相关的特征抽取
  • text.CountVectorizer：将文本转换为每个词出现的个数的向量
  • text.TfidfVectorizer：将文本转换为tfidf值的向量
  • text.HashingVectorizer：文本的特征哈希

• sklearn.feature_selection
  (1)降低复杂度
  (2)降低噪音
  (3)增加模型可读性

  • VarianceThreshold： 删除特征值的方差达不到最低标准的特征
  • SelectKBest： 返回k个最佳特征
  • SelectPercentile： 返回表现最佳的前r%个特征

  单个特征和某一类别之间相关性的计算方法：卡方检验（χ2）、互信息和信息熵

降维（Decomposition）

主要是PCA

• sklearn.decomposition

主成分分析算法（Principal Component Analysis， PCA）的目的是找到能用较少信息描述数据集的特征组合。它意在发现彼此之间没有相关性、能够描述数据集的特征，同时起到数据压缩作用

组合（Ensemble）

通过聚集多个分类器的预测来提高分类准确率

• sklearn.ensemble

常用的组合分类器方法：
(1)通过处理训练数据集。即通过某种抽样分布，对原始数据进行再抽样，得到多个训练集。常用的方法有装袋（bagging）和提升（boosting）。

装袋（bagging）：
根据均匀概率分布从数据集中重复抽样（有放回），每个自助样本集和原数据集一样大，每个自助样本集含有原数据集大约63%的数据。训练k个分类器，测试样本被指派到得票最高的类。
提升（boosting）：
通过给样本设置不同的权值，每轮迭代调整权值。
不同的提升算法之间的差别，一般是（1）如何更新样本的权值，（2）如何组合每个分类器的预测。
其中Adaboost中，样本权值是增加那些被错误分类的样本的权值，分类器C_i的重要性依赖于它的错误率。
Boosting主要关注降低偏差，因此Boosting能基于泛化性能相当弱的学习器构建出很强的集成；Bagging主要关注降低方差，因此它在不剪枝的决策树、神经网络等学习器上效用更为明显。

偏差指的是算法的期望预测与真实预测之间的偏差程度，反应了模型本身的拟合能力；方差度量了同等大小的训练集的变动导致学习性能的变化，刻画了数据扰动所导致的影响
(2)通过处理输入特征。即通过选择输入特征的子集形成每个训练集。适用于有大量冗余特征的数据集。随机森林（Random forest）就是一种处理输入特征的组合方法。
(3)通过处理类标号。适用于多分类的情况，将类标号随机划分成两个不相交的子集，再把问题变为二分类问题，重复构建多次模型，进行分类投票。

BaggingClassifier： Bagging分类器组合
BaggingRegressor： Bagging回归器组合
AdaBoostClassifier： AdaBoost分类器组合
AdaBoostRegressor： AdaBoost回归器组合
GradientBoostingClassifier：GradientBoosting分类器组合
GradientBoostingRegressor： GradientBoosting回归器组合
ExtraTreeClassifier：ExtraTree分类器组合
ExtraTreeRegressor： ExtraTree回归器组合
RandomTreeClassifier：随机森林分类器组合
RandomTreeRegressor： 随机森林回归器组合

模型评估（度量）Metrics

sklearn.metrics包含评分方法，性能度量，成对度量和距离计算。

分类结果度量
参数大多是y_true和y_pred。

• accuracy_score：分类准确度
• condusion_matrix ：分类混淆矩阵
• classification_report：分类报告
• precision_recall_fscore_support：计算精确度、召回率、f、支持率
• jaccard_similarity_score：计算jcaard相似度
• hamming_loss：计算汉明损失
• zero_one_loss：0-1损失
• hinge_loss：计算hinge损失
• log_loss：计算log损失
  其中，F1是以每个类别为基础进行定义的，包括两个概念：准确率（precision）和召回率（recall）。准确率是指预测结果属于某一类的个体，实际属于该类的比例。召回率是被正确预测为某类的个体，与数据集中该类个体总数的比例。F1是准确率和召回率的调和平均数。

回归结果度量

• explained_varicance_score：可解释方差的回归评分函数
• mean_absolute_error：平均绝对误差
• mean_squared_error：平均平方误差

多标签的度量

• coverage_error：涵盖误差
• label_ranking_average_precision_score：计算基于排名的平均误差Label ranking average precision (LRAP)

聚类的度量

• adjusted_mutual_info_score：调整的互信息评分
• silhouette_score：所有样本的轮廓系数的平均值
• silhouette_sample：所有样本的轮廓系数

交叉验证（Cross validation）

sklearn.model_selection
model_selection

• KFold：K-Fold交叉验证迭代器。接收元素个数、fold数、是否清洗
• LeaveOneOut：LeaveOneOut交叉验证迭代器
• LeavePOut：LeavePOut交叉验证迭代器
• LeaveOneLableOut：LeaveOneLableOut交叉验证迭代器
• LeavePLabelOut：LeavePLabelOut交叉验证迭代器

  LeaveOneOut(n) 相当于 KFold(n, n_folds=n) 相当于LeavePOut(n, p=1)，
  LeaveP和LeaveOne差别在于leave的个数，也就是测试集的尺寸，
  LeavePLabel和LeaveOneLabel差别在于leave的Label的种类的个数。

• 其他方法
  • train_test_split：分离训练集和测试集（不是K-Fold）
  • cross_val_score：交叉验证评分，可以指认cv为上面的类的实例
  • cross_val_predict：交叉验证的预测

# 将数据集分为训练集和测试集
from sklearn.mode_selection import train_test_split
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3, random_state=42)
# arrays：样本数组，包含特征向量和标签
# test_size：
#　　float-获得多大比重的测试样本 （默认：0.25）
#　　int - 获得多少个测试样本
# train_size: 同test_size
# random_state: int - 随机种子（种子固定，实验可复现）　　
# shuffle - 是否在分割之前对数据进行洗牌（默认True）

网格搜索

网格搜索最佳参数 sklearn.model_selection
from sklearn.model_selection import GridSearchCV
Tuning the hyper-parameters of an estimator

• GridSearchCV：搜索指定参数网格中的最佳参数
• ParameterGrid：参数网格
• ParameterSampler：用给定分布生成参数的生成器
• RandomizedSearchCV：超参的随机搜索 通过best_estimator_.get_params()方法，获取最佳参数

多标签分类

sklearn.multiclass
Multiclass

• OneVsRestClassifier：1-rest多分类（多标签）策略
• OneVsOneClassifier：1-1多分类策略
• OutputCodeClassifier：1个类用一个二进制码表示

模型保存

# 保存为pickle文件
import pickle

# 保存模型
with open('model.pickle', 'wb') as f:
    pickle.dump(model, f)

# 读取模型
with open('model.pickle', 'rb') as f:
    model = pickle.load(f)
    model.predict(X_test)

#################################################
# sklearn自带方法joblib
from sklearn.externals import joblib

# 保存模型
joblib.dump(model, 'model.pickle')

#载入模型
model = joblib.load('model.pickle')

主要模块分类

1.sklearn.base: Base classes and utility function基础实用函数
2.sklearn.cluster: Clustering聚类
3.sklearn.cluster.bicluster: Biclustering 双向聚类
4.sklearn.covariance: Covariance Estimators 协方差估计
5.sklearn.model_selection: Model Selection 模型选择
6.sklearn.datasets: Datasets 数据集
7.sklearn.decomposition: Matrix Decomposition 矩阵分解
8.sklearn.dummy: Dummy estimators 虚拟估计
9.sklearn.ensemble: Ensemble Methods 集成方法
10.sklearn.exceptions: Exceptions and warnings 异常和警告
11.sklearn.feature_extraction: Feature Extraction 特征抽取
12.sklearn.feature_selection: Feature Selection 特征选择
13。sklearn.gaussian_process: Gaussian Processes 高斯过程
14.sklearn.isotonic: Isotonic regression 保序回归
15.sklearn.kernel_approximation: Kernel Approximation 核 逼近
16.sklearn.kernel_ridge: Kernel Ridge Regression  岭回归ridge
17.sklearn.discriminant_analysis: Discriminant Analysis 判别分析
18.sklearn.linear_model: Generalized Linear Models 广义线性模型
19.sklearn.manifold: Manifold Learning 流形学习
20.sklearn.metrics: Metrics 度量 权值
21.sklearn.mixture: Gaussian Mixture Models 高斯混合模型
22.sklearn.multiclass: Multiclass and multilabel classification 多等级标签分类
23.sklearn.multioutput: Multioutput regression and classification 多元回归和分类
24.sklearn.naive_bayes: Naive Bayes 朴素贝叶斯
25.sklearn.neighbors: Nearest Neighbors 最近邻
26.sklearn.neural_network: Neural network models 神经网络
27.sklearn.calibration: Probability Calibration 概率校准
28.sklearn.cross_decomposition: Cross decomposition 交叉求解
29.sklearn.pipeline: Pipeline 管道
30.sklearn.preprocessing: Preprocessing and Normalization 预处理和标准化
31.sklearn.random_projection: Random projection 随机映射
32.sklearn.semi_supervised: Semi-Supervised Learning 半监督学习
33.sklearn.svm: Support Vector Machines 支持向量机
34.sklearn.tree: Decision Tree 决策树
35.sklearn.utils: Utilities 实用工具