分类:SVM
本文主要介绍了SVM工具箱中svmtrain和svmpredict两个主要函数：
(1)model= svmtrain(train_label, train_matrix, ['libsvm_options']);
其中：
train_label表示训练集的标签。
train_matrix表示训练集的属性矩阵。
libsvm_options是需要设置的一系列参数，各个参数可参见《libsvm参数说明.txt》，里面介绍的很详细，中英文都有的。如果用回归的话，其中的-s参数值应为3。
输出的结果为
optimization finished, #iter = 162
nu = 0.431029
obj = -100.877288, rho = 0.424462
nSV = 132, nBSV = 107
Total nSV = 132
其中，#iter为迭代次数，nu是你选择的核函数类型的参数，obj为SVM文件转换为的二次规划求解得到的最小值,rho为判决函数的偏置项b，nSV为标准支持向量个数，nBSV为边界上的支持向量个数(a[i]=c)，Total nSV为支持向量总个数（对于两类来说，因为只有一个分类模型Total nSV = nSV，但是对于多类，这个是各个分类模型的nSV之和）。
model:是训练得到的模型，是一个结构体（如果参数中用到-v，得到的就不是结构体，对于分类问题，得到的是交叉检验下的平均分类准确率；对于回归问题，得到的是均方误差）。
Parameters: [5x1 double] %结构体变量，依次保存的是 -s -t -d -g -r等参数
nr_class: 4 %分类的个数
totalSV: 39 %总的支持向量个数
rho: [6x1 double] %b=-model.rho
Label: [4x1 double]
ProbA: []
ProbB: []
nSV: [4x1 double] %每一类的支持向量的个数
sv_coef: [39x3 double] %支持向量的系数
SVs: [39x12 double] %具体的支持向量，以稀疏矩阵的形式存储
w*x+b=0 其中
w=model.SVs'*model.sv_coef
b=-model.rho
w是高维空间中分类 超平面的法向量，b是常数项。
(2)[predicted_label, accuracy/mse,decision_values/prob_estimates]
=svmpredict(test_label, test_matrix, model, ['libsvm_options']);
其中：
test _label表示测试集的标签（这个值可以不知道，因为作预测的时候，本来就是想知道这个值的，这个时候，随便制定一个值就可以了，只是这个时候得到的mse就没有意义了）。
test _matrix表示测试集的属性矩阵。
model是上面训练得到的模型。
libsvm_options是需要设置的一系列参数。
predicted_label表示预测得到的标签。
accuracy/mse是一个3*1的列向量，其中第1个数字用于分类问题，表示分类准确率；后两个数字用于回归问题，第2个数字表示mse；第三个数字表示平方相关系数（也就是说，如果分类的话，看第一个数字就可以了；回归的话，看后两个数字）。
decision_values/prob_estimates：第三个返回值，一个矩阵包含决策的值或者概率估计。对于n个预测样本、k类的问题，如果指定“-b 1”参数，则n x k的矩阵，每一行表示这个样本分别属于每一个类别的概率；如果没有指定“-b 1”参数，则为n x k*(k-1)/2的矩阵，每一行表示k(k-1)/2个二分类SVM的预测结果。
(3)训练的参数
LIBSVM训练时可以选择的参数很多，包括：
-s svm类型：SVM设置类型（默认0)
0—C-SVC；1–v-SVC；2– 一类SVM；3—e-SVR；4—v-SVR
-t核函数类型：核函数设置类型（默认2）
0– 线性核函数：u’v
1– 多项式核函数：（r*u’v + coef0)^degree
2–RBF(径向基)核函数：exp(-r|u-v|^2）
3–sigmoid核函数：tanh(r*u’v + coef0)
-d degree：核函数中的degree设置（针对多项式核函数）（默认3）
-g r(gamma）：核函数中的gamma函数设置（针对多项式/rbf/sigmoid核函数）（默认1/k，k为总类别数)
-r coef0：核函数中的coef0设置（针对多项式/sigmoid核函数）（（默认0)
-c cost：设置C-SVC，e -SVR和v-SVR的参数（损失函数）（默认1）
-n nu：设置v-SVC，一类SVM和v- SVR的参数（默认0.5）
-p p：设置e -SVR中损失函数p的值（默认0.1）
-m cachesize：设置cache内存大小，以MB为单位（默认40）
-e eps：设置允许的终止判据（默认0.001）
-h shrinking：是否使用启发式，0或1（默认1）
-wi weight：设置第几类的参数C为weight*C (C-SVC中的C)（默认1）
-v n: n-fold交互检验模式，n为fold的个数，必须大于等于2
以上这些参数设置可以按照SVM的类型和核函数所支持的参数进行任意组合，如果设置的参数在函数或SVM类型中没有也不会
产生影响，程序不会接受该参数；如果应有的参数设置不正确，参数将采用默认值。
网友评论