R语言 朴素贝叶斯分类器①

• 朴素贝叶斯分类器原理：

这种学习方法基于条件概率，也就是通过已经给定的东西来推断一件事情的发生可能性。朴素贝叶斯应用了贝叶斯定理和朴素独立性假设。

• 优势
  • 不相关特征不敏感
  • 一次扫描就能快速训练
  • 快速分类
  • 能够处理任意数量的预测因子，不论他们是连续的还是分类的
  • 尤其适合高维数据
• 劣势
  • 假定了特征之间相互独立

• 朴素贝叶斯分类算法的实现函数

R中的e1071包中的naiveBayes函数可以实现朴素贝叶斯算法，具体的函数格式如下：naiveBayes(formula,data,laplace=0,subset)

image

• 通过e1071包中的naiveBayes（）函数，使用独立的预测变量，计算一个分类变量的条件后验概率。

setwd("E:\\Rwork")
install.packages("e1071")
library(e1071)
index <- sample(nrow(iris),0.75*nrow(iris))
train <- iris[index,]
test <- iris[index,]
nb1 <- naiveBayes(Species ~., data =train )


prediction <- predict(nb1, test[,-5])
xlab <- table(prediction , test$Species)
xlab

prediction   setosa versicolor virginica
  setosa         40          0         0
  versicolor      0         38         2
  virginica       0          2        30

• gmodels包中的CrossTable函数可以来进行模型评估，得到的结果如下：

pre1 <- predict(nb1,test)
a <- table(test$Species,pre1)
(sum(a)-sum(diag(a)))/sum(a)
b <- paste0(round((sum(a)-sum(diag(a)))*100/sum(a),2),"%")
library(gmodels)
CrossTable(test$Species,pre1,prop.r = FALSE,
           prop.c = FALSE,prop.t = TRUE,prop.chisq = FALSE)
   Cell Contents
|-------------------------|
|                       N |
|         N / Table Total |
|-------------------------|

 
Total Observations in Table:  112 

 
             | pre1 
test$Species |     setosa | versicolor |  virginica |  Row Total | 
-------------|------------|------------|------------|------------|
      setosa |         40 |          0 |          0 |         40 | 
             |      0.357 |      0.000 |      0.000 |            | 
-------------|------------|------------|------------|------------|
  versicolor |          0 |         38 |          2 |         40 | 
             |      0.000 |      0.339 |      0.018 |            | 
-------------|------------|------------|------------|------------|
   virginica |          0 |          2 |         30 |         32 | 
             |      0.000 |      0.018 |      0.268 |            | 
-------------|------------|------------|------------|------------|
Column Total |         40 |         40 |         32 |        112 | 
-------------|------------|------------|------------|------------|