美文网首页爬虫我爱编程
从零开始学Python数据分析【1】--数据类型及结构

从零开始学Python数据分析【1】--数据类型及结构

作者: 04282aba96e3 | 来源:发表于2018-01-15 17:52 被阅读1145次

    前文传送门:

    从零开始学Python数据分析【1】--数据类型及结构

    从零开始学Python数据分析【2】-- 数值计算及正则表达式

    从零开始学Python数据分析【3】-- 控制流与自定义函数

    从零开始学Python数据分析【4】-- numpy

    从零开始学Python数据分析【5】-- pandas(序列部分)

    从零开始学Python数据分析【6】-- pandas(数据框部分01)

    从零开始学Python数据分析【7】-- pandas(数据框部分02)

    从零开始学Python数据分析【8】-- pandas(数据框部分03)

    从零开始学Python数据分析【9】-- pandas(数据框部分04)

    从零开始学Python数据分析【10】-- matplotlib(条形图)

    从零开始学Python数据分析【11】-- matplotlib(饼图)

    从零开始学Python数据分析【12】-- matplotlib(箱线图)

    从零开始学Python数据分析【13】-- matplotlib(直方图)

    从零开始学Python数据分析【14】-- matplotlib(折线图)

    从零开始学Python数据分析【15】-- matplotlib(散点图)

    从零开始学Python数据分析【16】-- matplotlib(雷达图)

    从零开始学Python数据分析【17】-- matplotlib(面积图)

    从零开始学Python数据分析【18】-- matplotlib(热力图)

    从零开始学Python数据分析【19】-- matplotlib(树地图)

    从零开始学Python数据分析【20】--线性回归(理论部分)

    从零开始学Python数据分析【21】--线性回归(实战部分)

    从零开始学Python数据分析【22】--线性回归诊断(第一部分)

    从零开始学Python数据分析【23】--线性回归诊断(第二部分)

    从零开始学Python数据分析【24】--岭回归及LASSO回归(理论部分)

    从零开始学Python数据分析【25】--岭回归及LASSO回归(实战部分)

    从零开始学Python数据分析【26】--Logistic回归(理论部分)

    从零开始学Python数据分析【27】--Logistic回归(实战部分)

    从零开始学Python数据分析【28】-- K均值聚类(理论部分)

    前言


      我们接着《[从零开始学Python【28】--K均值聚类(理论部分)](http://mp.weixin.qq.com/s?__biz=MzI5NDY1MjQzNA==&mid=2247485176&idx=2&sn=8ae84e232ccf17f19ceae501361ca22e&chksm=ec5ed985db295093e9c53daccffc1178e21cc2772ee6d87246692eb1c4fbafd941e3de685b3f&scene=21#wechat_redirect)》一文,继续跟大家分享一下**如何借助于Python和R语言工具完成K均值聚类的实战**。本次实战的数据来源于虎扑体育(https://nba.hupu.com/stats/players),我们借助于NBA球员的命中率和罚球命中率两个来给各位球员做一次“人以群分”的效果。
    
      首先,我们使用pandas中的read_html函数读取虎扑体育网页中的球员数据表,然后再对数据作清洗(主要是数据类型的转换、变量的重命名和观测的删除):
    
    # 加载第三包import pandas as pdimport numpy as npimport matplotlib.pyplot as pltfrom sklearn.cluster import KMeans# 读取网页中的数据表table = []for i in range(1,7):
        table.append(pd.read_html('https://nba.hupu.com/stats/players/pts/%d' %i)[0])# 所有数据纵向合并为数据框    players = pd.concat(table)# 变量重命名columns=['排名','球员','球队','得分','命中-出手','命中率','命中-三分','三分命中率','命中-罚球','罚球命中率','场次','上场时间']
    players.columns=columns# 数据类型转换players.得分 = players.得分.astype('float')
    players.命中率 = players.命中率.str[:-1].astype('float')/100players.三分命中率 = players.三分命中率.str[:-1].astype('float')/100players.罚球命中率 = players.罚球命中率.str[:-1].astype('float')/100players.场次 = players.场次.astype('int')
    players.上场时间 = players.上场时间.astype('float')# 删除行标签为0的记录players.drop(0,inplace=True)
    players.head()
    
    image

    本次一共获得286名球员的历史投篮记录,这些记录包括球员姓名、所属球队、得分、各命中率等信息,下面我们仅使用球员的命中率和罚球命中率来做聚类,主要是为了方便展现聚类效果的图形。首先,我们来看看这两个指标下的散点图:

    # 中文和负号的正常显示plt.rcParams['font.sans-serif'] = ['Microsoft YaHei']
    plt.rcParams['axes.unicode_minus'] = False# 设置绘图风格plt.style.use('ggplot')# 绘制得分与命中率的散点图players.plot(x='罚球命中率',y='命中率',kind='scatter')
    plt.show()
    
    image

    通过肉眼,似乎还无法对这286名球员进行聚类(画圈),如果画圈的话,该划为几类合适呢?一般我们可以通过迭代的方式选出合适的聚类个数,即让k值从1到K依次执行一遍,再查看每一次k值对应的簇内离差平方和之和的变化,如果变化幅度突然由大转小时,那个k值就是我们选择的合理个数。具体我们通过图形展现来说明上面的文字:

    # 选择最佳的K值X = players[['罚球命中率','命中率']]
    K = range(1,int(np.sqrt(players.shape[0])))GSSE = []for k in K:
        SSE = []
        kmeans = KMeans(n_clusters=k, random_state=10)
        kmeans.fit(X)
        labels = kmeans.labels_
        centers = kmeans.cluster_centers_    for label in set(labels):
            SSE.append(np.sum(np.sum((players[['罚球命中率','命中率']].loc[labels == label,]-centers[label,:])**2)))
        GSSE.append(np.sum(SSE))    # 绘制K的个数与GSSE的关系plt.plot(K, GSSE, 'b*-')
    plt.xlabel('聚类个数')
    plt.ylabel('簇内离差平方和')
    plt.title('选择最优的聚类个数')
    plt.show()
    
    image

    从图中结果显示,当k为7时,看上去簇内离差平方和之和的变化已慢慢变小,那么,我们不妨就将球员聚为7类。如下为聚类效果的代码:

    #调用sklearn的库函数num_clusters = 6kmeans = KMeans(n_clusters=num_clusters, random_state=1)
    kmeans.fit(X)# 聚类结果标签players['cluster'] = kmeans.labels_# 聚类中心centers = kmeans.cluster_centers_# 绘制散点图plt.scatter(x = X.iloc[:,0], y = X.iloc[:,1], c = players['cluster'], s=50, cmap='rainbow')
    plt.scatter(centers[:,0], centers[:,1], c='k', marker = '*', s = 180)
    plt.xlabel('罚球命中率')
    plt.ylabel('命中率')# 图形显示plt.show()
    
    image.gif

    上图中,散点的不同颜色表示的是聚为不同的簇,黑色五角星为各簇的中心点,看上去其聚类效果有那么点意思。到此,关于使用Python实现K均值聚类的实战我们就分享到这里,接下来将使用R语言重新复现一遍,希望对R语言熟悉的朋友有一点的帮助。如下是R语言的复现脚本:

    # 加载第三方包library(ggplot2)# 读取Python中现成下好的数据players = read.csv(file = file.choose())
    head(players)# 绘制罚球命中率和命中率散点图ggplot(data = players, mapping = aes(x = 罚球命中率, y = 命中率)) + 
      geom_point()# 自定义函数选择最佳的K值tot.wssplot <- function(data, nc, seed=1234){  #假设分为一组时的总的离差平方和              
      tot.wss <- (nrow(data)-1)*sum(apply(data,2,var)) 
      for (i in 2:nc){      #必须指定随机种子数
         set.seed(seed) 
         tot.wss[i] <- sum(kmeans(data, centers=i)$withinss)
      }
      ggplot(data = NULL, mapping = aes(x = 1:nc, y = tot.wss)) + 
        geom_point() + 
        geom_line(color = 'steelblue', size = 1) + 
        labs(x = '聚类个数', y = '簇内离差平方和', title = '选择最优的聚类个数') + 
        theme(plot.title = element_text(hjust = 0.5, face = 'bold'))
      }      #绘制各种组数下的总的组内平方和图tot.wssplot(data = players[,c('罚球命中率','命中率')], 
                nc = as.integer(sqrt(nrow(players))))# 聚类clust <- kmeans(x = players[,c('罚球命中率','命中率')], centers = 7)
    centers = clust$centers
    players$cluster = clust$cluster# 聚类效果图ggplot() + 
      geom_point(data = players, 
                 mapping = aes(x = 罚球命中率, y = 命中率, color = factor(cluster)),size = 1.5) + 
      geom_point(aes(x = centers[,1], y = centers[,2]), 
                 fill = 'black', shape = 18, size = 3) + 
      labs(title = '聚类效果图') + 
      theme(plot.title = element_text(hjust=0.5, face = 'bold'),legend.position="none")
    
    image.gif image image

    相关文章

      网友评论

      本文标题:从零开始学Python数据分析【1】--数据类型及结构

      本文链接:https://www.haomeiwen.com/subject/kmudoxtx.html