美文网首页python学习机器学习python的收藏
用python做数据分析4|pandas库介绍之DataFram

用python做数据分析4|pandas库介绍之DataFram

作者: 是蓝先生 | 来源:发表于2016-05-02 10:44 被阅读90598次

    怎样删除list中空字符?
    最简单的方法:new_list = [ x for x in li if x != '' ]


    今天是5.1号。

    这一部分主要学习pandas中基于前面两种数据结构的基本操作。

    设有DataFrame结果的数据a如下所示:    
           a  b  c
    one    4  1  1
    two    6  2  0
    three  6  1  6
    

    一、查看数据(查看对象的方法对于Series来说同样适用)

    1.查看DataFrame前xx行或后xx行
    a=DataFrame(data);
    a.head(6)表示显示前6行数据,若head()中不带参数则会显示全部数据。
    a.tail(6)表示显示后6行数据,若tail()中不带参数则也会显示全部数据。

    2.查看DataFrame的index,columns以及values
    a.index ; a.columns ; a.values 即可

    3.describe()函数对于数据的快速统计汇总
    a.describe()对每一列数据进行统计,包括计数,均值,std,各个分位数等。

    4.对数据的转置
    a.T

    5.对轴进行排序
    a.sort_index(axis=1,ascending=False);
    其中axis=1表示对所有的columns进行排序,下面的数也跟着发生移动。后面的ascending=False表示按降序排列,参数缺失时默认升序。

    6.对DataFrame中的值排序
    a.sort(columns='x')
    即对a中的x这一列,从小到大进行排序。注意仅仅是x这一列,而上面的按轴进行排序时会对所有的columns进行操作。

    二、选择对象

    1.选择特定列和行的数据
    a['x'] 那么将会返回columns为x的列,注意这种方式一次只能返回一个列。a.x与a['x']意思一样。

    取行数据,通过切片[]来选择
    如:a[0:3] 则会返回前三行的数据。

    2.loc是通过标签来选择数据
    a.loc['one']则会默认表示选取行为'one'的行;

    a.loc[:,['a','b'] ] 表示选取所有的行以及columns为a,b的列;

    a.loc[['one','two'],['a','b']] 表示选取'one'和'two'这两行以及columns为a,b的列;

    a.loc['one','a']与a.loc[['one'],['a']]作用是一样的,不过前者只显示对应的值,而后者会显示对应的行和列标签。

    3.iloc则是直接通过位置来选择数据
    这与通过标签选择类似
    a.iloc[1:2,1:2] 则会显示第一行第一列的数据;(切片后面的值取不到)

    a.iloc[1:2] 即后面表示列的值没有时,默认选取行位置为1的数据;

    a.iloc[[0,2],[1,2]] 即可以自由选取行位置,和列位置对应的数据。

    4.使用条件来选择
    使用单独的列来选择数据
    a[a.c>0] 表示选择c列中大于0的数据

    使用where来选择数据
    a[a>0] 表直接选择a中所有大于0的数据

    使用isin()选出特定列中包含特定值的行
    a1=a.copy()
    a1[a1['one'].isin(['2','3'])] 表显示满足条件:列one中的值包含'2','3'的所有行。

    三、设置值(赋值)

    赋值操作在上述选择操作的基础上直接赋值即可。
    例a.loc[:,['a','c']]=9 即将a和c列的所有行中的值设置为9
    a.iloc[:,[1,3]]=9 也表示将a和c列的所有行中的值设置为9

    同时也依然可以用条件来直接赋值
    a[a>0]=-a 表示将a中所有大于0的数转化为负值

    四、缺失值处理

    在pandas中,使用np.nan来代替缺失值,这些值将默认不会包含在计算中。

    1.reindex()方法
    用来对指定轴上的索引进行改变/增加/删除操作,这将返回原始数据的一个拷贝。
    a.reindex(index=list(a.index)+['five'],columns=list(a.columns)+['d'])

    a.reindex(index=['one','five'],columns=list(a.columns)+['d'])

    即用index=[]表示对index进行操作,columns表对列进行操作。

    ** 2.对缺失值进行填充**
    a.fillna(value=x)
    表示用值为x的数来对缺失值进行填充

    ** 3.去掉包含缺失值的行**
    a.dropna(how='any')
    表示去掉所有包含缺失值的行

    五、合并

    1.contact
    contact(a1,axis=0/1,keys=['xx','xx','xx',...]),其中a1表示要进行进行连接的列表数据,axis=1时表横着对数据进行连接。axis=0或不指定时,表将数据竖着进行连接。a1中要连接的数据有几个则对应几个keys,设置keys是为了在数据连接以后区分每一个原始a1中的数据。

    例:a1=[b['a'],b['c']]
    result=pd.concat(a1,axis=1,keys=['1','2'])

    2.Append 将一行或多行数据连接到一个DataFrame上
    a.append(a[2:],ignore_index=True)
    表示将a中的第三行以后的数据全部添加到a中,若不指定ignore_index参数,则会把添加的数据的index保留下来,若ignore_index=Ture则会对所有的行重新自动建立索引。

    3.merge类似于SQL中的join
    设a1,a2为两个dataframe,二者中存在相同的键值,两个对象连接的方式有下面几种:
    (1)内连接,pd.merge(a1, a2, on='key')
    (2)左连接,pd.merge(a1, a2, on='key', how='left')
    (3)右连接,pd.merge(a1, a2, on='key', how='right')
    (4)外连接, pd.merge(a1, a2, on='key', how='outer')
    至于四者的具体差别,具体学习参考sql中相应的语法。

    六、分组(groupby)

    用pd.date_range函数生成连续指定天数的的日期
    pd.date_range('20000101',periods=10)

    def shuju():
        data={
            'date':pd.date_range('20000101',periods=10),
            'gender':np.random.randint(0,2,size=10),
            'height':np.random.randint(40,50,size=10),
            'weight':np.random.randint(150,180,size=10)
        }
    a=DataFrame(data)
    print(a)
            date  gender  height  weight
    0 2000-01-01       0      47     165
    1 2000-01-02       0      46     179
    2 2000-01-03       1      48     172
    3 2000-01-04       0      45     173
    4 2000-01-05       1      47     151
    5 2000-01-06       0      45     172
    6 2000-01-07       0      48     167
    7 2000-01-08       0      45     157
    8 2000-01-09       1      42     157
    9 2000-01-10       1      42     164
    
    用a.groupby('gender').sum()得到的结果为:  #注意在python中groupby(''xx)后要加sum(),不然显示
    不了数据对象。
    gender     height  weight               
    0           256     989
    1           170     643
    

    此外用a.groupby('gender').size()可以对各个gender下的数目进行计数。

    所以可以看到groupby的作用相当于:
    按gender对gender进行分类,对应为数字的列会自动求和,而为字符串类型的列则不显示;当然也可以同时groupby(['x1','x2',...])多个字段,其作用与上面类似。

    七、Categorical按某一列重新编码分类

    如六中要对a中的gender进行重新编码分类,将对应的0,1转化为male,female,过程如下:

    a['gender1']=a['gender'].astype('category')
    a['gender1'].cat.categories=['male','female']  #即将0,1先转化为category类型再进行编码。
    
     print(a)得到的结果为:
          date    gender  height  weight gender1
    0 2000-01-01       1      40     163  female
    1 2000-01-02       0      44     177    male
    2 2000-01-03       1      40     167  female
    3 2000-01-04       0      41     161    male
    4 2000-01-05       0      48     177    male
    5 2000-01-06       1      46     179  female
    6 2000-01-07       1      42     154  female
    7 2000-01-08       1      43     170  female
    8 2000-01-09       0      46     158    male
    9 2000-01-10       1      44     168  female
    

    所以可以看出重新编码后的编码会自动增加到dataframe最后作为一列。

    八、相关操作

    描述性统计:
    1.a.mean() 默认对每一列的数据求平均值;若加上参数a.mean(1)则对每一行求平均值;

    2.统计某一列x中各个值出现的次数:a['x'].value_counts();

    3.对数据应用函数
    a.apply(lambda x:x.max()-x.min())
    表示返回所有列中最大值-最小值的差。

    4.字符串相关操作
    a['gender1'].str.lower() 将gender1中所有的英文大写转化为小写,注意dataframe没有str属性,只有series有,所以要选取a中的gender1字段。

    九、时间序列

    在六中用pd.date_range('xxxx',periods=xx,freq='D/M/Y....')函数生成连续指定天数的的日期列表。
    例如pd.date_range('20000101',periods=10),其中periods表示持续频数;
    pd.date_range('20000201','20000210',freq='D')也可以不指定频数,只指定起始日期。

    此外如果不指定freq,则默认从起始日期开始,频率为day。其他频率表示如下:


    1.png

    十、画图(plot)

    在pycharm中首先要:import matplotlib.pyplot as plt
    a=Series(np.random.randn(1000),index=pd.date_range('20100101',periods=1000))
    b=a.cumsum()
    b.plot()
    plt.show()    #最后一定要加这个plt.show(),不然不会显示出图来。
    
    2.PNG

    也可以使用下面的代码来生成多条时间序列图:

    a=DataFrame(np.random.randn(1000,4),index=pd.date_range('20100101',periods=1000),columns=list('ABCD'))
    b=a.cumsum()
    b.plot()
    plt.show() 
    
    3.png

    十一、导入和导出文件

    写入和读取excel文件
    虽然写入excel表时有两种写入xls和csv,但建议少使用csv,不然在表中调整数据格式时,保存时一直询问你是否保存新格式,很麻烦。而在读取数据时,如果指定了哪一张sheet,则在pycharm又会出现格式不对齐。

    还有将数据写入表格中时,excel会自动给你在表格最前面增加一个字段,对数据行进行编号。

    a.to_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls',sheet_name='Sheet1')    
    
    a=pd.read_excel(r'C:\\Users\\guohuaiqi\\Desktop\\2.xls','Sheet1',na_values=['NA'])
    
    注意sheet_name后面的Sheet1中的首字母大写;读取数据时,可以指定读取哪一张表中的数据,而
    且对缺失值补上NA。
    
    最后再附上写入和读取csv格式的代码:
    a.to_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',sheet_name='Sheet1')
    a=pd.read_csv(r'C:\\Users\\guohuaiqi\\Desktop\\1.csv',na_values=['NA'])

    相关文章

      网友评论

      • bbfea373d542:最后的demo告诉我们,股市其实是随机游走。。
      • No_limit:感谢大神!很详细!
      • Cheny_58fb:干货,学到了很多以前没注意到的地方
      • 初九未成:在哪区抄的哦
      • Xwooo:a.fillna(value=x)中的x似乎需要引号:smile:
      • 10ce0c73d354:new_list = [i for i in list_old if i]
        这样写就可以了
      • 22584175091c:灰常感谢这篇文章,学习了很多。 但是有一个问题。如果值全部是string, 可以画图吗。按照出现的次数。 谢谢。
      • WendyCui:请问一下,如果用describe()函数输出的几个分位数那里显示NaN,但箱线图却可以画出来,不知博主有没有遇到类似情况,求问原因?
        是蓝先生:@WendyCui 你好 ,我还没有试着去画箱线图,你可以用少量的其他数据试试
      • 7f9ee0f16010:head()和tail()方法没有参数时应该默认选择前五行和后五行,而不是全部数据:smile:
        竹霖聴雨:@是蓝先生 既然写错了为什么时隔一年了还没有修正过来?这样会误导他人!:blush:
        是蓝先生:@姜饼人_d33a 多谢提醒,一起学习进步:smile:
      • 志明S:git了
      • shencao718:这篇文章对我们初学者太有用了,学习了,已收藏。不过文中有点问题希望老师给指导下:文中:“四、缺失值处理 a.reindex(index=list(a.index)+['five'],columns=list(b.columns)+['d']) a.reindex(index=['one','five'],columns=list(b.columns)+['d']) “在测试时2种方法都会报错:“NameError: name 'b' is not defined”,这里面的“b.columns”是不是应该是“a.columns”?
        是蓝先生:@shencao718 嗯你说的对,多谢提醒

      本文标题:用python做数据分析4|pandas库介绍之DataFram

      本文链接:https://www.haomeiwen.com/subject/qnshrttx.html