原理
在计算dataframe最大值时,最先用到的一定是Series对象的max()方法(),最终结果是4。
s1 = pd.Series([1,2,3,4,np.nan])
s1_max = s1.max()
但是笔者由于数据量巨大,列数较多,于是为了加快计算速度,采用numpy进行最大值的计算,但正如以下代码,最终结果得到的是nan,而非4。发现,采用这种方式计算最大值,nan也会包含进去,并最终结果为nan。
s1 = pd.Series([1,2,3,4,np.nan])
s1_max = s1.values.max()
>nan
通过阅读numpy的文档发现,存在np.nanmax的函数,可以将np.nan排除进行最大值的计算,并得到想要的正确结果。
当然不止是max,min 、std、mean 均会存在列中含有np.nan时,s1.values.min /std/mean ()返回nan的情况。
速度区别
速度由快到慢依次:
s1 = pd.Series([1,2,3,4,5,np.nan])
#速度由快至慢
np.nanmax(s1.values) > np.nanmax(s1) > s1.max()
网友评论