美文网首页编程原来是这样
数据处理02:Python数值计算包NumPy

数据处理02:Python数值计算包NumPy

作者: starglow_leo | 来源:发表于2019-02-23 09:19 被阅读27次

    NumPy 是一个专用于数值计算的第三方包,它提供了实现高效存储与快速操作的多维数组对象,可以说是整个 Python 数据科学生态系统的核心,项目官网 https://www.numpy.org/

    NumPy 已包含于 Anaconda 中,导入模块时请按惯例使用 np 作为别名:

    In [1]: import numpy as np
    
    In [2]: np.__version__  # 查看版本号
    Out[2]: '1.15.4'
    

    NumPy 多维数组类名为 ndarray,其中的元素必须类型一致。创建数组的基本方式是调用 array 函数并以一个列表作为参数——如果传入的列表以若干相同长度列表为组成元素,则会创建一个二维数组(嵌套更多层将生成更高维度的数组):

    In [3]: np.array([1, 2, 3, 4, 5])
    Out[3]: array([1, 2, 3, 4, 5])
    
    In [4]: np.array([[4, 9, 2], [3, 5, 7], [8, 1, 6]])
    Out[4]: 
    array([[4, 9, 2],
           [3, 5, 7],
           [8, 1, 6]])
    

    NumPy 多维数组属于可变的序列对象,支持标准的索引操作;对于多维数组可以用索引取到子数组,并支持用逗号分隔的多组索引;甚至还可以用数组作为“花式索引”:

    In [5]: a1, a2 = Out[3], Out[4]  # IPython 的一个小技巧
    
    In [6]: a1[0]
    Out[6]: 1
    
    In [7]: a2[1]
    Out[7]: array([4, 9, 2])
    
    In [8]: a2[0][-1]
    Out[8]: 2
    
    In [9]: a2[0, -1]
    Out[9]: 2
    
    In [10]: a2[1:, :2]
    Out[10]: 
    array([[3, 5],
           [8, 1]])
    
    In [11]: a1[np.array([0, 2, 4])]  # 用数组进行索引
    Out[11]: array([1, 3, 5])
    

    NumPy 多维数组包含一些数据属性,例如维度 ndim,形状 shape(每个维度的项数),大小 size(总项数)以及数据类型 dtype——由于元素类型必须一致,赋值时如果遇到不同类型将会自动转换(这有可能丢失信息):

    In [12]: print("a1维度:", a1.ndim)
        ...: print("a1形状:", a1.shape)
        ...: print("a1大小:", a1.size)
        ...: print("a1数据类型:", a1.dtype)
    a1维度: 1
    a1形状: (5,)
    a1大小: 5
    a1数据类型: int64
    
    In [13]: print("a2维度:", a2.ndim)
        ...: print("a2形状:", a2.shape)
        ...: print("a2大小:", a2.size)
        ...: print("a2数据类型:", a2.dtype)
    a2维度: 2
    a2形状: (3, 3)
    a2大小: 9
    a2数据类型: int64
    
    In [14]: a1[-1] = 3.14  # 浮点数将自动转换为整数
    
    In [15]: a1
    Out[15]: array([1, 2, 3, 4, 3])
    

    NumPy 多维数组也包含许多方法属性用来执行各种操作,例如转换类型 astype() 、改变形状 reshape(),求和 sum(),累积求和 cumsum(),均值 mean() 等等:

    In [16]: a1 = a1.astype(float)  # 转换数据类型为浮点数
    
    In [17]: a1[-1] = 3.14
    
    In [18]: a1
    Out[18]: array([1.  , 2.  , 3.  , 4.  , 3.14])
    
    In [19]: a1.reshape(5, 1)  # 改变形状为5行1列
    Out[19]: 
    array([[1.  ],
           [2.  ],
           [3.  ],
           [4.  ],
           [3.14]])
    
    In [20]: a1.sum()  # 元素求和
    Out[20]: 13.14
    
    In [21]: a1.cumsum()  # 元素累积求和
    Out[21]: array([ 1.  ,  3.  ,  6.  , 10.  , 13.14])
    
    In [22]: a1.mean()  # 元素均值
    Out[22]: 2.628
    
    In [23]: a2.cumsum(0)  # 按第0维(行)累积求和
    Out[23]: 
    array([[ 4,  9,  2],
           [ 7, 14,  9],
           [15, 15, 15]], dtype=int32)
    
    In [24]: a2.cumsum(1)  # 按第1维(列)累积求和
    Out[24]: 
    array([[ 4, 13, 15],
           [ 3,  8, 15],
           [ 8,  9, 15]], dtype=int32)
    
    In [25]: a2.mean(0)  # 按第0维(行)求均值
    Out[25]: array([5., 5., 5.])
    

    NumPy 中除了 array 等普通函数,还有许多特殊的“通用函数”(ufunc),专门用于对数组中的每个值执行同样运算即所谓“向量化”(Vectorize),这种操作非常高效。基本算术类通用函数也可直接写算术运算符,会在底层自动变为对应的通用函数:

    In [26]: np.add(a2, a2)  # 使用加法通用函数
    Out[26]: 
    array([[ 8, 18,  4],
           [ 6, 10, 14],
           [16,  2, 12]])
    
    In [27]: a2 + a2  # 使用加法运算符
    Out[27]: 
    array([[ 8, 18,  4],
           [ 6, 10, 14],
           [16,  2, 12]])
    
    In [28]: a1 * 2  # 乘法
    Out[28]: array([2.  , 4.  , 6.  , 8.  , 6.28])
    
    In [29]: np.power(3, a1)  # 乘方
    Out[29]: array([ 3.        ,  9.        , 27.        , 81.        , 31.48913565])
    
    In [30]: np.sin(a1)  # 正弦
    Out[30]: array([ 0.84147098,  0.90929743,  0.14112001, -0.7568025 ,  0.00159265])
    

    以上代码中数组乘以单个数值即其所有元素都乘以该数值,这种机制称为“广播”(Broadcast)——当二元运算发现形状不一致时就会尝试进行广播:首先在较小形状的左边补上项数为 1 的维度,然后扩展各个项数为 1 的维度来匹配形状,如果无法匹配则将引发异常:

    In [31]: np.arange(3)[:, np.newaxis]  # 生成序列数组并用索引方式改变形状
    Out[31]: 
    array([[0],
           [1],
           [2]])
    
    In [32]: a1 + Out[31]  # 形状为(5,)和(3,1)的两数组相加得到数组形状为(3,5)
    Out[32]: 
    array([[1.  , 2.  , 3.  , 4.  , 3.14],
           [2.  , 3.  , 4.  , 5.  , 4.14],
           [3.  , 4.  , 5.  , 6.  , 5.14]])
    
    In [33]: a1 + np.arange(3)  # 形状为(5,)和(3,)的两个数组相加将引发异常
    Traceback (most recent call last):
    
      File "<ipython-input-33-02f149f97b98>", line 1, in <module>
        a1 + np.arange(3)
    
    ValueError: operands could not be broadcast together with shapes (5,) (3,) 
    

    下面是之前曼德布罗分形图绘制程序的改进版,虽然还是同样的算法,但使用 NumPy 并配合辅助模块 Numba 将耗时的例程“即时编译”(JIT)为原生机器码,运行速度有成数量级的提升。Numba 官网 https://numba.pydata.org/

    """使用NumPy绘制曼德布罗分形图
    """
    import time
    import numpy as np
    from matplotlib import pyplot as plt
    from matplotlib import colors
    from numba import jit, guvectorize, complex64, int32
    
    
    @jit(int32(complex64, int32))
    def mandelbrot(c, maxiter):
        nreal = 0
        real = 0
        imag = 0
        for n in range(maxiter):
            nreal = real*real - imag*imag + c.real
            imag = 2 * real*imag + c.imag
            real = nreal
            if real * real + imag * imag > 4.0:
                return n
        return 0
    
    
    @guvectorize([(complex64[:], int32[:], int32[:])], "(n),()->(n)", target="parallel")
    def mandelbrot_numpy(c, maxit, output):
        maxiter = maxit[0]
        for i in range(c.shape[0]):
            output[i] = mandelbrot(c[i], maxiter)
    
    
    def mandelbrot_set(xmin, xmax, ymin, ymax, width, height, maxiter):
        r1 = np.linspace(xmin, xmax, width, dtype=np.float32)
        r2 = np.linspace(ymin, ymax, height, dtype=np.float32)
        c = r1 + r2[:, None]*1j
        n3 = mandelbrot_numpy(c, maxiter)
        return (r1, r2, n3.T)
    
    
    def mandelbrot_image(xmin, xmax, ymin, ymax, width=10, height=10, maxiter=256, cmap="jet", gamma=0.3):
        dpi = 72
        img_width = dpi * width
        img_height = dpi * height
        x, y, z = mandelbrot_set(xmin, xmax, ymin, ymax,
                                 img_width, img_height, maxiter)
        plt.figure(figsize=(width, height), dpi=dpi)
        ticks = np.arange(0, img_width, 3*dpi)
        x_ticks = xmin + (xmax-xmin)*ticks/img_width
        plt.xticks(ticks, x_ticks)
        y_ticks = ymin + (ymax-ymin)*ticks/img_width
        plt.yticks(ticks, y_ticks)
        plt.axis("off")
        norm = colors.PowerNorm(gamma)
        plt.imshow(z.T, cmap=cmap, norm=norm, origin="lower")
    
    
    if __name__ == "__main__":
        t1 = time.process_time()
        mandelbrot_image(-2, 0.5, -1.25, 1.25, cmap="hot")
        print(f"运行耗时:{time.process_time() - t1}秒。")
    
    02_numpy-mandelbrot.png

    要了解 NumPy 的更多细节,请查看官方文档 https://docs.scipy.org/doc/

    ——编程原来是这样……

    相关文章

      网友评论

        本文标题:数据处理02:Python数值计算包NumPy

        本文链接:https://www.haomeiwen.com/subject/jqrsyqtx.html