美文网首页程序员
算法的优化是很重要的

算法的优化是很重要的

作者: 李最美 | 来源:发表于2016-02-01 16:45 被阅读475次

最近看到一篇文章说Python的计算速度远慢于Julia。我想说,每个这么说的搞科学计算的PhD都应该去计算机系修一下计算机原理,编程语言和算法。这个世界上不存在silver bullet,凡事都有trade off,这是这个自然运作的本质规律。与其把时间浪费在语言的选择上,不如认清编程语言各自的局限性,然后优化算法。

以算Fibonacci数列为例,经典的递归代码如下:
R code:

fib=function(N){
    if(N<2){return(N)}
    else{return(fib(N-1)+fib(N-2))}
}

Python code:

def f(n):
    if n < 2:
        return n
    else:
        return f(n-2) + f(n-1)

当N=40的时候上面的代码就已经算得很慢了(R还凑活,Python非常慢)。使用字节码编译(compiler,cython)后略微改善,仍然不是很乐观。

简单的profiling可以发现速度慢的主要原因是递归重复计算,时间是指数级增长的。对付重复计算的一个简单方法就是缓存计算过的值:
R code:

library(memoise)

fib=function(N){
    if(N<2){return(N)}
    else{return(fib(N-1)+fib(N-2))}
}

fib=memoise(fib)

Python code:

def cache(function):
    caches = {}
    def _cache(*args, **kw):
        key = 'f' + str(args[0])
        if key in caches:
            return caches[key]
        result = function(*args, **kw)
        caches[key] = result
        return caches[key]
    return _cache

@cache
def f(n):
    if n < 2:
        return n
    else:
        return f(n-2) + f(n-1)

注:R直接使用现成的包memoise,Python2使用装饰器 (Python3可以直接调用cache函数)。

缓存过后速度就上升几个数量级。但是由于语言本身的默认递归次数限制,上面的代码并不能计算很大的数。再次优化算法,改递归为迭代,这样时间增长就变成线性的了:
R code:

fib=function(N){
  cache_vector=c(0,1)
  for(i in seq(2,N)){
     cache_vector = c(cache_vector[-1], cache_vector[1] + cache_vector[2])
  }
  return(cache_vector[-1])
}

Python code:

def f(n):
    cache_vector=[0,1]
    for i in range(1,n):
        cache_vector = [cache_vector[1], cache_vector[0] + cache_vector[1]]
    return cache_vector[1]

运算速度又上了一个台阶,且可以随意计算,只受机器限制。

所以要想加速代码,关键是优化算法。养成良好的编程习惯,模块化代码,尽量写小函数,把复杂的事情变简单。这样可以针对某个特定的函数优化算法,迅速提高计算效率。另外精通一门解释型语言和一门编译型语言然后混合编程也是一个不错的方法。

References:

相关文章

  • 算法的优化是很重要的

    最近看到一篇文章说Python的计算速度远慢于Julia。我想说,每个这么说的搞科学计算的PhD都应该去计算机系修...

  • python递归算法、尾递归算法及优化

    文章概述 递归算法和尾递归概述递归算法的优化 递归算法 介绍:递归算法是计算机编程领域非常重要的一种算法,采用分而...

  • 优化方法总结

    优化算法框架 神经网络模型中有多种优化算法,优化算法的作用用来优化更新参数。对于优化算法而言,主要的框架如下。参数...

  • 爬山算法

    爬山算法(Hill Climbing)是一种最简单的优化算法(优化算法就是找最大或者最小值),这种算法是通过模拟人...

  • 优化算法笔记(一)优化算法的介绍

    (一)优化算法的介绍 (以下描述,均不是学术用语,仅供大家快乐的阅读) 1.1(what)什么是优化算法? ...

  • 关于凸优化的一些基本概率(2018京东算法岗)

    凸优化是很多机器学习算法的基础,绝大部分的优化算法都是适用在凸函数上的。18年的京东算法岗考的基本都是凸优化的基本...

  • 优化器

    优化器(optim) 优化算法模块(torch.optim) torch.optim 实现了丰富的优化算法,包括S...

  • 机器学习中常用的优化算法总结

    [TOC]优化算法是机器学习中的“方法论”,优化算法会告诉机器应该如何优化学习的进程,让自己能够更好地掌握学习到的...

  • 机器学习理论系列2——梯度下降法

    什么是优化算法 优化算法要求解的,是一个问题的最优解或者近似最优解。在机器学习中,有很多问题都是优化问题,即我们要...

  • 8. 优化案例

    1. 十大经典算法及其优化2.几种常见的优化算法3. 经验之谈:优化算法两句话精炼总结

网友评论

    本文标题:算法的优化是很重要的

    本文链接:https://www.haomeiwen.com/subject/zbpskttx.html