美文网首页
古斯塔夫森定律(Gustafson's law)

古斯塔夫森定律(Gustafson's law)

作者: 数科每日 | 来源:发表于2021-02-17 17:05 被阅读0次

Gustafson's law 有几种形式, 这是我喜欢的一种形式

W(s)=(1-p) W+s p W

  • W 在系统加入新资源前,T 时间内可以完成的任务
  • p 系统中,可以使用并行计算的任务的比例
  • (1-p) 系统中,不可以使用并行计算的任务的比例
  • s :计算资源(初始系统中的计算资源为1)
  • W(s)T 时间内可以完成的任务,是相关的 s 函数

解释

系统在规定时间T 内,可以完成的计算量, 随着加入的计算资源增加而增加。

例子

  • 例1

s = 1 , p=0.9
W(s)= 0.1 W + 1 * 0.9 * W = W

  • 例2

s = 5 , p=0.9
W(s)= 0.1 W + 5 * 0.9 * W = 4.6 W

意义

阿姆达尔法则指明了系统加速的极限, 但是古斯塔夫森法则指出了, 虽然随着计算资源的增加, 系统加速会出现边际效应递减, 但是系统在一定时间内, 可以完成的计算量, 确会大幅增加。 而且更重要的是, 这种增加的趋势并不会因为系统资源变多而打折。

古斯塔夫森法则为机器学习,大数据指明了一个方向。 如果可以通过增加问题的规模(增加模型复杂度, 增加样本量)来提高产出, 那么就可以利用云计算提供的大规模计算资源。

相关文章

网友评论

      本文标题:古斯塔夫森定律(Gustafson's law)

      本文链接:https://www.haomeiwen.com/subject/odnixltx.html