美文网首页干货
字节与大数据——最熟悉的陌生“人”

字节与大数据——最熟悉的陌生“人”

作者: CAP船长 | 来源:发表于2014-11-22 10:29 被阅读163次

    对字节(Byte)这个单位,但凡是搞IT的,都再熟悉不过啦~

    但是(再早的就不说了),除了从5.25英寸磁盘到700M VCD,到 4.7 G DVD(这些东西不知道当初买了多少,交作业,或是自己刻电影),到几百 GB 硬盘,到可以将几块硬盘当成一块硬盘来使用的 Raid 技术,到以便宜价格就能买到几个 TB的单个移动硬盘……这还仅仅家用领域,我们能够切身体会到的~

    你还能意识到比这更大的数据吗?比如,

    拍字节,PB,2^50字节

    艾字节,EB,2^60字节

    字节,是计算机信息技术用于计量存储容量的一种计量单位。比特(byte)是最小的存储单位。计算机存储单位一般用字节 (B)、千字节(KB)、兆字节(MB)、吉字节(GB)、太字节(TB)、拍字节(PB)、艾字节(EB)、泽它字节(ZB,又称为皆字节)、尧它字节(YB)来表示。

    换算关系:1KB=1024B,1MB=1024KB,1GB=1024MB,以此类推。

    可是……

    最近研究了一下“大数据”,这几年“大数据”很火,主要是因为我们的数据越来越大,而且更重要的是 2008 年支持大数据 Hadoop 技术的应用~

    其实,大数据早在大概 2000 年时就有,那时沃尔玛和美国第一资本银行(CapitalOne)率先将大数据运用在了零售业和银行业。

    2004年,沃尔玛对历史交易记录这个庞大的数据库进行了观察,这个数据库记录的不仅包括每个顾客的购物清单以及消费额,还包括购物篮中的物品、具体购买时间,甚至购物当日的天气。沃尔玛发现,每当在季节性飓风来临之前,不仅仅手电筒销量增加了,而且 POP-Tarts 蛋挞的销量也增加了。因此,当季节性风暴来临时,沃尔玛会把库存的蛋挞放在靠近飓风用品的位置,以方便形色匆匆的顾客从而增加销量。

    但直到 Hadoop 出现,大数据才真正进入我们的视野~

    Hadoop 是一个能够对大量数据进行分布式处理的软件框架,它以一种可靠、高效、可伸缩的方式进行数据处理。

    到 2013 年,世界上存储的数据预计能达到约 1.2 泽字节。如果把这些数据全部记在书中,这些书可以覆盖整个美国 52 次。如果将之存储在只读光盘上,这些光盘可以堆成五堆,每堆都可以延伸到月球。

    国内对大数据的理论研究起步较晚(实践到是很快),所以相关资料不多,即便有,也不够系统。

    公元前 3 世纪,埃及的托勒密二世竭力收集了当时所有的书写作品,所以伟大的亚历山大图书馆 (图书馆建成之时正是中国战国时代的末期,此时百家争鸣,较有影响的十大家:儒、道、墨、法、名、阴阳、纵横、杂、农、小说。)可以代表世界上所有的知识量。但当数字数据洪流席卷世界之后,每个地球人都可以获得大量数据信息,相当于当时亚历山大图书馆存储的数据总量的 320 倍。

    2000 年,斯隆数字巡天(Sloan Digital Sky Survey)项目启动的时候,位于新墨西哥州的望远镜在短短几周内收集到的数据,已经比天文学历史上总共收集的数据还要多。到了 2010 年,信息档案已经高达 1.4×2^42 字节。,预计 2016 年在智利投入使用的大型视场全景巡天望远镜(Large Synoptic Survey Telescope)能在五天内就能获得同样多的信息。

    2003 年,人类第一次破译人体基因密码的时候,辛苦工作了十年才完成了三十亿对碱基对的排序。大约十年后,世界范围内的基因仪每 15 分钟就可以完成同样的工作。

    美国股市每天的成交量高达 70 亿股,而其中三分之二的交易都是由建立在数学模型和算法之上的计算机程序自动完成的。这些程序运用海量数据来预测利益和降低风险。

    Google 公司每天要处理超过24拍字节的数据,这意味着其每天的数据处理量是美国国家图书馆所有纸质出版物所含数据量的上千倍;Facebook 公司这个创立不到十年的公司,每天更新的照片量超过 1000 万张,每天人们在网站上点击“喜欢”按钮或写评论大约有三十亿次。

    YouTube 每月接待多达 8 亿访客,平均每秒就会有一段长度在一小时以上的视频上传;Twitter 上的信息量几乎每年翻一番,截止到 2012 年,每天都会发布如超过 4 亿条微博。

    相关文章

      网友评论

        本文标题:字节与大数据——最熟悉的陌生“人”

        本文链接:https://www.haomeiwen.com/subject/ohhwtttx.html