美文网首页
海量日志数据,提取出某日访问百度次数最多的那个IP

海量日志数据,提取出某日访问百度次数最多的那个IP

作者: qmss | 来源:发表于2016-06-28 22:39 被阅读0次

分析:
IP总个数2^32 = 4G,如果单机用一个hash表来存储,光IP部分就得4G*4 = 16G,不现实

把文件按照hash(IP)%1000的方式分割成1000个小文件,相同IP的日志肯定落到了同一个文件中,针对每一个小文件,用hash_map统计出次数最多的那个IP,得到1000个“最多”的IP,然后在这1000个“最多”的IP中找到最大的即可。

相关文章

网友评论

      本文标题:海量日志数据,提取出某日访问百度次数最多的那个IP

      本文链接:https://www.haomeiwen.com/subject/orgtjttx.html