总体算法

作者: __apple | 来源:发表于2018-05-27 11:34 被阅读0次

我们可以先不用着急,我们先来看看人工怎么去获取,那么我们针对珍爱网我们应该怎么发现用户呢?

  • 通过城市列表->城市->下一页->用户
  • 用过用户->猜你喜欢
  • 通过已有的id-> +1猜测新的用户id

那么这里大家可能有个疑问,我们我们通过id+1的方式获取用户信息,我们岂不是都可以拿到所有用户的信息了呢?其实我们主要是想通过这个项目,让大家学习更多Go语言的知识,其实我也是一个学习者了,我们有时候也要站在学习者的角度上看待这个问题,(这里随便给大家一个学习的建议,没事逛逛慕课网一门课也不贵,有自己想看的可以试试)我们也可以做的更通用一些,列表页->详情页的模式还是很多的。。。。所以我们第三种方式就不用了!!!
我们首先从http://www.zhenai.com/zhenghun这个网址进入,也就是一个城市列表页,然后点击到达城市的人员列表,点击人员信息可以到达用户的详情页,具体顺序如下。。。。。

city.png
我们这里有个要注意的是如果有回执的链接我们一定要过滤掉,不然就死循环了这肯定不是我们想要的,那么我们这个项目虽说是分布式的,但是我们不能一开始就写分布式,我们要从单机版逐步推进最终掌握分布式爬虫的开发要领。。。。
process.png
OK, 开始操作把!!!!!

相关文章

  • 总体算法

    我们可以先不用着急,我们先来看看人工怎么去获取,那么我们针对珍爱网我们应该怎么发现用户呢? 通过城市列表->城市-...

  • 遇见算法

    本文章用于算法学习、分享 个人理解算法基本要素 算法总体结构由if..else、for/while、recursi...

  • hadoop 数据压缩

    1. hadoop checknative 可以查看hadoop 支持的压缩算法 2. 启用压缩算法总体来说 节...

  • DES算法实现

    实验目标 完成一个DES 算法的详细设计,内容包括: 算法概述; 总体结构; 数据结构。 实验概述 算法原理 DE...

  • 笔记导航 CS231n: CNN for Visual Reco

    笔记导航 课程总体简介(Visual Recognition) K-Nearest Neighbor 算法 Lin...

  • 面试总结

    算法 总体较全链接 https://www.cnblogs.com/fengyumeng/p/10994279.h...

  • 9种基本排序算法

    文章大纲:1.总体排序算法对比图2.9种排序算法介绍 冒泡排序 算法描述 冒泡排序是一个平均时间复杂度为O(n^2...

  • (10)图算法2: 最小生成树, 最短路径

    最小生成树(MST)问题 对象: 该问题总是针对连通无向图G = (V, E); 总体算法这个算法理出大概的思路,...

  • jvm知识点总览

    jvm 总体梳理 jvm体系总体分四大块: 类的加载机制jvm内存结构GC算法 垃圾回收GC分析 命令调优 当然这...

  • 寻线小车技术报告

    总体来讲,整个算法的设计都基于PID动态控制 寻线算法: 假设我们有三个寻线传感器分别叫做 A、B、C。 如果小车...

网友评论

    本文标题:总体算法

    本文链接:https://www.haomeiwen.com/subject/oalbjftx.html