美文网首页
用Python给自己做一个SEO流量查询工具

用Python给自己做一个SEO流量查询工具

作者: 向阳乔木 | 来源:发表于2017-09-08 11:19 被阅读264次

    可能因为职业原因,每看到一个网址,都好奇它的流量情况,不知道你是否和我一样。

    这时一般做法都是打开爱站网,输入网址查询。

    15048396565284.jpg

    对别人来说可能不是一个很大的需求,但我就是想简化这个过程。

    之前想过一个解决办法:做个浏览器插件,想看当前网站流量数据时,点击弹窗显示。

    理论上这个方法可行,但需要花时间研究Chrome插件开发。
    http://open.chrome.360.cn/extension_dev/overview.html

    后来我选择了一种变通方法,能实现类似效果,还可以脱离浏览器运行。

    工具实现思路

    希望实现的效果

    复制任意网址(不一定网站首页),然后按某个快捷键,自动提取域名(可以到子域名一级)提交给爱站网查询,然后把结果返回弹窗显示。

    经过琢磨研究做出来的效果如下:

    15048378295822.jpg

    如何实现呢?

    开发环境:Macbook + 系统自动Automator + Python(或PHP)

    Python代码实现按网址查流量

    # coding = utf-8
    __author = 'joe'
    # 导入 requests库,一般简单采集都推荐使用这个库
    import requests
    # 导入BeautifulSoup做DOM解析,避免有些网站代码不规范让lxml不好用
    from bs4 import BeautifulSoup as bs
    # 导入正则库
    import re
    # 导入随机数库
    import random
    # 这个库可以从URL中解析域名
    from tld import get_tld
    # 判断是否为URL的库
    import validators
    # 导入系统库
    import sys
    import io
    # 解决编码问题
    sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='utf-8')
    
    # 定义一个获取HTML代码的方法
    def get_html(url):
        # 定义http的请求Header
        headers = {}
        # random.randint(1,99) 为了生成1到99之间的随机数,让UserAgent变的不同。
        headers['User-Agent'] = "Mozilla/5.0 (Windows NT 5.1; rv:31.0) Gecko/20100101 Firefox/31.0" + str(random.randint(1,99))
        # Referer地址使用待查询的网址
        headers['Referer'] = url
        # 如果是一个URL,则执行
        if validators.url(url):
            # 通过URL获取域名
            domain = get_tld(url)
            # 构造爱站网查询地址
            aizhan_url = "http://baidurank.aizhan.com/baidu/" + domain + "/"
            # 发送请求,获取页面HTML
            html = requests.get(aizhan_url, headers = headers, timeout=10).text
            # 输出网址域名
            print("网站:" + domain)
            # 分析页面元素,提取需要字段
            get_data(html)
            # 更多内容查看爱站
            print("更多查看:" + aizhan_url)
        else:
            # 提示错误URL
            print("wrong url")
    
    # 定义提取页面元素的方法
    def get_data(html):
        # 使用lxml解析器,这样效率更高
        soup = bs(html, "lxml")
        # 提取页面中的总流量数据
        all_pv = soup.select("span.blue")[0].get_text()
        # 提取页面中的总PC流量数据
        pc_pv = soup.select(".ip strong")[0].get_text()
        # 提取页面中的总移动流量数据
        mobile_pv = soup.select(".ip strong")[1].get_text()
        # 提取PC权重
        pc_weight = soup.select(".fl .br strong")[0].get_text()
        # 提取移动权重
        mobile_weight = soup.select(".fl .br strong")[1].get_text()
        # 提取PC关键词量,数值越大,说明网站越强
        pc_words = soup.select("a#cc1 strong")[0].get_text()
        # 提取M关键词量,越大越好
        mobile_words = soup.select("a#cc2 strong")[0].get_text()
        
        # 下面是输出
        print("总流量:" + all_pv)
        print("PC总流量:" + pc_pv)
        print("M总流量:" + mobile_pv)
        print("PC权重:" + pc_weight)
        print("M权重:" + mobile_weight)
        print("PC关键词量:" + pc_words)
        print("M关键词量:" + mobile_words)
    
        print("流量大的目录:")
        # 循环读取流量大的目录URL,显示5条。
        for index,item in enumerate(soup.select("ul.urlpath li a")):
            if(index <= 5):         
                print(item.get_text().strip())
    
    # 主程序
    if __name__ == "__main__":
        # 测试网址
        url = "http://www.huangye88.com"
        # 通过命令行获取第1个参数作为待查询网址
        post_url = sys.argv[1]
        # 校验网址是否为URL
        if validators.url(post_url):        # 执行查询程序
            get_html(post_url)
        else:
            # 提示错误网址
            print("wrong url")
    

    如何通过快捷键执行程序?

    步骤1:打开Mac电脑下的Automator,新建文件,文稿类型选“服务”。点击资源库下的“实用工具”,然后再双击 “运行AppleScript”

    15048395501722.jpg

    输入如下内容:

    set website to (the clipboard as text)
    
    set x to do shell script "/Users/admin/.pyenv/shims/python3 /Users/admin/Documents/newstart/php/phpspider/projects/just4fun/projects/python/getsiteinfo/get_site_info.py " & website
    
    display dialog x
    

    第一行的意思是:把剪贴板里的数据当做纯文本,赋值给变量website
    第二行的意思是:把脚本执行的结果赋值给x(注意:&是连接字符串,这样可以把网址传给脚本)
    第三行的意思是:把结果输出到对话框中。

    你可以复制一个网站,然后点击运行测试,看是否会弹出包含正确内容的对话框。
    把这个服务文件保存,命名为:getAizhan

    注意,如果安装了多Python版本运行环境,要设置希望使用的版本。比如我这里用的Python3

    步骤2:

    下面我们设置快捷键,打开Mac OSX中的系统偏好设置,点击键盘->服务。

    找到我们刚才创建的服务“getAizhan”,勾选上后设置一个自己喜欢的快捷键,如下图所示。(Ctrl+ALt+Command+M)

    15048401829029.jpg

    到此为止,一切搞定,以后查网站流量,做SEO分析都省事不少。

    这个工具的PHP版本:https://zhuanlan.zhihu.com/p/24577887

    借助这个思路,还可以开发其他好用的小工具,比如用印象笔记API存有价值的句子:

    https://zhuanlan.zhihu.com/p/24545638

    相关文章

      网友评论

          本文标题:用Python给自己做一个SEO流量查询工具

          本文链接:https://www.haomeiwen.com/subject/lcegjxtx.html