美文网首页
百度慧眼迁徙大数据——数据分析(1)

百度慧眼迁徙大数据——数据分析(1)

作者: Cubics | 来源:发表于2021-08-23 20:43 被阅读0次

一些前话

最近听了一些报告,我发现很多论文都引用了百度慧眼迁徙的大数据。百度慧眼迁徙大数据的获取也非常方便,今年百度也开放了常年的数据查询接口。
数据获取方法可见:Python爬虫抓取百度慧眼迁徙大数据(一)
新版代码已经发布在gitee仓库: 百度慧眼大数据
百度借助自家的echarts插件,可视化做的很不错。

百度迁徙页面示意图
百度借助自己的历史数据,做了不同年份同时期的对比,右侧迁入来源地的比例,但是如果想知道在一段时间内,同一目的地不同来源地的比例的变化情况的话,是无法从该平台上查看到的,需要我们通过百度的接口自己进行数据的清洗,然后才可以进一步分析数据。

数据预处理

此次分析针对的省对省的迁入情况,可视化技术用了pyecharts和matplotlib,数据格式为Excel。迁入迁出数据,可以看成od出行数据,为了标识方便,在原有的数据上添加了两列o_province,d_province

数据获取步骤:

ChinaMoveBatch.py

数据清洗与可视化:

prov2prov.py

matplotlib可视化

matplotlib是Python数据可视化的利器,与pandas可以完美结合。
下图中,由于低值的省份分布集中,并且图例的颜色需要自己设定,可视化效果较差,设定也较为麻烦。


matplotlib出图结果-北京迁入示意图

pyeharts可视化

matplotlib库确实很美好,数据绑定很方便,但是有一些地方的默认值设置不完全,图片不够美观。于是我想到了在web领域赫赫有名的echarts,显然echarts也没有放弃Python这块蛋糕,做了pyecharts这个开源包,api和用法上都借鉴了js版本,算是开箱即用。
pyeharts主要生成的是html页面,当然也可以在jupyter里直接render(),但最重要的一点是可以交互操作,动态效果很强。

pyeharts出图结果-北京迁入示意图

数据结果:

Excel,省=>省迁入数据,2021年1月1日至3月1日

数据分析

具体的数据分析会在接下去的第二篇提及,此处只提及一些从图表中可以推断分析出来的信息。

浙江省流入分析

为什么要选择浙江省来分析?

  • 浙江省在这三个月的范围内变化幅度算是全国范围内比较大的
  • 浙江省可以作为长三角地区的重要组成部分,人口流动量大,比较有特点

2021年2月12日是农历春节正月初一,我们可以将其看为一个分界点。
在2月12日之前的人口流动主要为务工人员回家,2月12日之后的人口流动为返回工作场所。
从下图中 ,可以很明显的看出来浙江省的迁入人口来源主要是上海、江苏、安徽、江西等,与浙江都是属于邻省。

重要的是

  • 上海在正月初一(2月12日)前后变化很大,在正月初一前,迁入浙江的人数不断增多,说明浙江人在上海工作的数量很多,上海是浙江人外地工作的重要目的地
    上海市迁入图
  • 江苏与上海类似,江苏是浙江人外地工作的重要目的地,江浙沪真正的体现了长三角经济共同发展的局面
    江苏、上海迁入图
  • 安徽省,江西省在春节后,迁入人口比例迅速提高,我们可以从地理位置上推断安徽、江西是浙江重要的劳动力近程来源地
    安徽、江西迁入图
  • 河南、湖北、湖南、贵州曲线态势相似,都在正月初一后迁入人口比例不断的增加,我们可以推断-河南、湖北、湖南、贵州是浙江重要的劳动力远程来源地
    河南、湖北、湖南、贵州迁入图

相关文章

  • 百度慧眼迁徙大数据——数据分析(1)

    一些前话 最近听了一些报告,我发现很多论文都引用了百度慧眼迁徙的大数据。百度慧眼迁徙大数据的获取也非常方便,今年百...

  • Python爬虫抓取百度慧眼迁徙大数据(一)

    引言 百度慧眼迁徙3.0上线,在选择某一城市的“迁出目的地”或“迁入来源地”后,即可查看该城市迁出、迁入人口的迁徙...

  • 「数据分析」01数据分析简述及numpy和pandas模块的使用

    1.数据分析与数据挖掘 (1)定义对比 数据分析是对已知数据进行分析,提取出一些有价值的信息;而数据挖掘是对大...

  • 数据分析的三大思路 2018-02-08

    数据分析的三大思路 1. 数据分析的基本步骤 数据需求业务含义?—— 分析计划——指标拆分——数据发现——商...

  • 产品设计神器你知多少?

    一、需求分析工具 1、数据 a. 百度指数,谷歌趋势,阿里指数,可了解、分析各种产品的数据趋向,同步比对自己产品...

  • 数据迁徙

    1 剖析迁移任务的构造 这个迁移任务建立了一张叫 products 的数据库表,这张表中包含一个名为 name 的...

  • 2020-05-13

    执行数据库迁徙,生成伪数据 1.接着前面的步骤,我们开始执行数据库迁徙.命令是:php artisan migra...

  • 趣头条产品分析

    趣头条产品分析 1.获取时间类数据 1.1 增长曲线 艾瑞数据显示: 蝉大师数据显示: 百度指数显示: 1.2 版...

  • 数据分析概论

    数据分析框架 整个分析框架发为四大层次 数据规划 数据采集 数据分析 数据决策 在数据分析框架中,用户是数据的来源...

  • SEO工具大全

    一、数据分析类 EXCEL Cgywin,shell处理大日志文件,拆分数据 二、死链查询 百度站长工具 XEMU...

网友评论

      本文标题:百度慧眼迁徙大数据——数据分析(1)

      本文链接:https://www.haomeiwen.com/subject/qgnibltx.html