influxdb

作者: voidFan | 来源:发表于2020-12-16 17:06 被阅读0次

    influxdb简介

    • InfluxDB是基于Golang编写的一个用于存储和分析时间序列数据的开源数据库。
    • 安装简单,无外部依赖,底层采用TSM存储并且读写数据很高效;
    • 内置HTTP接口,使用方便
    • 数据可以打标记,让查询可以很灵活
    • 类SQL的查询语句
    • 能够实时查询,数据在写入时被索引后就能够被立即查出

    基本概念介绍

    • timestamp:每一条数据都需要指定一个时间戳,这个时间戳以RFC3339格式展示了与特定数据相关联的UTC日期和时间(当然也是可以修改的)。在 TSM 存储引擎中会特殊对待,以为了优化后续的查询操作。
    • database: 数据库名,在InfluxDB 中可以创建多个数据库,不同数据库中的数据文件是隔离存放的,存放在磁盘上的不同目录。
    • retention Policy:存储策略

    用于设置数据保留的时间,每个数据库刚开始会自动创建一个默认的存储策略 autogen,数据保留时间为永久,
    autogen中的数据永不删除且备份数replication为1(只有一份数据,在集群中起作用)。
    可以自己设置存储策略,例如保留最近2小时的数据。
    插入和查询数据时如果不指定存储策略,则使用默认存储策略,且默认存储策略可以修改。InfluxDB会定期清除过期的数据。

    • measurement:是一个容器,包含了列(timestamp,filed,tag set)。类似传统数据库的表,例如cpu_usage_table 表示 cpu 的使用率。
    • tag set:不同的每组tag key和tag value的集合,如图location = 1, scientist = langstroth.
      1. tags 在 InfluxDB 中会被建立索引,且放在内存中。
      2. 如果某种数据经常用来被作为查询条件,可以考虑设为Tag。(为了解决海量数据查询,建索引)
    • series: series是共同retention, policy,measurement和tag set的集合。
    • field: 记录值,是查询的主要对象,例如value值等
    • point: 代表一条记录,point是具有相同timestamp、相同series(measurement,rp,tag set相同)的field。这个点在此时刻是唯一存在的。
    • line protocol:写入InfluxDB时的数据点的文本格式。如:cpu,host=serverA,region=us_west
    • continuous query(CQ):
    • 官方说明

    InfluxDB SQL语法

    database和measurements相关SQL

    create databases <db_name>;
    show databases;
    use <db_name>;
    show measurements;
    insert <measurement_name>,host=127.0.0.1,monitor_name=test count=1
             //host=127.0.0.1,monitor_name=test --> tag
             //count=1                          -->field
    select + from <measurement_name> order by time desc limit 10;  //查询升序的10条数据
    drop measurement <measurement_name>
    show tag keys;              //查看一个measurement中所有的tag key
    show field keys;            //查看一个measurement中所有的field key
    show retention policies;    //查看一个measurement中所有的保存策略(可以有多个,一个标识为default)
    

    保存策略和连续查询

    //数据库保存策略的CURD:提供数据保存策略指定数据保留时间,超过指定时间自动删除.
    show retention policies on <db_name>  //查看当前数据库Retention Policies
    create retention policy <rp_name> on <db_name> duration 3w replication 1 default
             //rp_name:策略名;
             //3w:保存3周,3周之前的数据将被删除,influxdb具有各种事件参数,比如:h,d,w
             //replication 1:副本个数,一般为1就可以了;
             //default:设置为默认策略
    alter retention policy <rp_name> on <db_name> duration 30d default
    drop retention policy <rp_name>
    
    //连续查询Continuous Queries:(数据统计采样)
    show continuous queries;
    create continuous querie <cq_name> on <db_name> begin select sum(count) into <new_ms_name> from <ms_name> group by time(30m) end
          //间隔30分钟计算一次count的和,保存至新的ms. 其中:sum(count):计算总和,30m:时间间隔为30分钟;  
    drop cotinuous query <cq_name> on <db_name>
    

    用户管理

    show users #显示用户
    create user "username" with password 'password' #创建用户
    create user "username" with password 'password' with all privileges #创建管理员权限用户
    drop user "username"  #删除用户
    

    CURD交互

    curl -G 'http://localhost:8086/query?pretty=true' --data-urlencode "db=testDb" --data-urlencode "q=select + from test order by time desc"
    curl -i -XPOST 'http://127.0.0.1:8086/write?db=testDb' --data-binary 'test,host=127.0.0.1,monitor_name=test count=1'
    

    常用函数

    1. count()函数返回一个(field)字段中的非空值的数量。SELECT COUNT(field) FROM measurements
    2. DISTINCT()函数返回一个字段(field)的唯一值。
    3. MEAN() 函数返回一个字段(field)中的值的算术平均值(平均值)。字段类型必须是长整型或float64。
    4. MEDIAN()函数从单个字段(field)中的排序值返回中间值(中位数)。字段值的类型必须是长整型或float64格式。
    5. SPREAD()函数返回字段的最小值和最大值之间的差值。数据的类型必须是长整型或float64。
    6. SUM()函数返回一个字段中的所有值的和。字段的类型必须是长整型或float64。
    7. BOTTOM()函数作用:返回一个字段中最小的N个值。字段类型必须是长整型或float64类型。
    8. FIRST()函数作用:返回一个字段中最老的取值。
    9. LAST()函数作用:返回一个字段中最新的取值。
    10. MAX()函数作用:返回一个字段中的最大值。该字段类型必须是长整型,float64,或布尔类型。
    11. MIN()函数作用:返回一个字段中的最小值。该字段类型必须是长整型,float64,或布尔类型。
    12. PERCENTILE()函数作用:返回排序值排位为N的百分值。字段的类型必须是长整型或float64。百分值是介于100到0之间的整数或浮点数,包括100。
    13. DERIVATIVE()函数作用:返回一个字段在一个series中的变化率。InfluxDB会计算按照时间进行排序的字段值之间的差异,并将这些结果转化为单位变化率。其中,单位可以指定,默认为1s。
    14. DIFFERENCE()函数作用:返回一个字段中连续的时间值之间的差异。字段类型必须是长整型或float64。
    15. ELAPSED()函数作用:返回一个字段在连续的时间间隔间的差异,间隔单位可选,默认为1纳秒。
    16. MOVING_AVERAGE()函数作用:返回一个连续字段值的移动平均值,字段类型必须是长整形或者float64类型。
    17. NON_NEGATIVE_DERIVATIVE()函数作用:返回在一个series中的一个字段中值的变化的非负速率。
    18. STDDEV()函数作用:返回一个字段中的值的标准偏差。值的类型必须是长整型或float64类型。

    influxdb1.1源码目录解析

    目录解析说明

    • cmd InfluxDB相关程序所在目录。其中:
    • influxd目录为InfluxDB主程序代码;
    • influx为InfluxDB自带的控制台管理工具源码;
    • influx_inspect为InfluxDB数据查看工具源码;
    • influx_stress为InfluxDB压力测试工具源码;
    • influx_tsm为数据库转换工具(将数据库从b1或bz1格式转换为tsm1格式)源码
    • coordinator 协调器,负责数据的写入和一些创建语句的执行。
    • 在InfluxDB的ChangeLog中显示在v1.0.0中使用coordinator替换cluster,感觉自建集群功能可以通过此模块实现。
    • etc 存放默认配置
    • importer 版本向后兼容相关代码,在ReadMe中已经提到:Version 0.8.9 of InfluxDB adds support to export your data to a format that can be imported into 0.9.3 and later.
    • influxql 实现了InfluxDB查询语言的解析器
    • internal 主要实现了MetaClient接口
    • man 帮助手册
    • models 基础数据类型定义
    • monitor InfluxDB系统监控

    pkg目录是一些通用包的集合

    • deep里面主要实现了deepValueEqual方法,用于深层次比较两个值是否相等;
    • escape里面主要实现了byte和string两种数据类型转义字符的相关操作;
    • limiter里面主要是一个基于channel实现的简单并发限制器Fixed;
    • pool里面主要实现了Bytes和Generic两种类型的Pool,在Pool中的对象不使用时不会被垃圾回收自动清理掉;
    • slices 里面主要实现了一些string数组的操作;
    • scripts目录存放的是一些关于InfluxDB的脚本。
    • services目录存放的是一些关于InfluxDB的服务。
    • admin 为InfluxDB内置的管理服务;
    • collectd 为collectd(https://collectd.org)对接服务,可以接收通过UDP发送过来的collectd格式数据;
    • continuous_querier 为InfluxDB的CQ服务;
    • graphite 为InfluxDB的graphite服务;
    • httpd 为InfluxDB的http服务,可以通过该接口进行数据库数据的写入和查询等操作;
    • meta 为InfluxDB的元数据服务,用于管理数据库的元数据相关内容;
    • opentsdb 为InfluxDB的opentsdb服务,可用于替换opentsdb;
    • precreator 为InfluxDB的Shard预创建服务;
    • retention 为InfluxDB的数据保留策略的强制执行服务,主要用于定时删除文件;
    • snapshotter 为InfluxDB的快照服务;
    • subscriber 为InfluxDB的订阅服务;
    • udp 为InfluxDB的udp服务,可以通过该接口进行数据库的写入和查询等操作;
    • stress该目录存放的是压力测试相关内容。
    • tcp网络连接的多路复用。
    • tests测试相关内容
    • tomltoml的解析器,和另一个toml解析器(github.com/BurntSushi/toml)不同,为独立的解析模块,主要是解析时间字符串和磁盘容量数据。
    • tsdb目录主要是时序数据库的实现。
      + uuid目录里面主要存放uuid生成的相关代码

    相关文章

      网友评论

          本文标题:influxdb

          本文链接:https://www.haomeiwen.com/subject/exhogktx.html