美文网首页
ClickHouse物化视图

ClickHouse物化视图

作者: 这货不是王马勺 | 来源:发表于2023-03-29 10:54 被阅读0次

    ClickHouse的物化视图是一种查询结果的持久化,它确实是给我们带来了查询效率的提升。(默认名是加.inner)
    用户查起来跟表没有区别,它就是一张表,它也像是一张时刻在预计算的表,创建的过程它是用了一个特殊引擎,加上后来 as select,就是create一个table as select的写法。“查询结果集”的范围很宽泛,可以是基础表中部分数据的一份简单拷贝,也可以是多表join之后产生的结果或其子集,或者原始数据的聚合指标等等。所以,物化视图不会随着基础表的变化而变化,所以它也称为快照(snapshot).

    1.概述

    1.1 物化视图和普通视图区别

    • 普通视图不保存数据,保存的仅仅是查询语句,查询的时候还是从原表读取数据。
    • 物化视图则是把查询的结果根据相应的引擎存入到了磁盘或内存中,对数据重新进行了组织,你可以理解物化视图是完全的一张新表。
      1.2 优缺点
    • 优点:查询速度快,要是把物化视图这些规则全部写好,它比原数据查询快了很多,总的行数少了,因为都预计算好了。
    • 缺点:它的本质是一个流式数据的使用场景,是累加式的技术,所以要用历史数据做去重、去核这样的分析,在物化视图里面是不太好用的。在某些场景的使用也是有限的。而且如果一张表加了好多物化视图,在写这张表的时候,就会消耗很多机器的资源,比如数据带宽占满、存储一下子增加了很多。

    1.3 基本语法
    也是create语法,会创建一个隐藏的目标表来保存视图数据。也可以TO 表名,保存到一张显式的表。没有加TO表名,表名默认就是 .inner.物化视图名;

    CREATE [MATERIALIZED] VIEW [IF NOT EXISTS] [db.]table_name [TO[db.]name] [ENGINE = engine] [POPULATE] 
    AS SELECT ...
    

    创建物化视图的限制
    1.必须指定物化视图的engine 用于数据存储
    2.TO [db].[table]语法的时候,生产环境不建议使用POPULATE,历史数据会全部同步,会出现不可用时间,正确做法是insert进去。
    3.查询语句(select)可以包含下面的子句: DISTINCT, GROUP BY, ORDER BY, LIMIT…
    4.物化视图的alter操作有些限制,操作起来不大方便。
    5.若物化视图的定义使用了TO [db.]name 子语句,则可以将目标表的视图 卸载 DETACH 再装载 ATTACH
    物化视图的数据更新
    (1)物化视图创建好之后,若源表被写入新数据则物化视图也会同步更新
    (2)POPULATE 关键字决定了物化视图的更新策略:
    若有POPULATE 则在创建视图的过程会将源表已经存在的数据一并导入,类似于 create table ... as
    若无POPULATE 则物化视图在创建之后没有数据,只会在创建只有同步之后写入源表的数据
    clickhouse 官方并不推荐使用POPULATE,因为在创建物化视图的过程中同时写入的数据不能被插入物化视图。
    (3)物化视图不支持同步删除,若源表的数据不存在(删除了)则物化视图的数据仍然保留
    (4)物化视图是一种特殊的数据表,可以用show tables 查看
    (5)物化视图数据的删除:
    (6)物化视图的删除:

    2.物化视图应用

    2.1 准备测试用表和数据
    对于一些确定的数据模型,可将统计指标通过物化视图的方式进行构建,这样可避免查询时重复计算的过程,物化视图会在有新数据插入时进行更新。

    #建表语句
    CREATE TABLE hits_test
    (
        EventDate Date,
        CounterID UInt32,
        UserID UInt64,
        URL String,
        Income UInt8
    )
    ENGINE = MergeTree()
    PARTITION BY toYYYYMM(EventDate)
    ORDER BY (CounterID, EventDate, intHash32(UserID))
    SAMPLE BY intHash32(UserID)
    SETTINGS index_granularity = 8192
    

    导入一些数据

    INSERT INTO hits_test
        SELECT
        EventDate,
        CounterID,
        UserID,
        URL,
        Income
    FROM datasets.hits_v1
    limit 10000;
    

    2.2 创建物化视图

    CREATE MATERIALIZED VIEW hits_mv
    ENGINE=SummingMergeTree
    PARTITION BY toYYYYMM(EventDate) ORDER BY (EventDate, intHash32(UserID))
    AS SELECT
    UserID,
    EventDate,
    count(URL) as ClickCount,
    sum(Income) AS IncomeSum
    FROM hits_test
    WHERE EventDate >= '2014-03-20'
    GROUP BY UserID,EventDate;
    

    加where EventDate的目的是设置更新点,该时间点之前的数据可以另外通过insert into select...的方式插入。

    或者可以用下列语法,表A可以是一张mergetree表

    CREATE MATERIALIZED VIEW 物化视图名 TO 表A
    AS SELECT FROM 表B;
    

    不建议添加populate关键字进行全量更新。刚建的时候是一张空表,只有增量数据会更新进来。

    2.3 导入增量数据

    #导入增量数据
    INSERT INTO hits_test
    SELECT
        EventDate,
        CounterID,
        UserID,
        URL,
        Income
    FROM datasets.hits_v1
    WHERE EventDate >= '2014-03-23'
    limit 10;
    #查询物化视图
    SELECT * FROM hits_mv;
    8585742290196126178    2014-03-23    8    16
    1095363898647626948    2014-03-23    2    0
    

    2.4 导入历史数据

    #导入增量数据
    INSERT INTO hits_mv
    SELECT
        UserID,
        EventDate,
        count(URL) as ClickCount,
        sum(Income) AS IncomeSum
    FROM  hits_test
    WHERE EventDate = '2014-03-20'
    GROUP BY UserID,EventDate
    
    #查询物化视图
    SELECT * FROM `hits_mv`;
    

    相关文章

      网友评论

          本文标题:ClickHouse物化视图

          本文链接:https://www.haomeiwen.com/subject/athxddtx.html