美文网首页
[Hive]新增字段(column)后,旧分区无法更新数据问题

[Hive]新增字段(column)后,旧分区无法更新数据问题

作者: LeeYunFeng | 来源:发表于2019-04-16 11:11 被阅读0次

    问题描述:

    实际应用中,常常存在修改数据表结构的需求,比如:增加一个新字段。

    如果使用如下语句新增列,可以成功添加列col1。但如果数据表tb已经有旧的分区(例如:dt=20190101),则该旧分区中的col1将为空且无法更新,即便insert overwrite该分区也不会生效。

    alter table tb add columns(col1 string);
    

    解决方法:

    解决方法很简单,就是增加col1时加上cascade关键字。示例如下:

    alter table tb add columns(col1 string) cascade;
    

    加深记忆的方法也很简单,cascade的中文翻译为“级联”,也就是不仅变更新分区的表结构(metadata),同时也变更旧分区的表结构。

    附:官方文档

    ADD COLUMNS lets you add new columns to the end of the existing columns but before the partition columns. This is supported for Avro backed tables as well, for Hive 0.14 and later.

    REPLACE COLUMNS removes all existing columns and adds the new set of columns. This can be done only for tables with a native SerDe (DynamicSerDe, MetadataTypedColumnsetSerDe, LazySimpleSerDe and ColumnarSerDe). Refer to Hive SerDe for more information. REPLACE COLUMNS can also be used to drop columns. For example, "ALTER TABLE test_change REPLACE COLUMNS (a int, b int);" will remove column 'c' from test_change's schema.

    The PARTITION clause is available in Hive 0.14.0 and later; see Upgrading Pre-Hive 0.13.0 Decimal Columns for usage.

    The CASCADE|RESTRICT clause is available in Hive 1.1.0. ALTER TABLE ADD|REPLACE COLUMNS with CASCADE command changes the columns of a table's metadata, and cascades the same change to all the partition metadata. RESTRICT is the default, limiting column changes only to table metadata.

    Add/Replace Columns
    ALTER TABLE table_name 
      [PARTITION partition_spec]                 -- (Note: Hive 0.14.0 and later)
      ADD|REPLACE COLUMNS (col_name data_type [COMMENT col_comment], ...)
      [CASCADE|RESTRICT]                         -- (Note: Hive 1.1.0 and later)
    ```

    相关文章

      网友评论

          本文标题:[Hive]新增字段(column)后,旧分区无法更新数据问题

          本文链接:https://www.haomeiwen.com/subject/ymwvwqtx.html