美文网首页
HBase基本操作以及spark操作HBase

HBase基本操作以及spark操作HBase

作者: wong小尧 | 来源:发表于2019-04-24 10:56 被阅读0次

    HBase是建立在HDFS之上,提供高可靠性、高性能、列存储、可伸缩、实时读写的数据库系统。

    特点:
    表可以很大:一个表可以有上亿行,上百万列
    面向列:面向列(族)的存储和权限控制,列(族)独立检索。
    稀疏:对于为空(null)的列,并不占用存储空间,适合存储稀疏数据。

    1. 一般操作

    进入hbase shell console: hbase shell
    如果有kerberos认证,需要事先使用相应的keytab进行一下认证(使用kinit命令),认证成功之后再使用hbase shell进入

    可以使用whoami命令可查看当前用户.
    hbase(main)> whoami

    查询服务器状态:status
    查询Hbase版本:version
    使用help获得全部命令的列表,使用help ‘command_name’获得某一个命令的详细信息。
    例如:help 'list'

    停止HBase 交互式 shell:exit

    2. 表的管理

    1)查看有哪些表
    hbase(main)> list
    2)创建表
    create <table>, {NAME => <family>, VERSIONS => <VERSIONS>}
    例如:创建表t1,有两个family name:f1,f2,且版本数均为2
    hbase(main)> create 't1',{NAME => 'f1', VERSIONS => 2},{NAME => 'f2', VERSIONS => 2}
    
    创建表t1,列族为f1,列族版本号为5,命令如下
    hbase(main)> create 't1',{NAME=>'f1',VERSIONS=>5}
    
    或者使用如下等价的命令
    hbase(main)> create 't2','f1','f2','f3'
    
    创建表t1,将表依据分割算法HexStringSplit分布在15个Region里,命令如下:
    hbase(main)>create 't3','f1',{NUMREGIONS=>15,SPLITALGO=>'HexStringSplit'}
    
    创建表t1,指定切分点,命令如下:
    hbase(main)> create 't4','f1',{SPLITS=>['10','20','30','40']}
    
    put:向表/行/列指定的单元格添加数据
    向表t1中行row1,列f1:1,添加数据value1,时间戳为14222222222,命令如下:
    hbase(main)> put 't1','row1','f1:1','value1',55555434344
    
    3)删除表
    分两步,先禁用,再删除:1. disable,2. drop
    例如:删除表t1
    hbase(main)> disable 't1'  
    hbase(main)> drop 't1'
    
    4)查看表的结构
    语法:describe <table>
    例如:查看表t1的结构
    hbase(main)> describe 't1'
    
    5)修改表结构
    修改表结构必须先disable
    语法:alter 't1', {NAME => 'f1'}, {NAME => 'f2', METHOD => 'delete'}
    例如:修改表test1的cf的TTL为180天  
    hbase(main)> disable 'test1'
    hbase(main)> alter 'test1',{NAME=>'body',TTL=>'15552000'},{NAME=>'meta', TTL=>'15552000'}
    hbase(main)> enable 'test1'
    
    6)使用exists来检查表是否存在
    exists 'member'
    

    3. 表数据的增删改查

    1)添加数据
    put <table>,<rowkey>,<family:column>,<value>,<timestamp>
    例如: 给表t1的添加一行记录:rowkey是rowkey001,family** name:f1,column name:col1,value:value01,timestamp:系统默认
    hbase(main)> put 't1','rowkey001','f1:col1','value01'
    
    2)查询数据
    a)查询某行记录
    get <table>,<rowkey>,[<family:column>,....]
    例如: 查询表t1,rowkey001中的f1下的col1的值**
    hbase(main)> get 't1','rowkey001', 'f1:col1'  
    or
    hbase(main)> get 't1','rowkey001', {COLUMN=>'f1:col1'}
    查询表t1,rowke002中的f1下的所有列值  
    hbase(main)> get 't1','rowkey001'
    b)扫描表
    scan <table>, {COLUMNS => [ <family:column>,.... ], LIMIT => num}  
    另外,还可以添加STARTROW、TIMERANGE和FITLER等高级功能
    例如: 扫描表t1的前5条数据
    hbase(main)> scan 't1',{LIMIT=>5}
    c)查询表中的数据行数
    count <table>, {INTERVAL => intervalNum, CACHE => cacheNum}  
    INTERVAL设置多少行显示一次及对应的rowkey,默认1000;CACHE每次去取的缓存区大小,默认是10,调整该参数可提高查询速度
    例如: 查询表t1中的行数,每100条显示一次,缓存区为500**
    hbase(main)> count 't1', {INTERVAL => 100, CACHE => 500}
    3)删除数据
    a )删除行中的某个列值
    delete <table>, <rowkey>, <family:column> , <timestamp>,必须指定列名.
    例如: 删除表t1,rowkey001中的f1:col1的数据
    hbase(main)> delete 't1','rowkey001','f1:col1'  
    注:将删除改行f1:col1列所有版本的数据
    b )删除行
    deleteall <table>, <rowkey>, <family:column> , <timestamp>,可以不指定列名,删除整行数据.
    例如: 删除表t1,rowk001的数据
    hbase(main)> deleteall 't1','rowkey001'
    c)删除表中的所有数据
    truncate <table>
    删除流程: disable table -> drop table -> create table
    例如: 删除表t1的所有数据
    hbase(main)> truncate 't1'
    

    4.Spark操作Hbase

    在公司做的实验,没有权限访问hadoop集群的Hbase/lib。那么要在spark-shell中测试就需要自己上传jar包,大概试了一下,上传四个jar包就能正常运行了。


    相关文章

      网友评论

          本文标题:HBase基本操作以及spark操作HBase

          本文链接:https://www.haomeiwen.com/subject/jteybftx.html