美文网首页学习小殿Hive在简书大数据
关于阿里云上Hive的一次Debug经历

关于阿里云上Hive的一次Debug经历

作者: 司小幽 | 来源:发表于2018-03-18 15:09 被阅读56次

    Bug

    Shell层面:


    shell层面报错

    日志层面(hive的日志默认在/tmp/{username}/hive.log)


    日志层面

    webUI层面


    webUI

    Debug

    1. 对于日志所报的错误,网上统一的解决方案如下:
      hive 部署需要注意的几点以及Version information not found 错误解决办法
      即在hive-site.xml中将hive.metastore.schema.verification中的值改为false
      但是我的配置文件中的内容已经是fasle了。

    2.后来经阿里嵩林大神帮助后,解决了该问题。而在解决该问题后,细思了一下,之所以一直困在Debug第一点是陷入了一个盲点,抱着网上解答不适用的情形,却没想过是否压根配置不生效。


    schematool对比

    通过上图的schematool -dbType mysql -initSchema对比,发现在上面有问题的节点上metastore connection URL是hive内置的Derby,而不是配置的MySQL,顺藤摸瓜。可能是hive-site的文件没被读取到,也就是说hive-conf没生效,所以看了下环境变量:

    Hive环境变量
    发现问题所在了,之前在部署kylin时,提示找不到HIVE_CONF的环境依赖,于是乎自己贸然将HIVE_CONF_DIR改为了HIVE_CONF由此读不到配置文件,然后走内置derby,不走mysql,最后抛版本找不到的异常

    总结

    过于依赖日志有时会造成盲点,排查问题的时候应该多角度的去思考,既要结合日志,也要留意一些辅助命令输出的内容是否异样,同时还要记住自己曾经的操作,慢慢回溯,多位一体的去Trouble Shooting!

    相关文章

      网友评论

        本文标题:关于阿里云上Hive的一次Debug经历

        本文链接:https://www.haomeiwen.com/subject/hymeqftx.html