美文网首页
尚硅谷大数据技术之Hive

尚硅谷大数据技术之Hive

作者: 尚硅谷教育 | 来源:发表于2018-12-03 17:12 被阅读3次

    第11章 常见错误及解决方案
    1)SecureCRT 7.3出现乱码或者删除不掉数据,免安装版的SecureCRT 卸载或者用虚拟机直接操作或者换安装版的SecureCRT
    2)连接不上mysql数据库
    (1)导错驱动包,应该把mysql-connector-java-5.1.27-bin.jar导入/opt/module/hive/lib的不是这个包。错把mysql-connector-java-5.1.27.tar.gz导入hive/lib包下。
    (2)修改user表中的主机名称没有都修改为%,而是修改为localhost
    3)hive默认的输入格式处理是CombineHiveInputFormat,会对小文件进行合并。
    hive (default)> set hive.input.format;
    hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat
    可以采用HiveInputFormat就会根据分区数输出相应的文件。
    hive (default)> set hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;
    4)不能执行mapreduce程序
    可能是hadoop的yarn没开启。
    5)启动mysql服务时,报MySQL server PID file could not be found! 异常。
    在/var/lock/subsys/mysql路径下创建hadoop102.pid,并在文件中添加内容:4396
    6)报service mysql status MySQL is not running, but lock file (/var/lock/subsys/mysql[失败])异常。
    解决方案:在/var/lib/mysql 目录下创建: -rw-rw----. 1 mysql mysql 5 12月 22 16:41 hadoop102.pid 文件,并修改权限为 777。
    7)JVM堆内存溢出
    描述:java.lang.OutOfMemoryError: Java heap space
    解决:在yarn-site.xml中加入如下代码
    <property>
    <name>yarn.scheduler.maximum-allocation-mb</name>
    <value>2048</value>
    </property>
    <property>
    <name>yarn.scheduler.minimum-allocation-mb</name>
    <value>2048</value>
    </property>
    <property>
    <name>yarn.nodemanager.vmem-pmem-ratio</name>
    <value>2.1</value>
    </property>
    <property>
    <name>mapred.child.java.opts</name>
    <value>-Xmx1024m</value>
    </property>

    本教程由尚硅谷教育大数据研究院出品,如需转载请注明来源,欢迎大家关注尚硅谷公众号(atguigu)了解更多。

    相关文章

      网友评论

          本文标题:尚硅谷大数据技术之Hive

          本文链接:https://www.haomeiwen.com/subject/svxucqtx.html