美文网首页
Spark任务异常The auxService spaark_s

Spark任务异常The auxService spaark_s

作者: 独行的卡卡 | 来源:发表于2020-03-05 22:43 被阅读0次

    问题现象

    Spark任务抛出如下异常:

    org.apache.hadoop.yarm.exception.InvalidAuxServiceException: The auxService:spark_shuffle does not exist
    

    问题解决方案

    于yarn-site.xml修改或添加如下配置:

    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>spark_shuffle,mapreduce_shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-services.spark_shuffle.class</name>
        <value>org.apache.spark.network.yarn.YarnShuffleService</value>
    </property>

    相关文章

      网友评论

          本文标题:Spark任务异常The auxService spaark_s

          本文链接:https://www.haomeiwen.com/subject/idalrhtx.html