美文网首页
yarn web proxy代理

yarn web proxy代理

作者: 后知不觉1 | 来源:发表于2022-05-19 13:30 被阅读0次

默认开启

默认值开启proxy代理,rm进程启动就有,无需自启动。如果需要可以独立启动

1、yarn web独立开启代理;

使用场景: yarn-site.xml配置的地址必须是真实的代理服务地址

1.1、yarn-site.xml配置文件调整,需要重启yarn集群
//yarn-site.xml
yarn.web-proxy.address 设置 代理地址
1.2、启动代理服务
yarn proxyserver   #前台启动
$HADOOP_YARN_HOME/sbin/yarn-daemon.sh start proxyserver   #后台启动

2、转发代理开启

使用场景:yarn-site.xml配置的地址必须是nginx的代理服务地址,由nginx转发服务

1.1、RM的yarn-site.xml配置文件调整,需要重启rm服务
//yarn-site.xml
yarn.web-proxy.address 设置 代理地址 nginx 
1.2、NM的yarn-site.xml配置文件调整,需要重启rm服务
//yarn-site.xml
yarn.web-proxy.address 设置真实的yarn server服务地址
1.3、yarn server的yarn-site.xml
//因为yarn server的配置与rm不一致,如果部署在rm上可以使用独立配置,启动指定配置即可

// yarn server的配置与nm的配置一致,可以在nm直接启动
yarn.web-proxy.address 设置真实的yarn server服务地址

1.4、启动代理服务
yarn proxyserver   #前台启动
yarn  --config $YARN_CONF_DIR  proxyserver   #指定配置前台启动
$HADOOP_YARN_HOME/sbin/yarn-daemon.sh start proxyserver   #后台启动
yarn-daemon.sh --config $YARN_CONF_DIR  start   proxyserver   #指定配置后台启动
1.5、配置nginx

1.6、测试验证
hadoop jar /opt/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount /user/tianzehao/asd.txt /user/tianzehao/mr-out4

相关文章

  • yarn web proxy代理

    默认开启 默认值开启proxy代理,rm进程启动就有,无需自启动。如果需要可以独立启动 1、yarn web独立开...

  • <HTTP权威指南>读书笔记 ---- Web代

    Web代理 Web的中间实体 Web代理(Web proxy)服务器是网络的中间实体。代理位于客户端和服务器之间,...

  • HTTP协议(三)之代理

    什么是代理服务器 Web代理(proxy)服务器是网络的中间实体。 代理位于Web客户端和Web服务器之间,扮演“...

  • nginx 配置nodejs后台代理

    nginx 配置nodejs后台代理 代理程序 来源于 web-proxy-master 基于node做的代理服务...

  • 借助Nginx搭建反向代理服务器

    一、反向代理:Web服务器的“经纪人” 1.1 反向代理初印象 反向代理(Reverse Proxy)方式是指以代...

  • Proxy | Git, Npm,Yarn代理设置

    1. git 代理设置 设置 查看 查询的时候没有打印任何东西证明没有设置代理 取消 2. npm 设置代理 3...

  • 4.3 代理

    Deno支持模块下载代理和Web标准FETCH API。 代理配置从以下环境变量读取:HTTP_PROXY、HTT...

  • npm、yarn切换源、加代理

    npm和yarn转换淘宝源和官方源 npm 设置代理 npm 删除代理 yarn 设置代理 yarn 删除代理

  • 分布式服务器知识

    1. Nginx :Nginx是一款轻量级的Web 服务器/反向代理服务器 反向代理(Reverse Proxy)...

  • Proxy代理类型

    四类代理 透明代理(Transparent Proxy) 匿名代理(Anonymous Proxy) 混淆代理(D...

网友评论

      本文标题:yarn web proxy代理

      本文链接:https://www.haomeiwen.com/subject/ilniurtx.html