美文网首页我爱编程
数据之始--初窥Hadoop

数据之始--初窥Hadoop

作者: Lvxus | 来源:发表于2018-04-10 23:37 被阅读0次

天下熙熙,皆为利来,天下攘攘,皆为利往....趁着大数据的火热,本人也开始了数据之路,以此记录学习的历程,希望能大势面前分一碗小汤......

Hadoop的简介在百度一搜一大堆,再贴在这里未免有凑字数之嫌,所以就不展开说明,因此就从Hadoop的单机模式安装开始:
注:此文是本人在多方尝试后得出的结果,和网上的方法略有出入,因此,若读者们在安装时出现错误,请多加思考,毕竟不是每篇文章都适合每个人!!

所用工具 Centos7、jdk8、winscp、putty

首先 当然是安装jdk和配置环境变量,虽然网上不少文章提及,但是本人还是贴出来,以作加深印象之用

在官网下载Linux版本的jdk8


官网下载

在/usr/目录下创建java目录

[root@localhost ~]# mkdir/usr/java
[root@localhost ~]# cd /usr/java

用winscp把压缩包拉到java文件夹里,解压
[root@localhost ~]# tar -zxvf jdk-8u161-linux-x64.tar.gz

配置jdk环境变量
[root@localhost ~]# vim /etc/profile

文件中添加以上代码

让修改生效
[root@localhost ~]# source /etc/profile

验证jdk是否已安装
[root@localhost java]# java -version

上图即为成功

添加hadoop用户
进入管理员用户
[root@localhost java]# su

添加Hadoop用户
[root@localhost java]# useradd hadoop

设置密码
[root@localhost java]# passwd hadoop

切换hadoop用户
[root@localhost java]# su hadoop

配置ssh免密登录

[hadoop@localhost java]# ssh-keygen -t rsa    (一路回车)
[hadoop@localhost java]# cat .ssh/id_rsa.pub >> .ssh/authorized_keys
[hadoop@localhost java]# chmod 600 .ssh/authorized_keys 

下载hadoop
[hadoop@localhost java]# wget http://labfile.oss.aliyuncs.com/hadoop-2.6.0.tar.gz

(此时,hadoop压缩包放在/home/hadoop/ 文件夹下)
解压压缩包
[hadoop@localhost java]# tar zxvf hadoop-2.6.0.tar.gz

在将解压后的文件放到新的文件夹hdfs下(可不创建,只是为了方便)

[hadoop@localhost java]# mv hadoop-2.6.0 /home/hadoop/hdfs 
(若原来有同名文件夹,先删除 [hadoop@localhost java]# rm -r /home/hadoop/hdfs)
[hadoop@localhost java]# chmod 777 /home/hadoop/hdfs

配置 hadoop
进入管理员用户
[hadoop@localhost java]# su
同样修改/etc/profile/ 文件
[root@localhost java]# vim /etc/profile/
最终结果是

最终结果

测试hadoop 配置

[root@localhost java]# cd /home/hadoop/hdfs
[root@localhost hdfs]# mkdir ./input  
[root@localhost hdfs]# cp ./etc/protocols ./input   # 将此文件作为输入文件  
[root@localhost hdfs]# ./bin/hadoop jar ./share/hadoop/mapreduce/sources/hadoop-mapreduce-examples-2.6.0-sources.jar wordcount input output  
[root@localhost hdfs]# cat ./output/*          # 查看运行结果

成功运行,则说明配置成功。

至此,单机安装成功

本人初学,若此文有不对的地方,请不吝指正
(转载请指明出处)

相关文章

  • 数据之始--初窥Hadoop

    天下熙熙,皆为利来,天下攘攘,皆为利往....趁着大数据的火热,本人也开始了数据之路,以此记录学习的历程,希望能大...

  • 初窥

    初窥世界的美好 白的风 白的肌肤 和盈盈一握的腰肢 在你的头发里 有一个蓝色大海的梦 蓝的帆船和蓝的浪花 自然是美...

  • 初窥

    这个积分管理项目已经到收尾的阶段了,感受良多。 对于错误处理这方面这周我的规划也更为清楚一些了。明天如果能够预期结...

  • Android 数据库初窥

    在Android中使用最多的就是SQLiteOpenHelper,这篇文章会从SQLiteOpenHelper入手...

  • 初窥Realm数据库

    介绍 realm是一个跨平台移动数据库引擎,支持iOS、OS X(Objective-C和Swift)以及Andr...

  • Scrapy爬取数据初识

    Scrapy爬取数据初识 初窥Scrapy Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。 ...

  • 初窥Realm数据库(二)

    前言 下面是我对realm研究的第一篇文章的传送门:初窥Realm数据库。这篇文章主要是对之前一篇的补充,会对re...

  • 初窥南京

    古鸡鸣寺门外,一条长满爬山虎的墙。 城墙下的绿植。 1912街区,没有什么能过阻挡,我对自由的向往。 午后墙壁上斑...

  • 初窥HTTP

    要知道HTTP肯定要先知道WWW,下面我用思维导图来介绍下: 1,弄懂了上图的关系,接下来着重介绍HTTP。 先介...

  • 初窥Scrapy

    Scrapy是一个为了爬取网站数据,提取结构性数据而编写的应用框架。可以应用在包括数据挖掘,信息处理或存储历史数据...

网友评论

    本文标题:数据之始--初窥Hadoop

    本文链接:https://www.haomeiwen.com/subject/tnhohftx.html