建站
咨询
售后
建站咨询
这篇文章将为大家详细讲解有关hadoop伪分布式如何搭建，小编觉得挺实用的，因此分享给大家做个参考，希望大家阅读完这篇文章后可以有所收获。
在淮安区等地区，都构建了全面的区域性战略布局，加强发展的系统性、市场前瞻性、产品创新能力，以专注、极致的服务理念，为客户提供网站建设、成都网站建设 网站设计制作定制网站制作,公司网站建设,企业网站建设,成都品牌网站建设,全网营销推广,外贸网站制作,淮安区网站建设费用合理。
首先需要配置JDK，大家可以从网上找到许多教程。
个人感觉是，在Linux下配置环境，最重要的是掌握shell的一些命令及其格式，不然可能遇到各种命令格式上的错误，耽误大量的时间。
1 下载的 jdk 1.7 ,存放到 “ /home/sr/setup/java-jdk-1.8/”目录。下载的文件是 ” jdk-8u65-linux-x64.tar.gz”,java jdk 的版本常常有更新,次版本号有可能 更高一点。
2 "sudo su -" ps：这里我用的是“sudo -i”
切换到 root 用户,参考 ” man sudo”。这个命令会切换到 root 用户,也就是最高权限的用户。因为后面要执行的
jdk 安装操作是在/usr/local 目录下进行的,用 root 用户更方便。
3 "cd /usr/local/lib"
4 "tar -zxvf /home/sr/setup/java-jdk-1.8/jdk-8u65-linux-x64.tar.gz" ps: sr是作者的用户名，请改成自己的！
tar 是 linux 下的打包和解压命令行工具,具体细节可以参考 ” man tar” 。这个命令将 jdk-8u65-linux-x64.tar.gz 压缩包解压到当前目录下。解压缩完毕之后,执行"ls",能看到当前目录下有一个新目录叫"jdk 1.8.0_65"
5 配置环境变量:4.5.1 “gedit /etc/profile”
gedit 是 linux 下类似 Windoes 的记事本的编辑器,文件/etc/profile 是 linux 下的配置文件。本命令会打开这个
配置文件,以备编辑。
6 添加配置
在/etc/profile 文件末尾加上如下的三行代码: ps：注意更改自己的JDK版本
export JAVA_HOME=/usr/local/lib/jdk1.8.0_65
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin
7 "source /etc/profile"使配置立即生效
8 "java -version"
这条命令检查 jdk 安装是否成功。
其次，下载hadoop2.7.1放到” /home/sr/setup/hadoop”目录
hadoop stable版下载链接：
http://mirror.esocc.com/apache/hadoop/common/stable/
1 "su sr"
su 命令,切换用户。安装 jdk 用的是 root 用户。现在切回 sr 用户。
2 "mkdir -p ~/usr/hadoop"创建 Hadoop 的安装目录
3 "cd ~/usr/hadoop"
4 "tar -xvzf ~/setup/hadoop/hadoop-2.7.1.tar.gz"解压缩完毕后,就有目录~/usr/hadoop/hadoop-2.7.1,这是 hadoop 的主目录
5 配置伪分布式 hadoop：
配置文件在~/usr/hadoop/hadoop-2.7.1/etc/hadoop目录下
将 core-site.xml 文件内容修改成如下: ps：注意是在
将 mapred-site.xml 文件内容修改如下:
将 hdfs-site.xml 文件内容修改如下:
在 hadoop-env.sh 文件里添加如下一条语句:
export JAVA_HOME=/usr/local/lib/jdk 1.8.0_65
6 "sudo apt-get install ssh rsync"这条命令安装 ssh 和 rsync。 ssh 是一个很著名的安全外壳协议 Secure Shell Protocol。 rsync 是文件同步命令行工具。
7 "ssh-keygen -t dsa -f ~/.ssh/id_dsa"执行这条命令生成 ssh 的公钥/私钥,执行过程中,会一些提示让输入字符,直接一路回车就可以。
8 "cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys"ssh 进行远程登录的时候需要输入密码,如果用公钥/私钥方式,就不需要输入密码了。上述方式就是设置公钥/私钥登录。
9 “ssh localhost”第一次执行本命令,会出现一个提示,输入 ” yes”然后回车即可。
10 "cd ~/usr/hadoop/hadoop-2.7.1"
11 "./bin/hadoop namenode -format"格式化 NameNode。
12 "./sbin/start-all.sh"启动所有节点,包括 NameNode, SecondaryNameNode, JobTracker, TaskTracker, DataNode。
13 “jps”检查各进程是否运行,这时,应该看到有 6 个 java 虚拟机的进程,分别是 Jps, NameNode, SecondaryNameNode,DataNode, JobTracker, TaskTracker,看到 6 个是对的,表明启动成功。如果提示 ” jps”没安装或者找不到,执行一次 ” source /etc/profile”即可。
最后，一起来运行wordcount：
1 "cd ~/usr/hadoop/hadoop-2.7.1"
2 “bin/hadoop fs -mkdir /input”HDFS下创建input文件夹
3 “bin/hadoop fs -put LICENSE.txt /input”将LICENSE.txt放入文件夹
4“bin/hadoop fs -ls /input”显示input中内容
5“bin/hadoop fs -cat /input/LICENSE.txt”查看文件内容
6“bin/hadoop jar /home/sr/usr/hadoop/hadoop-2.7.1/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.1.jar wordcount /input /output”运行并输出 PS：请注意绝对路径！
关于“hadoop伪分布式如何搭建”这篇文章就分享到这里了，希望以上内容可以对大家有一定的帮助，使各位可以学到更多知识，如果觉得文章不错，请把它分享出去让更多的人看到。
网页名称：hadoop伪分布式如何搭建
URL标题：http://scgulin.cn/article/peisoj.html
