侧边栏壁纸
  • 累计撰写 192 篇文章
  • 累计创建 2 个标签
  • 累计收到 87 条评论

关于在Vmware下安装ubuntu以及安装Hadoop3.1

Allen Best
2022-03-16 / 0 评论 / 0 点赞 / 178 阅读 / 2,834 字
温馨提示:
本文最后更新于 2022-03-17,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

一、Vim基本使用

vim的常用模式有分为命令模式,插入模式,可视模式,正常模式。本教程中,只需要用到正常模式和插入模式。二者间的切换即可以帮助你完成本指南的学习。
正常模式
正常模式主要用来浏览文本内容。一开始打开vim都是正常模式。在任何模式下按下Esc键就可以返回正常模式
插入编辑模式
插入编辑模式则用来向文本中添加内容的。在正常模式下,输入i键即可进入插入编辑模式
退出vim
如果有利用vim修改任何的文本,一定要记得保存。Esc键退回到正常模式中,然后输入:wq即可保存文本并退出vim
3~VRBAB7~1QMPVZ1U9WYY.jpg

XRE~7IGA49DY_W2G.jpg7I%7BG$A4%7B9DY%5B_W2G-7444b833bdba407086a1977a978e9c91.jpg)
![NDCFBDJI01AV5BGQVV.jpg](/upload/2022/03/NDCFBDJ%5B%7D%7BI01A(V5BGQV(V-d95416be85ad45e4bba520e6433f7e30.jpg)
YM8NDNDHOYWV~LP8GHH.jpg

二、SSH

sudo apt-get install openssh-server
ssh localhost

XBRKHFXX1O3TT5R1ELI.jpg

XBRKHFXX1O3TT5R1ELI.jpg

SSH免密配置

exit                           # 退出刚才的 ssh localhost
cd ~/.ssh/                     # 若没有该目录,请先执行一次ssh localhost
ssh-keygen -t rsa              # 会有提示,都按回车就可以
cat ./id_rsa.pub >> ./authorized_keys  # 加入授权

QQ图片20220316233154.jpg

QQ图片20220316233214.jpg

QQ图片20220316233228.jpg


MobaXterm

QQ图片20220316232913.jpgQQ图片20220316233009.jpgQQ图片20220316233025.jpgQQ图片20220316233040.jpgQQ图片20220316233051.jpgQQ图片20220316233108.jpgQQ图片20220316233122.jpg

安装jdk

cd /usr/lib
sudo mkdir jvm #创建/usr/lib/jvm目录用来存放JDK文件
cd ~ #进入hadoop用户的主目录
cd Downloads  #注意区分大小写字母,刚才已经通过FTP软件把JDK安装包jdk-8u162-linux-x64.tar.gz上传到该目录下
sudo tar -zxvf ./jdk-8u162-linux-x64.tar.gz -C /usr/lib/jvm  #把JDK文件解压到/usr/lib/jvm目录下

配置环境变量

cd ~
vim ~/.bashrc
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_162
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

退出vim编辑器

source ~/.bashrc
java -version

image.png
jdk安装成功


安装 Hadoop3.1.3

sudo tar -zxf ~/下载/hadoop-3.1.3.tar.gz -C /usr/local    # 解压到/usr/local中
cd /usr/local/
sudo mv ./hadoop-3.1.3/ ./hadoop            # 将文件夹名改为hadoop
sudo chown -R hadoop ./hadoop       # 修改文件权限

GG_V2NSQSLP1KE43SREU.jpg

cd /usr/local/hadoop
./bin/hadoop version

HX51NT9SI0L9ZTI.jpg

Hadoop伪分布式配置

core-site.xml

<configuration>
    <property>
        <name>hadoop.tmp.dir</name>
        <value>file:/usr/local/hadoop/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
</configuration>

hdfs-site.xml

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property>
        <name>dfs.namenode.name.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/name</value>
    </property>
    <property>
        <name>dfs.datanode.data.dir</name>
        <value>file:/usr/local/hadoop/tmp/dfs/data</value>
    </property>
</configuration>

配置完成后,执行 NameNode 的格式化:

cd /usr/local/hadoop
./bin/hdfs namenode -format

image.png

如果在这一步时提示 Error: JAVA_HOME is not set and could not be found. 的错误,则说明之前设置 JAVA_HOME 环境变量那边就没设置好,请按教程先设置好 JAVA_HOME 变量,否则后面的过程都是进行不下去的。如果已经按照前面教程在.bashrc文件中设置了JAVA_HOME,还是出现 Error: JAVA_HOME is not set and could not be found. 的错误,那么,请到hadoop的安装目录修改配置文件“/usr/local/hadoop/etc/hadoop/hadoop-env.sh”,在里面找到“export JAVA_HOME=$”这行,然后,把它修改成JAVA安装路径的具体地址,比如,“export JAVA_HOME=/usr/lib/jvm/default-java”,然后,再次启动Hadoop。
启动Hadoop

cd /usr/local/hadoop
./sbin/start-dfs.sh  #start-dfs.sh是个完整的可执行文件,中间没有空格

_OFQ~0IRATC~7EH2EF1I05.jpg


可能出现的错误合集

Q:虚拟机启动蓝屏问题
A:蓝屏情况可以安装vmware16以上的版本,那是针对win10以上出的适应性版本
**Q:**
image.png
A:
image.png
Q:
image.png
A:相应的软件没安装 sudo apt-get install
**Q:**
SNE11M`NEQWTGMP7YV.png
A:core-site.xml 或者 hdfs-site.xml 有错误
**Q:**
image.png
A:java 环境变量配置错误
**Q:**
image.png
A:core-site.xml 或者 hdfs-site.xml 有错误,仔细检查配置文件
Q:
image.png
A:用户名有问题

很多错误都是来自配置信息不正确,仔细检查配置信息

0
博主关闭了当前页面的评论