美文网首页
hadoop 配置中遇到的问题

hadoop 配置中遇到的问题

作者: 朽木1313 | 来源:发表于2019-05-24 04:25 被阅读0次
1.设置 bash 左侧的 host 值

类似下面有些服务器是内网IP,阿里云甚至是一个随机 ID,在多台内网机器跳转的时候很容易搞不清当前在什么机器上。
ubuntu@ip-10-1-1-43 ~$
因此可以通过这样子 来设定主机名称
sysctl kernel.hostname=hadoop1
设置完后就变成了:
[root@hadoop1 ~]#

2.设置 vpc 内网机器访问外网

一个弹性IP加带宽还是比较贵,如果能所有机器共用一个 ip 那就太好了
带外网的机器是 172.21.248.245, 内网机器为 172.21.248.246
在 245 机器配置 squid

yum install -y squid
vim /etc/squid/squid.conf

编辑以下内容:

# 设置内网网段,根据自己需要设置一个即可
acl localnet src 10.0.0.0/8 # RFC1918 possible internal network
acl localnet src 172.16.0.0/12  # RFC1918 possible internal network
acl localnet src 192.168.0.0/16 # RFC1918 possible internal network

# 配置访问黑白名单
http_access allow localnet
http_access allow localhost

# And finally deny all other access to this proxy
http_access deny all

# Squid normally listens to port 3128
http_port 3128

maximum_object_size 4 MB
cache_mem 64 MB
access_log /var/log/squid/access.log
cache_dir ufs /var/spool/squid 100 16 256
squid -z  # 初始化 squid
systemctl enable squid
service start squid

上面配置好了代理服务器,接下来我们配置内网服务器 246
vim /etc/profile

export ALL_PROXY=http://172.21.248.245:3128
export HTTP_PROXY=$ALL_PROXY
export HTTPS_PROXY=$ALL_PROXY
export FTP_PROXY=$ALL_PROXY
export RSYNC_PROXY=$ALL_PROXY
export http_proxy=$ALL_PROXY
export https_proxy=$ALL_PROXY
export ftp_proxy=$ALL_PROXY
export rsync_proxy=$ALL_PROXY

在 vim /etc/yum.conf 下添加一行
proxy=http://172.21.248.245:3128

3. linux 添加用户

root 环境下

adduser hadoop
passwd -d hadoop 设置Hadoop 无需密码
# 将 hadoop 用户添加到 sudo 组
usermod -aG sudo hadoop

# 假若没有 sudo group
addgroup sudo
# 假若在 centos, 需要修改 /etc/suders 文件
%sudo   ALL=(ALL)       ALL

相关文章

  • hadoop 配置中遇到的问题

    1.设置 bash 左侧的 host 值 类似下面有些服务器是内网IP,阿里云甚至是一个随机 ID,在多台内网机器...

  • hadoop配置遇到的问题

    配置hadoop的时候遇到几个问题,有的甚至困扰了好久,在这里记录一下1.配置java的时候,其中有一步sourc...

  • hadoop安装中遇到的问题

    namenode datanode上五大服务都启动了,但datanode无法访问namenode的9000端口,l...

  • linux往hive里面导入数据库

    1、首先配置好hive环境和mysql2、遇到问题org.apache.hadoop.hive.ql.exec.D...

  • hdfs的API操作

    *配置Windows下Hadoop环境 经测试mac好像没有这个问题 在windows系统需要配置hadoop运行...

  • 第四章 Hadoop系统管理

    Hadoop配置文件 Hadoop集群中的每台计算节点都有一组自己的配置文件。Hadoop系统的后续版本中按照不同...

  • 大数据开发问题整理

    问题整理 一、大数据环境配置 1.windows本地安装配置hadoop后,cmd执行"hadoop"后报错:ER...

  • Hadoop安装

    Hadoop安装 一、 Hadoop 1、 安装 安装并配置hadoop-2.6.4(在master中) (1)将...

  • 开发中遇到的配置问题

    1.安装HomeBrew一直卡住 git fetch origin master:refs/remotes/ori...

  • hadoop的安装与操作

    Ubuntu16.04-hadoop3.1.0安装与配置hadoop的配置文件在hadoop/etc/hadoop...

网友评论

      本文标题:hadoop 配置中遇到的问题

      本文链接:https://www.haomeiwen.com/subject/alfuzqtx.html