美文网首页大数据生态圈
大数据在实际生产环境的前期准备

大数据在实际生产环境的前期准备

作者: z小赵 | 来源:发表于2017-10-04 11:40 被阅读25次

生产环境的准备主要分为两个方面讲解,分 别为系统层面和软件层面,废话不多说,搞起来!

一.系统层面:

1.IP地址的选择,尽可能的将集群的IP地址选在同一个网段

2.主机名的命名方式 :

eg:  bigdata-cdh01.test.com. bigdata-cdh02.test.com. bigdata-cdh03.test.com

3.修改各台主机的主机名,运行如下命令(必须是在root用户下才能修改主机名):

hostname  bigdata-cdh01.test.com         临时修改,系统重启失效

vi   /etc/sysconfig/network                        永久修改主机名,修改结果如下图所示

修改后的主机名

4.在每台机器上做IP与主机名的映射处理,执行如下命令,然后禁用IPv6:(注意:如果是在windows下访问,在win下也要配置,在root用户下执行

vi     /etc/hosts        执行结果如下截图所示

echo  "alia  net-pf-10  off"   >>  /etc/modprobe.d/dist.conf

echo "alia  ipv6  off"  >> /etc/modprobe.d/dist.conf

5.创建普通用户,用于安装软件,执行如下命令(注意:此操作必须在root用户下执行,并且每台机器的这个用户名和密码必须必须必须一致):

adducer   test              后面为用户名,根据自己的情况自己定义

passed     test              后面为密码,根据自己的情况定义

su   -   用户名               切换账户名

6.配置普通用户的sudo权限,执行如下命令(注意:此操作依旧在root用户下执行):

chmod   u+w       /etc/sudoers         为该文件附写文件的权限

vi   /etc/sudoers                                编辑该文件

在文件的首行添加的内容如下:

test(用户名)     ALL=(root)NOPASSWD:ALL

chmod    u-w       /etc/sudoers         收回权限

7.关闭防火墙,禁用Selinux:

sudo   chkconfig  iptables  off        永久关闭防火墙

sudo  vi  /etc/sysconfig/selinux      修改selinux,修改内容如下截图所示

8.卸载Linux自带的JDK,执行如下命令:

sudo  rpm  -qa | grep  java

sudo rpm  -e  --nodeps   XXXXXXXX

9.设置文件打开数据和用户的最大进程:

查看文件打开数量(ulimit  -a)

查看用户的最大进程数(ulimit -u)

执行如下命令修改这两个参数:

sudo  vi  /etc/security/limits.conf

添加的内容如下:

*  soft  nofile  65535

*  hard  nofile  65535

*  soft   nproc   32000

*  hard  nproc    32000

二.软件层面的配置

1.集群时间的同步(以集群中的一台机器作为时间服务器):

sudo  rpm  -qa | grep  ntp             查看是否安装了ntp服务

sudo vim  /etc/ntp.conf                 修改ntp的配置文件,修改内容如下图1所示

sudo vim /etc/sysconfig/ntpd       同步硬件时间,增加如下一行内容即可

SYNC_HWCLOCK=yes

sudo  service  ntpd  status        查看ntp是否启动

sudo service  ntpd  start            启动ntp服务

sudo  chkconfig  ntpd  on           永久启动ntp服务

在要执行时间同步的机器上做一个定时任务,执行如下命令,必须在root用户下

crontab  -l        查看定时任务

crontab  -e       编写定时任务,编辑内容如下:

0-59/10 * * * *  /usr/sbin/ntpdate  bigdata-cdh01.test.com (这里指的是被指定的时间服务器)

图1

        至此,基础配置已全部完成,然后将所有机器全部重启,下一篇将介绍本地yum源的搭建方式。欢迎关注,如需转载,请注明转载来源,谢谢!

相关文章

  • 大数据在实际生产环境的前期准备

    生产环境的准备主要分为两个方面讲解,分 别为系统层面和软件层面,废话不多说,搞起来! 一.系统层面: 1.IP地址...

  • RongCLoud即时通讯学习笔记

    1、前期准备:需要在融云注册app,获取appkey在AppDelegate中进行注册。环境分为开发环境和生产环境...

  • 中小企业MES软件成功实施的三大准备

    实施 中小企业MES软件 的准备主要包括前期准备、数据准备和生产管理准备三个方面。 (一)前期准备 企...

  • redis数据迁移

    前期准备 在进行数据迁移之前,一定要做好迁移前的准备。 环境调研,源和目标数据库环境、版本、数据量大小、业务场景、...

  • [翻译]Service Worker的配置

    原文 前期准备 如下的基础知识: [翻译]生产环境中的Service Worker src/ngsw-config...

  • 实战!3分钟搞定Spring Boot 多环境配置

    在实际项目开发的过程中,需要面对不同的运行环境,比如开发环境、测试环境、生产环境等,每个运行环境的数据库、Redi...

  • 关于生产核算前期准备

    1,熟悉生产工艺。 2,确认成本中心。 3,区分哪些产品是成熟的,哪些属于研发阶段。 4,成熟产品。确认相关生产车...

  • 2019-06-12 MySQL主从复制高级方案与应用实践

    1. MySQL集群企业级架构方案 在实际生产环境中,一主多从的数据库环境是最常采用的数据库架构,那么应该怎么分配...

  • MySQl主从复制

    Mysql实现主从复制 在实际生产环境中,由单台MySQL作为独立的数据库是不能满足实际需求的,无论在安全性,高可...

  • Spring Boot多环境配置

    在项目开发阶段,开发环境和实际生产环境是不一样,比如使用的数据库/服务连接配置等。因此,配置多个开发环境profi...

网友评论

    本文标题:大数据在实际生产环境的前期准备

    本文链接:https://www.haomeiwen.com/subject/djvqyxtx.html