美文网首页
第13课书面作业

第13课书面作业

作者: keon | 来源:发表于2016-11-06 14:41 被阅读0次

1 安装sqoop,并且把Mysql中的表数据导出到HDFS下的文本文件里,整个过程抓图
2 安装flume或chukwa,并作简单测试

1、
(1)下载sqoop-1.4.6.bin__hadoop-2.0.4-alpha.tar.gz,并解压
(2)修改sqoop配置文件

Set path to where bin/hadoop is available

export HADOOP_COMMON_HOME=/usr/hadoop-2.7.2

Set path to where hadoop-*-core.jar is available

export HADOOP_MAPRED_HOME=

set the path to where bin/hbase is available

export HBASE_HOME=/usr/hbase_123

Set the path to where bin/hive is available

export HIVE_HOME=/usr/hive

Set the path for where zookeper config dir is

export ZOOCFGDIR=/usr/zookeeper_349/conf
(3)运行sqoop
./bin/sqoop list-databases --connect jdbc:mysql://192.168.31.247:3306/ --username hive --password zaq1XSW@

1.png
(4)导入hdsf
./bin/sqoop import --connect jdbc:mysql://192.168.31.247:3306/sqoop --username hive --password zaq1XSW@ --table test -m 1 2.png 3.png

2、
(1)下载apache-flume-1.7.0-bin.tar.gz,并解压
(2)修改配置文件
flume-env.sh

Enviroment variables can be set here.

export JAVA_HOME=/usr/jdk1.8.0_101

Give Flume more memory and pre-allocate, enable remote monitoring via JMX

export JAVA_OPTS="-Xms100m -Xmx2000m -Dcom.sun.management.jmxremote"

flume-conf

a1.sources = r1
a1.channels = c1
a1.sinks = k1
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444
a1.sources.r1.channels = c1
a1.sinks.k1.type = logger
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
a1.sinks.k1.channel = c1

(3)启动flume
./bin/flume-ng agent --conf ./conf/ --conf-file ./conf/flume-conf --name a1 -Dflume.root.logger=INFO,console

(4)输出消息

4.png 5.png

相关文章

  • 第2课书面作业

    1 在Hadoop集群中编译并运行《权威指南》中的例3.22 自行在本地文件系统生成一个大约一百多字节的文本文件,...

  • 第4课书面作业

    1 下载气象数据集部分数据(下载地址:http://www1.ncdc.noaa.gov/pub/data/noa...

  • 第13课书面作业

    1 安装sqoop,并且把Mysql中的表数据导出到HDFS下的文本文件里,整个过程抓图2 安装flume或chu...

  • 2021.9.30

    “严控书面作业总量” 全面压减作业总量和时长,确保小学一二年级不布置书面家庭作业,其他年级每天书面作业完成时间平均...

  • 书面作业一

    花了半天的时间看完了老师推荐的《非暴力沟通》,在其中看到了许多我和龚老师第一次通话时,老师提到的“倾听”“理解”“...

  • 亲子日记第六十七篇 口语作业也是作业

    老师布置作业一般以书面作业为主,有时也布置口语作业。闺女对书面作业还是很重视的,认真对待,对于那些口语作业...

  • 暑假小结

    暑假小结 暑假马上过去了,做个小结 1:书面作业 学校布置的书面作业7.15日写完了,实践作业还差一些,因为英语不...

  • 一处小学作业管理规定

    一处小学作业管理规定 一、严控作业总量,减轻学生课业负担 (一)严控书面作业总量一、二年级不留书面家庭作业,教师根...

  • 关于低年级不布置家庭书面作业个人的一点想法

    我个人同意学生高效完成作业,但是我认为高效完成作业和布置书面家庭作业是不冲突的。一二年级不布置书面家庭作业,是...

  • 只有要写的才叫作业吗?

    关于一、二年级不留书面作业我非常赞成。不是只有书面作业才叫作业!听、读同样是作业,对一、二年级来说,语文、...

网友评论

      本文标题:第13课书面作业

      本文链接:https://www.haomeiwen.com/subject/lzzguttx.html