美文网首页
HDFS 操作

HDFS 操作

作者: 做一只乐观的小猴子 | 来源:发表于2019-03-25 18:23 被阅读0次

https://www.w3cschool.cn/hadoop/hadoop_hdfs_operations.html

https://www.w3cschool.cn/hadoop/hadoop_command_reference.html

您必须格式化配置的HDFS文件系统,打开namenode(HDFS服务器),然后执行以下命令。

$ hadoop namenode -format

将启动namenode以及数据节点作为集群。

$ start-dfs.sh

列出文件

$ $HADOOP_HOME/bin/hadoop fs -ls <args>

将数据插入HDFS:

1. 创建一个输入目录: $ $HADOOP_HOME/bin/hadoop fs -mkdir /user/input

2. 使用put命令将数据文件从本地系统传输并存储到Hadoop文件系统。$ $HADOOP_HOME/bin/hadoop fs -put /home/file.txt /user/input

3. $ $HADOOP_HOME/bin/hadoop fs -ls /user/input

从HDFS检索数据

1.cat命令查看HDFS中的数据。$ $HADOOP_HOME/bin/hadoop fs -cat /user/output/outfile

2.     使用get命令将文件从HDFS获取到本地文件系统。$ $HADOOP_HOME/bin/hadoop fs -get /user/output/ /home/hadoop_tp/

关闭HDFS $ stop-dfs.sh

cp<src><dest>; mv; rm;

 put<localSrc><dest>,   copyFromlocal<localSrc><dest>

get<dest><localSrc>,coptToLocal<src><localDest>

getmerge<src><localDest> 检索与HDFS中的路径src匹配的所有文件,并将它们复制到由localDest标识的本地文件系统中的单个合并文件。

moveFromLocal<localSrc><dest>: 系统复制到HDFS中的dest,成功时删除本地副本。

moveToLocal

mkdir <path>

touchz<path> 在包含当前时间的路径上创建一个文件作为时间戳。如果文件在路径中已存在,则失败,除非文件已经为0.

test -[ezd] <path> 如果路径存在则返回1;具有零长度;或者是目录,否则为0。

stat [format]<path> 打印有关路径的信息。格式是接受块(%b),文件名(%n),块大小(%o),复制(%r)和修改日期(%y,%Y)中的文件大小的字符串.

tail [-f] <file2name> 在stdout上显示最后1KB的文件。

chmod [-R] mode,mode,... <path>...       更改与由路径标识的一个或多个对象关联的文件权限...使用R.模式递归执行更改是一个3位八进制模式,或{augo} +/- {rwxX}。假设没有指定范围,并且不应用umask。

chown [-R] [owner][:[group]] <path>...   设置由路径标识的文件或目录的所属用户和/或组...如果指定了-R,则递归地设置所有者。

相关文章

  • Hadoop HDFS文件操作API

    使用JAVA操作HDFS: 使用Shell操作HDFS: Usage: hadoop fs [generic op...

  • hadoop笔记(四)HDFS的shell和api

    前面进行了hdfs原理的学习,下面进行hdfs的shell操作和api操作。1、hdfs命令hadoop的shel...

  • 通过API访问HDFS

    通过API操作HDFS 今天的主要内容 HDFS获取文件系统 HDFS文件上传 HDFS文件下载 HDFS目录创建...

  • HDFS 配置本地客户端

    之前,一直通过Linux命令操作HDFS。接下来,在本地配置HDFS客户端,通过编写代码操作HDFS。 环境: m...

  • 大数据 Hadoop(三)API操作

    第03章 Hadoop API操作 HDFS操作 Maven配置 进行haddop HDFS相关开发首先需要引入下...

  • HDFS 操作

    https://www.w3cschool.cn/hadoop/hadoop_hdfs_operations.ht...

  • 图文详解HDFS工作机制

    本篇主要从下面几个方面进行展开 HDFS是什么 漫画看懂HDFS骚操作 HDFS架构原理 一、HDFS是什么 HD...

  • HDFS分布式文件存储系统

    2.1 HDFS的使用 启动HDFS 2.2 HDFS shell操作 调用文件系统(FS)Shell命令应使用b...

  • HDFS Lease管理

    HDFS 不支持客户端的并行写操作,那么这就需要一种机制来保证对HDFS文件操作的互斥,HDFS 提供了租约机制来...

  • Hadoop实验——熟悉常用的HDFS操作

    实验目的 理解HDFS在Hadoop体系结构中的角色。 熟练使用HDFS操作常用的Shell命令。 熟悉HDFS操...

网友评论

      本文标题:HDFS 操作

      本文链接:https://www.haomeiwen.com/subject/nqibvqtx.html