微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

hdfs实现思想机制及hdfs shell

hdfs的实现思想:
1.hdfs是通过分布式集群存储文件,为客户端提供了一个便捷的访问方式,即虚拟的访问目录结构
2.文件存储到hdfs集群中去的时候是被切分成block(文件数据)的
3.文件的block存放在若干台datanode节点上
4.hdfs文件系统中的文件与真实的block之间有映射关系,由namenode进行管理
5.每一个block在集群中会存储多个副本,好处是可以提高数据的可靠性,还可以提高访问的吞吐量/并发能力

1.HDFS shell
    1.0查看帮助
        hadoop fs -help <cmd>
    1.1上传
        hadoop fs -put <linux上文件> <hdfs上的路径>
    1.2查看文件内容
        hadoop fs -cat <hdfs上的路径>
    1.3查看文件列表
        hadoop fs -ls /
    1.4下载文件
        hadoop fs -get <hdfs上的路径> <linux上文件>
    1.5查看磁盘空间
        hadoop fs -df -h <hdfs上的路径>
    1.6查看目录或目录下文件的大小
        hadoop fs -du -s -h <必须指明是hdfs的路径 hdfs:xxx:9000/,否则会认为是Linux服务器路径>
    1.7创建目录
         hadoop fs -mkdir 
         注:不会级联创建文件夹,若是级联文件夹,需要自己创建
    1.8删除没有数据的空目录
         hadoop fs -rmdir <文件名>
    1.9实时刷新看文件尾部
          hadoop fs -tail -f <文件名> 

mqingo 发布了442 篇原创文章 · 获赞 86 · 访问量 23万+ 他的留言板 关注

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐