微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

hadoop fs 常用命令

查询hdfs系统的目录结构:
hadoop fs -ls /test/gonganbu/scene_analysis_suggestion/*

随机返回指定行数的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | shuf -n 5

返回前几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | head -100

返回最后几行的样本数据
hadoop fs -cat /test/gonganbu/scene_analysis_suggestion/* | tail -5

查看文本行数
hadoop fs -cat hdfs://172.16.0.226:8020/test/sys_dict/sysdict_case_type.csv |wc -l

查看文件大小(单位byte)
hadoop fs -du hdfs://172.16.0.226:8020/test/sys_dict/* 返回文件大小(单位为byte)

hadoop fs -du -h /t_user/my_hive_db/my_hive_table_test01 返回文件大小(单位为可为K\M\G反正保留一位小数)

在这里插入图片描述

hadoop fs -du /test 统计test目录下各文件大小

在这里插入图片描述


hadoop fs -du -s /test 统计test目录下所有文件大小

在这里插入图片描述


hadoop fs -count hdfs://172.16.0.226:8020/test/sys_dict/* 统计文件行数

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 [email protected] 举报,一经查实,本站将立刻删除。

相关推荐