Hadoop大数据从入门到实战（二）分布式文件系统HDFS

您的位置：上海毫米网络优化公司 > 小程序 > 百度小程序 >

第1关：HDFS的基本操作

任务描述

本关任务：使用Hadoop命令来操作分布式文件系统。

编程要求

在右侧命令行中启动Hadoop，进行如下操作。

在HDFS中创建/usr/output/文件夹；
在本地创建hello.txt文件并添加内容：“HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。”；
将hello.txt上传至HDFS的/usr/output/目录下；
删除HDFS的/user/hadoop目录；
将Hadoop上的文件hello.txt从HDFS复制到本地/usr/local目录。
测试说明

平台会查看你本地的文件和HDFS的文件是否存在，如果存在，则会将其内容输出到控制台。

预期输出：

HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。

HDFS的块比磁盘的块大，其目的是为了最小化寻址开销。

代码
```
start-dfs.sh
hadoop fs -mkdir /usr
hadoop fs -mkdir /usr/output
vim hello.txt
hadoop fs -put hello.txt /usr/output
hadoop fs -rm -r /user/hadoop
hadoop fs -copyToLocal /usr/output/hello.txt /usr/local
```
截图

第2关：HDFS-JAVA接口之读取文件

任务描述

本关任务：使用HDFS的Java接口进行文件的读写，文件uri地址为hdfs://localhost:9000/user/hadoop/task.txt。

编程要求

在右侧代码编辑区中编写代码实现如下功能：
- 使用FSDataInputStream获取HDFS的/user/hadoop/目录下的task.txt的文件内容，并输出，其中uri为hdfs://localhost:9000/user/hadoop/task.txt。
  测试说明
  
  点击评测，平台会通过脚本创建/user/hadoop/task.txt文件并添加相应内容，无需你自己创建，开启hadoop，编写代码点击评测即可。因为Hadoop环境非常消耗资源，所以你如果一段时间不在线，后台会销毁你的镜像，之前的数据会丢失（你的代码不会丢失），这个时候需要你重新启动Hadoop。
  
  预期输出： WARN [main] - Unable to load native-hadoop library for your platform... using builtin-java classes where applicable 怕什么真理无穷，进一寸有一寸的欢喜。
  
  第一行打印出来的是log4j的日志警告，可以忽略。
  
  代码
```
//请在Begin-End之间添加你的代码，完成任务要求。
/********* Begin *********/
URI uri = URI.create("hdfs://localhost:9000/user/hadoop/task.txt");
Configuration config = new Configuration();
FileSystem fs = FileSystem.get(uri, config);
InputStream in = null;
try{
    in = fs.open(new Path(uri));
    IOUtils.copyBytes(in,System.out,2048,false);
}catch(Exception e){
    IOUtils.closeStream(in);
}
/********* End *********/
```
  截图
  
  第3关：HDFS-JAVA接口之上传文件
  
  任务描述
  
  本关任务：使用HDFSAPI上传文件至集群。
  
  编程要求
  
  在右侧代码编辑区和命令行中，编写代码与脚本实现如下功能：
  - 在/develop/input/目录下创建hello.txt文件，并输入如下数据：迢迢牵牛星，皎皎河汉女。纤纤擢素手，札札弄机杼。终日不成章，泣涕零如雨。河汉清且浅，相去复几许？盈盈一水间，脉脉不得语。《迢迢牵牛星》
  - 使用FSDataOutputStream对象将文件上传至HDFS的/user/tmp/目录下，并打印进度。
    
    测试说明
    
    平台会运行你的java程序，并查看集群的文件将文件信息输出到控制台，第一行属于警告信息可以忽略。
    
    预期输出：
    
    代码
```
//请在 Begin-End 之间添加代码，完成任务要求。
        /********* Begin *********/
		File localPath = new File("/develop/input/hello.txt");
        String hdfsPath = "hdfs://localhost:9000/user/tmp/hello.txt";
        InputStream in = new BufferedInputStream(new FileInputStream(localPath));
        Configuration conf = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(hdfsPath),conf);
        long fileSize = localPath.length() > 65536 ? localPath.length() / 65536 : 1;
        FSDataOutputStream out = fs.create(new Path(hdfsPath),new Progressable(){
            long fileCount = 0;
            public void progress(){
                System.out.println("总进度"+(fileCount / fileSize) * 100 + "%");
                fileCount++;
            }
        });
		IOUtils.copyBytes(in,out,2048,true);
		
		
		/********* End *********/
```
    截图
    
    第4关：HDFS-JAVA接口之删除文件
    
    任务描述
    
    本关任务：删除HDFS中的文件和文件夹。
    
    编程要求
    
    在右侧代码区填充代码，实现如下功能：
    - 删除HDFS的/user/hadoop/目录（空目录）；
    - 删除HDFS的/tmp/test/目录（非空目录）；
    - 列出HDFS根目录下所有的文件和文件夹；
    - 列出HDFS下/tmp/的所有文件和文件夹。
      测试说明
      
      HDFS的文件夹在你点击评测是会通过脚本自动创建，不需要你自己创建哦，依照题意编写代码点击评测即可。
      
      预期输出：
      
      代码
```
//请在 Begin-End 之间添加代码，完成本关任务。
        /********* Begin *********/
        String uri = "hdfs://localhost:9000/";
        String path1 = "hdfs://localhost:9000/user/hadoop";
        String path2 = "hdfs://localhost:9000/tmp/test";
        Configuration config = new Configuration();
        FileSystem fs = FileSystem.get(URI.create(uri),config);
        fs.delete(new Path(path1),true);
        fs.delete(new Path(path2),true);
        Path[] paths = {new Path(uri),new Path("hdfs://localhost:9000/tmp")};
        FileStatus[] status = fs.listStatus(paths);
        Path[] listPaths = FileUtil.stat2Paths(status);
 
        for(Path path : listPaths){
            System.out.println(path);
        }
 
        /********* End *********/
```
      截图