java操作hdfs

Wesley13
• 阅读 674
  1 package hdfs;
  2 
  3 import java.io.FileNotFoundException;
  4 import java.io.IOException;
  5 import java.net.URI;
  6 
  7 import org.apache.hadoop.conf.Configuration;
  8 import org.apache.hadoop.fs.FileStatus;
  9 import org.apache.hadoop.fs.FileSystem;
 10 import org.apache.hadoop.fs.LocatedFileStatus;
 11 import org.apache.hadoop.fs.Path;
 12 import org.apache.hadoop.fs.RemoteIterator;
 13 import org.junit.Before;
 14 import org.junit.Test;
 15 
 16 public class HdfsClientEasy {
 17 
 18     private FileSystem fs = null;
 19 
 20     @Before
 21     public void getFs() throws Exception {
 22 
 23         // 拿到一个配置参数的封装对象,构造函数中就会对classpath下的xxx-site.xml文件进行解析
 24         // 真实的项目工程中就应该把xxx-site.xml文件加入到工程中来
 25         Configuration conf = new Configuration();
 26         // to set a parameter, figure out the filesystem is hdfs
 27         conf.set("fs.defaultFS", "hdfs://localhost:8000/");
 28         conf.set("dfs.replication", "1");
 29 
 30         // 获取到一个具体文件系统的客户端实例对象,产生的实例究竟是哪一种文件系统的客户端,是根据conf中的相关参数来决定
 31 //        fs = FileSystem.get(conf);
 32         
 33         //这种获取fs的方法可以指定访问hdfs的客户端身份
 34         fs = FileSystem.get(new URI("hdfs://localhost:8000/"), conf, "wochu");
 35 
 36     }
 37 
 38     /**
 39      * 上传文件
 40      * 
 41      * @throws IllegalArgumentException
 42      * @throws IOException
 43      */
 44     @Test
 45     public void testUpload() throws IllegalArgumentException, IOException {
 46         fs.copyFromLocalFile(new Path("/Users/wochu/Desktop/tool/hdfs/test.txt"), new Path("/xue"));
 47 
 48     }
 49 
 50     /**
 51      * 删除文件
 52      * 
 53      * @throws IllegalArgumentException
 54      * @throws IOException
 55      */
 56     @Test
 57     public void testRmfile() throws IllegalArgumentException, IOException {
 58 
 59         boolean res = fs.delete(new Path("/xue"), true);
 60 
 61         System.out.println(res ? "delete is successfully :)"
 62                 : "it is failed :(");
 63 
 64     }
 65 
 66     /**
 67      * 创建文件夹
 68      * 
 69      * @throws IllegalArgumentException
 70      * @throws IOException
 71      */
 72     @Test
 73     public void testMkdir() throws IllegalArgumentException, IOException {
 74         fs.mkdirs(new Path("/xue"));
 75 
 76     }
 77 
 78     /**
 79      * 重命名文件
 80      * 
 81      * @throws IllegalArgumentException
 82      * @throws IOException
 83      */
 84     @Test
 85     public void testRename() throws IllegalArgumentException, IOException {
 86 
 87         fs.rename(new Path("/xue/test.txt"), new Path("/xue/rename.txt"));
 88 
 89     }
 90 
 91     /**
 92      * 列出目录下的文件信息
 93      * 
 94      * @throws FileNotFoundException
 95      * @throws IllegalArgumentException
 96      * @throws IOException
 97      */
 98     @Test
 99     public void testListFiles() throws FileNotFoundException,
100             IllegalArgumentException, IOException {
101 
102         // 递归列出文件
103         RemoteIterator<LocatedFileStatus> listFiles = fs.listFiles(
104                 new Path("/"), true);
105 
106         while (listFiles.hasNext()) {
107 
108             LocatedFileStatus file = listFiles.next();
109 
110             System.out.println(file.getPath().getName());
111 
112         }
113 
114         System.out.println("--------------------------------------------");
115 
116         // 列出文件及文件夹
117         FileStatus[] status = fs.listStatus(new Path("/"));
118         for (FileStatus file : status) {
119 
120             System.out.println(file.getPath().getName() + "   "
121                     + (file.isDirectory() ? "d" : "f"));
122 
123         }
124 
125     }
126 
127     /**
128      * 从hdfs中下载数据到本地
129      * 
130      * @throws IllegalArgumentException
131      * @throws IOException
132      */
133     @Test
134     public void testDownload() throws IllegalArgumentException, IOException {
135 
136         fs.copyToLocalFile(new Path("/xue/rename.txt"), new Path("/Users/wochu/Desktop/tool/hdfs/name.txt"));
137 
138     }
139 
140 }
点赞
收藏
评论区
推荐文章
blmius blmius
3年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
待兔 待兔
4个月前
手写Java HashMap源码
HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程HashMap的使用教程22
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
Wesley13 Wesley13
3年前
mysql设置时区
mysql设置时区mysql\_query("SETtime\_zone'8:00'")ordie('时区设置失败,请联系管理员!');中国在东8区所以加8方法二:selectcount(user\_id)asdevice,CONVERT\_TZ(FROM\_UNIXTIME(reg\_time),'08:00','0
Wesley13 Wesley13
3年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
3年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Stella981 Stella981
3年前
Docker 部署SpringBoot项目不香吗?
  公众号改版后文章乱序推荐,希望你可以点击上方“Java进阶架构师”,点击右上角,将我们设为★“星标”!这样才不会错过每日进阶架构文章呀。  !(http://dingyue.ws.126.net/2020/0920/b00fbfc7j00qgy5xy002kd200qo00hsg00it00cj.jpg)  2
Wesley13 Wesley13
3年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Python进阶者 Python进阶者
10个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这