Hadoop学习--通过API上传文件--day04

发布时间:2020-07-05 23:00:30 作者:zhicx
来源:网络 阅读:315

import java.io.BufferedInputStream;

import java.io.BufferedOutputStream;

import java.io.ByteArrayOutputStream;

import java.io.FileInputStream;

import java.io.InputStream;

import java.net.URL;


import org.apache.hadoop.conf.Configuration;

import org.apache.hadoop.fs.FSDataInputStream;

import org.apache.hadoop.fs.FSDataOutputStream;

import org.apache.hadoop.fs.FileSystem;

import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;

import org.apache.hadoop.fs.Path;

import org.apache.hadoop.io.IOUtils;

import org.junit.Test;


/**

 * 通过API实现文件上传

 * @author Administrator

 *

 */

public class putfile {


/**

* 通过API上传数据

* @author Administrator

* [hadoop@hadoop01 ~]$ hdfs dfs -chmod -R a+w /user/hadoop

* [hadoop@hadoop01 ~]$ hdfs dfs -ls -R /

*

*/

@Test

public void putFile() throws Exception {

//创建configuration对象,有个默认的加载顺序,先从core-default.xml,再到src目录中的文件,这里

//我们给定了

        Configuration conf = new Configuration();

//通过conf的configuration对象创建了该分布式文件系统fs,默认如果不指定文件的话为本地文件系统

        FileSystem fs = FileSystem.get(conf);

        //定义一个URL的字符串,上传文件的目录

        String file = "hdfs://hadoop01:9000/user/hadoop/data2/shengfenzhao.jpg";

        //通过一个URL的字符串构建一个path对象

        Path path = new Path(file);

        FSDataOutputStream out = fs.create(path);

        IOUtils.copyBytes(new FileInputStream("E:/zhaopian.jpg"), out, 1024);

        //其他方法一

//        byte[] bys = new byte[1024];

//        int len = 0;

//        while((len = (new FileInputStream("E:/zhaopian.jpg")).read(bys)) !=-1) {

//         out.write(bys, 0, len);

//        }

        //其他方法二

//        BufferedInputStream bis = new BufferedInputStream(new FileInputStream("E:/zhaopian.jpg"));

//        BufferedOutputStream bos = new BufferedOutputStream(out);

//        int len =0;

//        while((len=bis.read())!=-1){

//         bos.write(len);

//        }

   }

}


推荐阅读:
  1. Hadoop学习--通过配置文件修改文件副本数块大小--day04
  2. Hadoop学习--seek重定位流--day04

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

api 上传文件 hadoop

上一篇:php求今天零点的时间缀

下一篇:Fragment的学习

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》