base64编码处理大文件

发布时间:2020-06-23 23:17:52 作者:16521544193
来源:网络 阅读:1197

在做项目的时候遇到需要将文件转为base64编码,并存储在文件中。

在将文件转为base64编码是会将文件读入内存,进行base64编码,输出到文件中。代码入下:

1
2
3
4
5
6
7
8
9
10
FileInputStream stream = new FileInputStream("D:\\桌面\\程序员-第4版.pdf");
     ByteArrayOutputStream out new ByteArrayOutputStream(1024);
     byte[] b = new byte[1024];
     int n;
     while ((n = stream.read(b)) != -1) {
         out.write(b, 0, n);
     }
     stream.close();
     out.close();
     System.out.println(new String(Base64.encodeBase64(out.toByteArray())));   

  但是大文件在进行base64编码的时候就会遇到OOM(OOM为out of memory的简称,称之为内存溢出)。

  产生OOM的原因:

由于3个常规字符可以转换为4个base64编码字符,所以使用3的公倍数作为缓冲区大小。

所以在对大文件进行base64编码时可以采用分段编码,进行输出。代码入下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
//使用分段上传的读取文件的方式将大文件转换为base64编码数据 官网 www.1b23.com
        ByteArrayOutputStream os1 = new ByteArrayOutputStream();
        InputStream file1 = new FileInputStream("D:\\桌面\\程序员-第4版.pdf");
        byte[] byteBuf = new byte[3 * 1024 * 1024];
        byte[] base64ByteBuf;
        int count1; //每次从文件中读取到的有效字节数
        while ((count1 = file1.read(byteBuf)) != -1) {
            if (count1 != byteBuf.length) {//如果有效字节数不为3*1000,则说明文件已经读到尾了,不够填充满byteBuf了
                byte[] copy = Arrays.copyOf(byteBuf, count1); //从byteBuf中截取包含有效字节数的字节段
                base64ByteBuf = Base64.encodeBase64(copy); //对有效字节段进行编码
            else {
                base64ByteBuf = Base64.encodeBase64(byteBuf);
            }
            os1.write(base64ByteBuf, 0, base64ByteBuf.length);
            os1.flush();
        }
        file1.close();
        System.out.println(os1.toString());

  以上代码是将编码后的数据输出至控制台。其实最好是将文件分段进行编码,分段输出,这样不管文件多大,都可以进行编码,并且不会OOM。以下是将文件输出至txt文档中:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
ByteArrayOutputStream os1 = new ByteArrayOutputStream();
       InputStream file1 = new FileInputStream("D:\\桌面\\程序员-第4版.pdf");
       byte[] byteBuf = new byte[3 * 1024 * 1024];
       byte[] base64ByteBuf;
       int count1; //每次从文件中读取到的有效字节数
       File file = new File("D:\\1.txt");
       while ((count1 = file1.read(byteBuf)) != -1) {
           if (count1 != byteBuf.length) {//如果有效字节数不为3*1000,则说明文件已经读到尾了,不够填充满byteBuf了
               byte[] copy = Arrays.copyOf(byteBuf, count1); //从byteBuf中截取包含有效字节数的字节段
               base64ByteBuf = Base64.encodeBase64(copy); //对有效字节段进行编码
           else {
               base64ByteBuf = Base64.encodeBase64(byteBuf);
           }
           FileUtils.writeByteArrayToFile(file, base64ByteBuf, true); // 将转换后的数据写入文件中,该方法会自动创建文件
           os1.flush();
       }
       file1.close();


推荐阅读:
  1. base64编码-Python
  2. golang编码Base64

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

base64

上一篇:Python 提高元组的可读性

下一篇:大数据对社会工作行业有什么影响

相关阅读

您好,登录后才能下订单哦!

密码登录
登录注册
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》