• java对Hadoop进行文件的操作(二)


    本次主要是简单的对Hadoop中HDFS中文件的操作,可自行先添加文件,或者直接上传文件操作实验。

    去不代码如下:

    package hadoop1;
    
    import java.io.FileInputStream;
    import java.io.IOException;
    import java.io.InputStream;
    import java.net.MalformedURLException;
    import java.net.URL;
    
    import org.apache.hadoop.conf.Configuration;
    import org.apache.hadoop.fs.FSDataOutputStream;
    import org.apache.hadoop.fs.FileStatus;
    import org.apache.hadoop.fs.FileSystem;
    import org.apache.hadoop.fs.FsUrlStreamHandlerFactory;
    import org.apache.hadoop.fs.Path;
    import org.apache.hadoop.io.IOUtils;
    
    public class hdfs {
    
        public static void main(String[] args) throws MalformedURLException {
            /*URL url=new URL("http://www.baidu.com");//用URL判断路径
            try {
                InputStream in=url.openStream();//路径打开一个输入流文件
                 IOUtils.copyBytes(in, System.out, 4096,true);//将文件内容拷贝出来
            } catch (IOException e) {
                // TODO Auto-generated catch block
                e.printStackTrace();
            }*/
            
            /*
            URL.setURLStreamHandlerFactory(new FsUrlStreamHandlerFactory());//用URL的方法先建立一个url的工厂
            URL url=new URL("hdfs://192.168.83.100:9000/hello.txt");//获取我们想要文件的路径
            try {
                InputStream in=url.openStream();//文件打开
                 IOUtils.copyBytes(in, System.out, 4096,true);//文件内容输出
            } catch (IOException e) {
                // TODO Auto-generated catch block
                e.printStackTrace();
            }*/
            
            
            
            Configuration conf =new Configuration();//configuration的对象建立
            conf.set("fs.defaultFS", "hdfs://192.168.83.100:9000");//将要访问的路径放入
            try {
                FileSystem fileSystem=FileSystem.get(conf);//获取路径信息
                
                /*boolean success=fileSystem.mkdirs(new Path("/asb"));//判断是否创建一个目录文件
                System.out.println(success);
                
                success=fileSystem.exists(new Path("\hello.txt"));//判断是否存在文件
                System.out.println(success);
                
                success=fileSystem.delete(new Path("/asb"));//删除文件
                System.out.println(success);
                
                success=fileSystem.exists(new Path("/asb"));
                System.out.println(success);*/
                
                /*FSDataOutputStream out =fileSystem.create(new Path("/test.data"),true);//重新创建一个data目录
                FileInputStream fis =new FileInputStream("C:\Users\ZB\Desktop\data\Hamlet.txt");//将桌面文件读入
                IOUtils.copyBytes(fis, out, 4096,true);*///读取放入的文件
                
                /*FSDataOutputStream out =fileSystem.create(new Path("/test.data"),true);//手动添加
                FileInputStream fis =new FileInputStream("C:\Users\ZB\Desktop\data\Hamlet.txt");
                byte[] buf=new byte[4096];//一个字节一个字节的上传
                int len=fis.read(buf);
                while(len!=-1) {
                    out.write(buf,0,len);
                    len=fis.read(buf);
                }
                fis.close();
                out.close();*/
                
                FileStatus[] status=fileSystem.listStatus(new Path("/"));//查找存在根目录下的文件
                for(FileStatus status2 : status) {
                    System.out.println(status2.getPath());//获取地址
                    System.out.println(status2.getPermission());//获取认证信息
                    System.out.println(status2.getReplication());//获取响应
                    
                }
            } catch (IOException e) {
                // TODO Auto-generated catch block
                e.printStackTrace();
            }
             
            
            
                    
                
        }
    }
  • 相关阅读:
    确认端口占用
    [转]自建Syncthing中继服务器(私密传输或造福大众)
    【转】Syncthing – 数据同步利器---自己的网盘,详细安装配置指南,内网使用,发现服务器配置
    【转】搭建和配置Syncthing发现和中继服务器
    【转】Syncthing的安装与使用
    pycrypto安装出错的问题 intmax_t C:Program Files (x86)Windows Kits10include10.0.10240.0ucrtinttypes.
    Git从库中移除已删除大文件
    词云图
    [转].NET 性能测试工具 -- 事件跟踪器(ETW)
    [转]ANTS Performance Profiler和ANTS Memory Profiler 使用
  • 原文地址:https://www.cnblogs.com/qianshuixianyu/p/9319063.html
Copyright © 2020-2023  润新知