java如何将hdfs文件下载到本地
短信预约 -IT技能 免费直播动态提醒
可以使用FileSystem
类和FSDataInputStream
类来实现将HDFS文件下载到本地。
import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.FileSystem;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.fs.FSDataInputStream;
import org.apache.hadoop.fs.FSDataOutputStream;
public class DownloadHDFSFile {
public static void main(String[] args) {
try {
Configuration conf = new Configuration();
conf.set("fs.defaultFS", "hdfs://localhost:8020");
FileSystem fs = FileSystem.get(conf);
Path hdfsFilePath = new Path("/path/to/hdfs/file");
Path localFilePath = new Path("/path/to/local/file");
FSDataInputStream in = fs.open(hdfsFilePath);
FSDataOutputStream out = new FSDataOutputStream(new FileOutputStream(localFilePath), null);
byte[] buffer = new byte[1024];
int bytesRead;
while ((bytesRead = in.read(buffer)) > 0) {
out.write(buffer, 0, bytesRead);
}
in.close();
out.close();
fs.close();
System.out.println("HDFS file downloaded successfully.");
} catch (Exception e) {
e.printStackTrace();
}
}
}
在上面的代码中,首先创建了一个Configuration
对象,设置了HDFS的配置信息。然后通过FileSystem.get(conf)
方法获取一个FileSystem
对象,用来操作HDFS文件系统。
接着指定需要下载的HDFS文件的路径hdfsFilePath
和本地文件的路径localFilePath
。使用fs.open(hdfsFilePath)
方法打开HDFS文件,并创建一个FSDataOutputStream
对象来写入本地文件。
然后使用一个循环读取HDFS文件的内容,并写入本地文件,直到文件读取完毕。最后关闭输入流、输出流和文件系统对象,完成文件下载操作。
请注意,需要在项目中引入Hadoop的相关依赖包,以便能够正常编译和运行上面的代码。
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341