type
status
date
slug
summary
tags
category
icon
password
😀
这里写文章的前言: 一个简单的开头,简述这篇文章讨论的问题、目标、人物、背景是什么?并简述你给出的答案。
可以说说你的故事:阻碍、努力、结果成果,意外与转折。
 

📝 下载包准备

hadoop下载

选择我们对应的hadoop版本;比如我这里是是3.1.1就选择3.1.1
 
notion image
 
 

win10 需要的脚本下载

选择我们对应的hadoop的版本
notion image
 
 

对应版本的脚本拷贝

操作一

将 hadoop.ddl 和 winutils.exe 拷贝到 下载的hadoop的版本的bin中
notion image
 
 

操作二

将 hadoop.ddl 文件同时拷贝一份到 C:\Windows\System32 目录
notion image
 
 
 

操作三

配置hadoop中的etc\hadoop的 hadoop-env.cmd 文件的java地址;切换为自己的java路径;
如果是C盘的话,Program Files需要替换为 PROGRA~1 ; 如下
 
notion image
 
 

操作四: 配置环境变量

HADOO_HOME配置
 
notion image
 
PATH中配置%HADOOP_HOME%\bin
notion image
 
 
 

操作五:测试是否成功

cmd中输入hadoop version;如果可以看到版本,就说明配置是成功的
 
notion image
 
 
 

操作hdfs以及Iceberg

注意点:

  1. 通过iceberg和hive去读取hdfs的时候,会读取集群的名字;所以这里需要配置根据集群的名字能映射到NameNode(状态为Active的最保险)
  1. 比如这里的usdp215对应的active namenode是 172.21.129.218 节点的话;则在host里进行配置即可
  1. 到底就可以通过iceberg或者hdfs等api在win10上读取hadoop的数据等
 
notion image
 
 
 
notion image
 
 
 
notion image
 

🤗 总结归纳

📎 参考文章

 
💡
有关文章的问题,欢迎您在底部评论区留言,一起交流~