当前位置: 首页 > news >正文

Spark,上传文件

上传文件

1.上传

先使用命令打开HDFS的NameNode

[root@hadoop100 hadoop-3.1.3]$ sbin/start-dfs.sh

[root@hadoop100 hadoop-3.1.3]$ sbin/stop-dfs.sh

和YARN的Job

[root@hadoop101 hadoop-3.1.3]$ sbin/start-yarn.sh

[root@hadoop101 hadoop-3.1.3]$ sbin/stop-yarn.sh

NameNode上上<128M文件时可直接上传当文件>128M时会将这个大文件拆分为多个小文件上传

随机创建一个小文件在NameNode上上传操作如下:

在FinalShell上用命令上传文件就是

上传小文件(小于128M)

[root@hadoop100 ~]$ hadoop fs -mkdir /input

[root@hadoop100 ~]$ hadoop fs -put $HADOOP_HOME/wcinput/word.txt /input

上传大文件(大于128M)

[root@hadoop100 ~]$ hadoop fs -put  /opt/software/jdk-8u212-linux-x64.tar.gz  /

上传的文件下载下来…可直接在页面上下载

2.在yarn上查看上传的文件

[root@hadoop101 ~]$ cd /opt/modele/hadoop-3.1.3

[root@hadoop101 ~]$ hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-3.1.3.jar wordcount /wcinput /output

刷新yarn即可查看


http://www.mrgr.cn/news/96627.html

相关文章:

  • HTML中数字和字母不换行显示
  • 数据结构和算法(十一)--图
  • 去中心化稳定币机制解析与产品策略建议
  • ros2--xacro
  • Python-八股总结
  • 【群智能算法改进】一种改进的蜣螂优化算法IDBO[3](立方混沌映射Cubic、融合鱼鹰勘探策略、混合高斯柯西变异)【Matlab代码#92】
  • 【MVC简介-产生原因、演变历史、核心思想、组成部分、使用场景】
  • 【Pandas】pandas Series to_markdown
  • 六种光耦综合对比——《器件手册--光耦》
  • 十五届蓝桥杯省赛Java B组(持续更新..)
  • ISIS【路由协议讲解】-通俗易懂!
  • 汇编学习之《数据传输指令》
  • Sentinel[超详细讲解]-1
  • JAVASE(十二)常用类(一)Object类
  • HTML实现图片上添加水印的工具
  • 使用大语言模型进行Python图表可视化
  • 高级java每日一道面试题-2025年3月20日-虚拟化操作系统篇[Docker篇]-如何控制docker容器的启动顺序?
  • 网络攻防快速入门笔记pwn|01 Pwn栈溢出基础
  • 戴尔电脑安装Ubuntu双系统
  • Adobe Lightroom 2025安装下载和激活指南