当前位置: 首页 > news >正文

hadoop的MapReduce提交任务到yarn实操

1.计算单词数:

   一:创建文件夹供放入要计算的文件   hadoop fs -mkdir -p /input

   二:创建计算结果输出的文件夹   hadoop fs -mkdir -p /output

    三:向hdfs文件系统提交要计算的文件:  hadoop fs -put ./word.txt /input/

    四:运行jar包:

命令:hadoop jar /export/server/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.4.0.jar wordcount hdfs://wtk:8020/input hdfs://wtk:8020/output/wc

(红色为必须,后面跟着运行程序名(自己定),后面跟着文件路径和计算结果存放路径)

    五:yarn查看程序资源

    六:hdfs文件系统检查

OK的,没问题

2.计算pi值:

      一:命令: hadoop jar /export/server/hadoop/share/hadoop/mapreduce/hadoop-mapreduce-examples-3.4.0.jar pi  3 1000

    二:yarn查看资源调度(加上查看日志)

发现logs端口号在19888

    三:查看计算结果:


http://www.mrgr.cn/news/54769.html

相关文章:

  • android 与网页交互通过网页修改宿主布局和异常处理——未来之窗行业应用跨平台架构
  • Vue2、Vue3温习解惑知识点
  • 035_基于php助农生鲜销售系统的设计与实现
  • 开源运维软件适用性评估:多维度视角下的理性选择
  • 开启RefCell debug_refcell feature查看借用冲突位置
  • Java抽象类
  • 【Redis】数据结构(下)
  • fftw 的安装与编译
  • 算法题——二分查找类型题大全
  • java实现文件变动监听
  • vulnhub靶场之JOY
  • 提示词高级阶段学习day2.1-在提示词编写中对{}的使用教程
  • 卷积神经网络
  • R语言中的stat_compare_means():如何解决anova目标对象的方法问题
  • 我对需求分析的理解
  • DockerCompose快速部署Java项目、nginx前端和mysql数据库到centos虚拟机
  • ES6 中函数参数的默认值
  • protobuf 未知字段的获取
  • gc cr/current block 2-way
  • 【MySQL】内外连接
  • 2024年深圳福田区第十二届职工技能大比武职业技能竞赛圆满收官
  • Vue-router 路由守卫执行流程图
  • 光纤光学的基本方程
  • 【MySQL】:库的操作
  • 【力扣打卡系列】滑动窗口与双指针(接雨水)
  • 【Maven】一篇带你了解Maven项目管理工具