• Hadoop 基准测试与example


    #pi值示例
    hadoop jar /app/cdh23502/share/hadoop/mapreduce2/hadoop-mapreduce-examples-2.3.0-cdh5.0.2.jar pi 20 200
    #生成数据 第一个参数是行数 第二个参数是位置
    hadoop jar /app/cdh23502/share/hadoop/mapreduce2/hadoop-mapreduce-examples-2.3.0-cdh5.0.2.jar teragen 1000000 /teradata
    #指定了使用的map数,默认是2个
    hadoop jar /app/cdh23502/share/hadoop/mapreduce2/hadoop-mapreduce-examples-2.3.0-cdh5.0.2.jar teragen -Dmapred.map.tasks=10 1000000 /terasort
    #测试排序的功能
    hadoop jar /app/cdh23502/share/hadoop/mapreduce2/hadoop-mapreduce-examples-2.3.0-cdh5.0.2.jar terasort  /teradata /terasortout
    #测试HDFS 写文件基准测试
    hadoop jar /app/cdh23502/share/hadoop/mapreduce2/hadoop-mapreduce-client-jobclient-2.3.0-cdh5.0.2-tests.jar TestDFSIO -write -nrFiles 10 -fileSize 100

    现在使用的这个版本是hadoop-2.3cdh5.0.2

    在执行任务的时候,发现nodemanager里面有很多container明明是成功完成的,但是在前面还是会产生类似container被appmaster killed , exit with non zero code 143

    这样的日志,让我非常疑惑,在web ui的页面也是能看到这样的,但整个任务跑完之后在web页面就看不到了。

    后来在网上搜索,发现这是yarn的一个bug.

    关于如何打补丁的学习,使用patch命令打补丁,patch需要安装。

    然后重新编译模块,然后替换相关的jar包即可。

  • 相关阅读:
    ​综述 | SLAM回环检测方法
    从零开始一起学习SLAM | 用四元数插值来对齐IMU和图像帧
    2019-2020年值得关注的9个AR发展趋势
    计算机视觉方向简介 | 图像拼接
    “人工智能资源对接平台”发布,找人、找技术不再难!
    解决上不了网的特例
    机械键盘简介
    笔记本升级方案
    CSS构造表单
    CSS构造表格
  • 原文地址:https://www.cnblogs.com/huaxiaoyao/p/5037516.html
Copyright © 2020-2023  润新知