cdh吧 关注:44贴子:201
  • 5回复贴,共1

CDH各组件性能指标参考

只看楼主收藏回复

物理节点 x10


IP属地:上海1楼2022-02-15 10:42回复


    IP属地:上海2楼2022-02-15 10:44
    回复
      操作系统 Red Hat 6.5
      JDK jdk1.7.0_67
      CDH 5.10.1
      Hadoop 2.6.0
      Hive 1.1.0
      Impala 2.8.0
      Spark 1.6.0
      Zookeeper 3.4.5
      HBase 1.2.0


      IP属地:上海3楼2022-02-15 10:44
      回复
        1.1 HDFS
        1. 顺序读:单节点吞吐431MB/S
        2. 顺序写:单节点吞吐300MB/S
        1.2 Hive
        1. 数据加载速度:平均导入吞吐量可达到每节点50 MB/s
        2. 数据导出速度:平均导出吞吐量可达到每节点55 MB/s
        3. 单表聚合统计分析:Aggregation处理性能平均性能可达到171MB/S
        4. 多表关联查询速度:Join性能平均性能可达到137MB/S
        1.3 HBase
        1. 随机写速度:节点吞吐量10000条/s;单条记录平均响应时间不高于10ms
        2. 随机读速度:扫描平均每节点吞吐量10000条/s;单条记录平均响应时间不高于10ms
        3. 顺序写速度:节点吞吐量10000 条/s;单条记录平均响应时间不高于10ms
        4. 顺序读速度:顺序扫描平均每节点吞吐量10000条/s;单条记录平均响应时间不高于10ms
        5. 并发顺序读速度:顺序扫描平均每节点吞吐量30000条/s;单条记录平均响应时间不高于50ms
        6. 并发随机读速度:100%随机读,平均每节点吞吐量30000条/s;单条记录平均响应时间不高于50ms
        7. 并发随机写速度:100%随机写,平均每节点吞吐量30000条/s;单条记录平均响应时间不高于50ms
        1.4 MapReduce
        1. MapReduce入库能力:导入吞吐量可达到平均每节点300 MB/s
        2. WordCount:平均每节点85MB/S
        3. Terasort排序:平均每节点85MB/S
        1.5 Spark
        1. Sort:单节点吞吐130MB/S
        2. Terasort:单节点吞吐161MB/S
        3. Wordcount:单节点吞吐687MB/S
        4. ScalaSparkJoin:单节点吞吐227MB/S
        5. K-mean:平均每节点200MB/分钟
        6. Bayesian:平均每节点200MB/分钟
        1.6 Impala
        1. 聚合或者关联查询:单节点吞吐超过1GB/S
        2. 单节点最小支持作业并发数20


        IP属地:上海4楼2022-02-15 10:45
        回复


          IP属地:上海来自Android客户端5楼2022-02-18 09:36
          回复
            顶🔝


            IP属地:上海来自Android客户端6楼2022-05-29 17:28
            回复