大数据

  • 集算器实现外部数据并行计算

      文本并行 SPL可将文本文件按体积大致分为N段,只读取其中一段。比如cardInfo.txt存储着一千万条人口信息,将其分为十份,取第二份,代码可以写作: A B 1 =file("d://temp//cardInfo千万.txt") 2 =A1.import@t(;2…

    大数据 2021年11月16日
  • web app 、native app、hybrid app比较

    app的分类大致可以分为这3种:native app(原生app)web apphybrid app(混合app) Native App 指的是移动端的原生应用,对于 Android 是 apk,对于 iOS 就是 ipa。Native App 是一种基于手机操作系统(iOS 和 Andro…

    大数据 2021年11月16日
  • webbench压力测试工具

    webbench由Lionbridge公司开发,主要测试每秒钟请求数和每秒钟数据传输量,同时支持静态、动态、SSL部署简单,静动态均可测试。适用于小型网站压力测试。最多可以模拟3万个并发连接去测试网站的负载能力,感觉要比A…

    大数据 2021年11月16日
  • Hadoop 系列(一)—— 分布式文件系统 HDFS

    一、介绍 HDFS (Hadoop Distributed File System)是 Hadoop 下的分布式文件系统,具有高容错、高吞吐量等特性,可以部署在低成本的硬件上。 二、HDFS 设计原理 2.1 HDFS 架构 HDFS 遵循主/从架构,由单个 NameNod…

    大数据 2021年11月16日
  • 0014-Hive中的Timestamp类型日期与Impala中显示不一致分析

    温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。 1.问题描述 Hive表中存储的Timestamp类型的字段显示日期与Impala中查询出来的日期不一致。 2.问题复现 1.创建一个简单的测试表 2.向表中插入一条…

    大数据 2021年11月16日
  • hadoop MR 统计分析日志脚本一例

    #! /bin/sh ############################ #split today and yesterday for i in $(seq 10) do   echo " " >> /u1/hadoop-stat/stat.log done echo "begin["`date "+%Y-%m-%d" -d "-1 days"`"]" >&gt…

    大数据 2021年11月16日
  • 移动app测试方案及流程&测试点归纳

    移动app测试方案及流程 1.首先是测试 资源确认及准备 (1)产品需求文档,产品原型图 ,接口说明文档及设计文档应该齐全 (2)测试设备及测试工具 的准备:IOS和android的不同年版本的真机,以及测试相关工具的准备…

    大数据 2021年11月16日
  • Beam 超实用examples之Pi值计算

    Beam Pi值计算 Beam刚刚开源不是很久,快2个月了。目前的版本是0.5.0版本。官方的源码中提供了4个examples.无奈这四个案例都只是WordCount的四种不同的实现。作为一个从Spark进入大数据殿堂的笔者来说,用过n多次的…

    大数据 2021年11月16日
  • Kafka笔记整理(二):Kafka Java API使用

    [TOC] 下面的测试代码使用的都是下面的topic: $ kafka-topics.sh --describe hadoop --zookeeper uplooking01:2181,uplooking02:2181,uplooking03:2181 Topic:hadoop PartitionCount:3 ReplicationFactor:3 Config…

    大数据 2021年11月16日
  • CDH版本Hadoop下载

    下载地址:http://archive.cloudera.com/cdh6/cdh/5/你想下载得tgz包示例:http://archive.cloudera.com/cdh6/cdh/5/hadoop-2.6.0-cdh6.14.0.tar.gz建议:首先在 http://archive.cloudera.com/cdh6/cdh/5 版本库下…

    大数据 2021年11月16日