数据采集

准备测试数据 测试数据包括两个文件dept（部门）和emp（员工），其中各字段用逗号分隔： dept文件内容： 10,ACCOUNTING,NEW YORK 20,RES…

问题分析求各个部门的人数和平均工资，需要得到各部门工资总数和部门人数，通过两者相除获取各部门平均工资。首先和问题1类似在Mapper的Setup阶段缓存部门数据，然后在Mapper…

问题分析MapReduce中的join分为好几种，比如有最常见的 reduce side join、map side join和semi join 等。reduce join 在s…

在本例中，我们仍然采用上一例中的数据文件。之所以存在reduce side join，是因为在map阶段不能获取所有需要的join字段，即：同一个key对应的字段可能位于不同map…

    Job job = new Job(conf, “MaxTemperature”);    job…

1：最简单的过程： 　　Map – Reduce 2：定制了partitioner以将map的结果写到相应的分区，以供对应的reducer下载： 　　Map &#821…

一、前言        Hive是Hadoop上的数据仓库框架，其设计目的是让精通SQL技能（但Java编程技能相对较弱…

Shuffle过程是MapReduce的核心，也被称为奇迹发生的地方。要想理解MapReduce， Shuffle是必须要了解的。我看过很多相关的资料，但每次看完都云里雾里的绕着，…

       最近在准备抽取数据的工作。有一个id集合200多M，要从另一个500GB的数据集合中抽取出所有id集合中包…

一.Mongodb 在windows下的安装 下载：https://www.mongodb.org/downloads#production 我们使用 .msi 类型的文件安装根据…