数据分析
-
Spark项目之电商用户行为分析大数据平台之(六)用户访问session分析模块介绍详解大数据
一、对用户访问session进行分析 1、可以根据使用者指定的某些条件,筛选出指定的一些用户(有特定年龄、职业、城市); 2、对这些用户在指定日期范围内发起的session,进行聚…
-
Spark项目之电商用户行为分析大数据平台之(七)数据调研–基本数据结构介绍详解大数据
一、user_visit_action(Hive表) 1.1 表的结构 date:日期,代表这个用户点击行为是在哪一天发生的user_id:代表这个点击行为是哪一个用…
-
Spark项目之电商用户行为分析大数据平台之(八)需求分析详解大数据
1、按条件筛选session 搜索过某些关键词的用户、访问时间在某个时间段内的用户、年龄在某个范围内的用户、职业在某个范围内的用户、所在某个城市的用户,发起的session。找到对…
-
Spark项目之电商用户行为分析大数据平台之(九)表的设计详解大数据
一、概述 数据设计,往往包含两个环节: 第一个:就是我们的上游数据,就是数据调研环节看到的项目基于的基础数据,是否要针对其开发一些Hive ETL,对数据进行进一步的处理和转换,从…
-
Spark项目之电商用户行为分析大数据平台之(十)IDEA项目搭建及工具类介绍详解大数据
一、创建Maven项目 创建项目,名称为LogAnalysis 二、常用工具类 2.1 配置管理组建 ConfigurationManager.java 1 import java…
-
Spark项目之电商用户行为分析大数据平台之(十一)JSON及FASTJSON详解大数据
一、概述 JSON的全称是”JavaScript Object Notation”,意思是JavaScript对象表示法,它是一种基于文本,独立于语言的轻量级数据交换格式…
-
Spark项目之电商用户行为分析大数据平台之(十二)Spark上下文构建及模拟数据生成详解大数据
一、模拟生成数据 1 package com.bw.test; 2 3 import java.util.ArrayList; 4 import java.util.Arrays;…
-
HBase学习之路 (一)HBase基础介绍详解大数据
产生背景 自 1970 年以来,关系数据库用于数据存储和维护有关问题的解决方案。大数据的出现后, 好多公司实现处理大数据并从中受益,并开始选择像 Hadoop 的解决方案。Hado…
-
HBase学习之路 (二)HBase集群安装详解大数据
前提 1、HBase 依赖于 HDFS 做底层的数据存储 2、HBase 依赖于 MapReduce 做数据计算 3、HBase 依赖于 ZooKeeper 做服务协调 4、HBa…