数据采集

  • Hive On HBase实战详解大数据

    1.概述 HBase是一款非关系型、分布式的KV存储数据库。用来存储海量的数据,用于键值对操作。目前HBase是原生是不包含SQL操作,虽然说Apache Phoenix可以用来操…

    大数据 2021年7月19日
  • Kafka日志压缩剖析详解大数据

    1.概述 最近有些同学在学习Kafka时,问到Kafka的日志压缩(Log Compaction)问题,对于Kafka的日志压缩有些疑惑,今天笔者就为大家来剖析一下Kafka的日志…

    大数据 2021年7月19日
  • Flink消费Kafka到HDFS实现及详解大数据

    1.概述 最近有同学留言咨询,Flink消费Kafka的一些问题,今天笔者将用一个小案例来为大家介绍如何将Kafka中的数据,通过Flink任务来消费并存储到HDFS上。 2.内容…

    大数据 2021年7月19日
  • 如何构建推荐系统详解大数据

    1.概述 最近有被咨询到一些关于推荐系统的问题,今天笔者将为大家分享一些关于如何构建一个推荐系统。 2.内容 2.1 什么是推荐系统? 推荐系统是一种信息过滤系统,它旨在预测用户对…

    大数据 2021年7月19日
  • Kafka SSL安装与配置详解大数据

    1.概述 最近有同学咨询说,Kafka的SSL安全认证如何安装与使用?今天笔者将通过以下几个方面来介绍Kafka的SSL: Kafka 权限介绍 Kafka SSL的安装与使用 K…

    大数据 2021年7月19日
  • 基于用户的协同过滤来构建推荐系统详解大数据

    1.概述 之前介绍了如何构建一个推荐系统,今天给大家介绍如何基于用户的协同过滤来构建推荐的实战篇。 2.内容 协同过滤技术在推荐系统中应用的比较广泛,它是一个快速发展的研究领域。它…

    大数据 2021年7月19日
  • 如何构建一个生产环境的推荐系统详解大数据

    1.概述 前面介绍过什么是推荐系统,以及推荐系统中的用例,比如基于用户的协同过滤来构建推荐系统。今天给大家介绍如何构建一个生产环境的推荐系统。 2.内容 现在互联网上的内容很多,我…

    大数据 2021年7月19日
  • 协同过滤在推荐系统中的应用详解大数据

    1.概述 前面的博客介绍过如何构建一个推荐系统,以及简要的介绍了协同过滤的实现。本篇博客,笔者将介绍协同过滤在推荐系统的应用。推荐系统是大数据和机器学习中最常见、最容易理解的应用之…

    大数据 2021年7月19日
  • Kafka数据每5分钟同步到Hive详解大数据

    1.概述 最近有同学留言咨询Kafka数据落地到Hive的一些问题,今天笔者将为大家来介绍一种除Flink流批一体以外的方式(流批一体下次再单独写一篇给大家分享)。 2.内容 首先…

    大数据 2021年7月19日
  • 预测算法之多元线性回归详解大数据

    1.概述 在机器学习里面,常见的预测算法有以下几种: 简易平均法:包括几何平均法、算数平均法及加权平均法; 移动平均法:包括简单移动平均法和加权移动平均法; 指数平滑法:包括一次指…

    大数据 2021年7月19日