区块链

  • Hive SQL 监控系统 – Hive Falcon详解大数据

    1.概述   在开发工作当中,提交 Hadoop 任务,任务的运行详情,这是我们所关心的,当业务并不复杂的时候,我们可以使用 Hadoop 提供的命令工具去管理 YARN 中的任务…

    大数据 2021年7月19日
  • Hive Streaming 追加 ORC 文件详解大数据

    1.概述   在存储业务数据的时候,随着业务的增长,Hive 表存储在 HDFS 的上的数据会随时间的增加而增加,而以 Text 文本格式存储在 HDFS 上,所消耗的容量资源巨大…

    大数据 2021年7月19日
  • Kafka Offset Storage详解大数据

    1.概述   目前,Kafka 官网最新版[0.10.1.1],已默认将消费的 offset 迁入到了 Kafka 一个名为 __consumer_offsets 的To…

    大数据 2021年7月19日
  • Apache Arrow 内存数据详解大数据

    1.概述   Apache Arrow 是 Apache 基金会全新孵化的一个顶级项目。它设计的目的在于作为一个跨平台的数据层,来加快大数据分析项目的运行速度。 2.内容   现在…

    大数据 2021年7月19日
  • Kafka Eagle 源码解读详解大数据

    1.概述   在《Kafka 消息监控 – Kafka Eagle》一文中,简单的介绍了 Kafka Eagle这款监控工具的作用,截图预览,以及使用详情。今天笔者通过…

    大数据 2021年7月19日
  • Apache Beam 剖析详解大数据

    1.概述   在大数据的浪潮之下,技术的更新迭代十分频繁。受技术开源的影响,大数据开发者提供了十分丰富的工具。但也因为如此,增加了开发者选择合适工具的难度。在大数据处理一些问题的时…

    大数据 2021年7月19日
  • Kafka 源码剖析详解大数据

    1.概述   在对Kafka使用层面掌握后,进一步提升分析其源码是极有必要的。纵观Kafka源码工程结构,不算太复杂,代码量也不算大。分析研究其实现细节难度不算太大。今天笔者给大家…

    大数据 2021年7月19日
  • 分布式系统选举算法剖析详解大数据

    1.概述   我们在了解分布式选举算法之前,我们需要这样一种算法产生的背景。在一个分布式系统中,因为各种意外的因素,有的服务器可能会崩溃或变得不可靠,它就不能和其他服务器达成一致状…

    大数据 2021年7月19日
  • Kafka 存储机制和副本详解大数据

    1.概述   Kafka 快速稳定的发展,得到越来越多开发者和使用者的青睐。它的流行得益于它底层的设计和操作简单,存储系统高效,以及充分利用磁盘顺序读写等特性,和其实时在线的业务场…

    大数据 2021年7月19日
  • Kafka Streams 剖析详解大数据

    1.概述   Kafka Streams 是一个用来处理流式数据的库,属于Java类库,它并不是一个流处理框架,和Storm,Spark Streaming这类流处理框架是明显不一…

    大数据 2021年7月19日