1.概述

　　在《Kafka实战－简单示例》一文中给大家介绍来Kafka的简单示例，演示了如何编写Kafka的代码去生产数据和消费数据，今天给大家介绍如何去整合一个完整的项目，本篇博客我打算为大家介绍Flume＋Kafka＋Storm的实时日志统计，由于涉及的内容较多，这里先给大家梳理一个项目的运用这些技术的流程。下面是今天的内容目录：

• 项目流程
• Flume
• Kafka
• Storm

　　下面开始今天的内容分享。

2.项目流程

　　在整合这套方案的时候，项目组也是经过一番讨论，在讨论中，观点很多，有人认为直接使用Storm进行实时处理，去掉Kafka环节；也有认为直接使用Kafka的API去消费，去掉Storm的消费环节等等，但是最终组内还是一致决定使用这套方案，原因有如下几点：

• 业务模块化
• 功能组件化

　　我们认为，Kafka在整个环节中充当的职责应该单一，这项目的整个环节她就是一个中间件，下面用一个图来说明这个原因，如下图所示：

　　整个项目流程如上图所示，这样划分使得各个业务模块化，功能更加的清晰明了。

• Data Collection

　　负责从各个节点上实时收集用户上报的日志数据，我们选用的是Apache的Flume NG来实现。

• Data Access

　　由于收集的数据的速度和数据处理的速度不一定是一致的，因此，这里添加了一个中间件来做处理，所使用的是Apache的Kafka，关于Kafka集群部署，大家可以参考我写的《Kafka实战－Kafka Cluster》。另外，有一部分数据是流向HDFS分布式文件系统了的，方便于为离线统计业务提供数据源。

• Stream Computing

　　在收集到数据后，我们需要对这些数据做实时处理，所选用的是Apache的Storm。关于Storm的集群搭建部署博客后面补上，较为简单。

• Data Output

　　在使用Storm对数据做处理后，我们需要将处理后的结果做持久化，由于对响应速度要求较高，这里采用Redis＋MySQL来做持久化。整个项目的流程架构图，如下图所示：

3.Flume

　　Flume是一个分布式的、高可用的海量日志收集、聚合和传输日志收集系统，支持在日志系统中定制各类数据发送方（如：Kafka，HDFS等），便于收集数据。Flume提供了丰富的日志源收集类型，有：Console、RPC、Text、Tail、Syslog、Exec等数据源的收集，在我们的日志系统中目前我们所使用的是spooldir方式进行日志文件采集，配置内容信息如下所示：

producer.sources.s.type = spooldir 
producer.sources.s.spoolDir = /home/hadoop/dir/logdfs

　　当然，Flume的数据发送方类型也是多种类型的，有：Console、Text、HDFS、RPC等，这里我们系统所使用的是Kafka中间件来接收，配置内容如下所示：

producer.sinks.r.type = org.apache.flume.plugins.KafkaSink 
producer.sinks.r.metadata.broker.list=dn1:9092,dn2:9092,dn3:9092 
producer.sinks.r.partition.key=0 
producer.sinks.r.partitioner.class=org.apache.flume.plugins.SinglePartition 
producer.sinks.r.serializer.class=kafka.serializer.StringEncoder 
producer.sinks.r.request.required.acks=0 
producer.sinks.r.max.message.size=1000000 
producer.sinks.r.producer.type=sync 
producer.sinks.r.custom.encoding=UTF-8 
producer.sinks.r.custom.topic.name=test

　　关于，Flume的详细搭建部署，大家可以参考我写的《高可用Hadoop平台－Flume NG实战图解篇》。这里就不多做赘述了。

4.Kafka

　　Kafka是一种提供高吞吐量的分布式发布订阅消息系统，她的特性如下所示：

• 通过磁盘数据结构提供消息的持久化，这种结构对于即使数据达到TB+级别的消息，存储也能够保持长时间的稳定。
• 搞吞吐特性使得Kafka即使使用普通的机器硬件，也可以支持每秒数10W的消息。
• 能够通过Kafka Cluster和Consumer Cluster来Partition消息。

　　Kafka的目的是提供一个发布订阅解决方案，他可以处理Consumer网站中的所有流动数据，在网页浏览，搜索以及用户的一些行为，这些动作是较为关键的因素。这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。对于Hadoop这样的日志数据和离线计算系统，这样的方案是一个解决实时处理较好的一种方案。

　　关于Kafka集群的搭建部署和使用，大家可以参考我写的：《Kafka实战－Kafka Cluster》，这里就不多做赘述了。

5.Storm

　　Twitter将Storm开源了，这是一个分布式的、容错的实时计算系统，已被贡献到Apache基金会，下载地址如下所示：

http://storm.apache.org/downloads.html

6.总结

7.结束语