像Google一样玩转大数据

随着生活的丰富,产生数据的设备也是愈来愈多,同样需要处理的数据体积也是日益激增,各个机构也纷纷把眼光投向“大数据”这个术语。在这场数据的淘金中许多公司满载而归,然而“大数据”投资失败的公司也不可谓不多,所以就有了之前的一篇文章“ Why Big Data Projects Fail”。对此,商业智能工具研发总监、esProc、esCalc高级顾问Jim King否认了这个看法,并以Google为例给大数据投资者提出了一些警示。

以下为译文:

首先看一下大数据成功典范Google,看看他们是如何玩转大数据的:

1. 收集数据,捕捉每个网站、电子邮件、Cookie内容,并提取关键信息。

2. 为信息创建复合索引。不用说,广告相关索引是必不可少的。

3. 将目录和内容储存在分布式服务器中。

4. 当用户浏览网站以及搜索或访问电子邮件时,Google会对这些请求做复杂的转换处理,同时几个索引项会随之确定。

5. 根据索引在服务器中查询数据,返回搜索结果或者广告。

在这里不难发现,与Hadoop有关的只有3和5,也就是数据储存和查询。而这两项也是最容易实现的两项,比如Hadoop就是个具有良好扩展性及低成本的解决方案。

那么实现3和5就可以像Google一样发玩转大数据了?很显然不行,因为关键选项2和4并没有实现,而2和4就是所谓的业务分析算法。这些算法由业务专家根据数据、业务知识、市场趋势精心打造,是许多企业商业策略制定的重要手段及核心。这才是4V理论中的“Value”。

这也是现下许多大数据投资失败的原因,因为当下的大数据只提供了数据存储和查询的策略,缺乏了提高企业竞争力的业务分析解决方案,而恰恰这才是最重要的。事实上,现在的大数据工具都是为IT专家打造的,他们可以通过C++或者Java实现MapReduce功能,但是却无法提供有价值的商业算法。

因此大数据成功的关键不在于Hadoop是否部署成功,而在于对业务有帮助算法的制定,而在人才严重缺乏的当下,不妨从数据工具入手。降低工具使用的门槛,让业务专家可以参与其中,才能发挥大数据真正的作用,对业务起到立竿见影的改善。

总结

工具的部署谁都可以,关键在于业务算法的制定,让业务专家无缝的参与数据的分析才是成功之始。

原创文章,作者:奋斗,如若转载,请注明出处:https://blog.ytso.com/185788.html

(0)
上一篇 2021年11月4日
下一篇 2021年11月4日

相关推荐

发表回复

登录后才能评论