第二章 大数据技术概述

第二章 大数据技术概述
2.1 大数据技术的产生
2005年Hadoop项目诞生。 Hadoop其最初只是雅虎公司用来解决网页搜索问题的一个项目，后来因其技术的高效性，被Apache Software Foundation公司引入并成为开源应用。
Hadoop本身不是一个产品，而是由多个软件产品组成的一个生态系统，这些软件产品共同实现全面功能和灵活的大数据分析。从技术上看，Hadoop由两项关键服务构成：采用Hadoop分布式文件系统（HDFS）的可靠数据存储服务，以及利用一种叫做MapReduce技术的高性能并行数据处理服务。这两项服务的共同目标是，提供一个使对结构化和复杂数据的快速、可靠分析变为现实的基础。
2.1.1大数据的基本概念
大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件工具，在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。大数据的4V特点:Volume、VeLocity、Variety、Veracity。
大数据技术的产生首先源于互联网企业对于日益增长的网络数据分析的需求。
2.大数据的可用性及衍生价值
进入IT时代以来，全人类积累了海量的数据，这些数据仍在不断急速增加，这带来两个方面的巨变：一方面，在过去没有海量的数据积累的时代无法实现的应用现在终于实现。
2.1.2大数据产生的原因
1.大数据的产生
大数据技术的产生首先源于互联网企业对于日益增长的网络数据分析的需求，20世纪80年代的典型代表市Yahoo的“分类目录”搜索数据库；20世纪90年代的典型代表市Google，它开始运用算数分析用户的实际需求，而且创造新的需求。因为此时Web2.0的出现使人们从信息的被动接收者变成了主动创造者。
基于上述状况2006年，广大个人用户的数据量迈进了“TB”时代。
2.大数据的可用性及衍生价值
（1）数据的可用性
用以分析的数据越全面，分析的结果就越接近于真实，就更具可用性。数据可用性主要包含高质量数据获取与整合的方法，大数据可用性理论体系的建立，弱可用数据的近似计算与数据挖掘，数据一致性的描述问题，一致性错误的自动检测问题，实体完整性的自动修复问题，自动检测实体同一性错误的问题，半结构化、非结构化数据的实体识别问题等方面。
（2）数据的复杂性
目前，85%的数据属于社交网络、物联网、电子商务等产生的非结构化和半结构化数据。非结构化数据是数据结构不规则或不完整、没有预定义的数据模型、不方便用二维逻辑数据库来表现的数据。包括所有格式的办公文档、文本、图片、图像和音频/视频信息等。半结构化数据是介于完全结构化数据和完全无结构的数据之间的数据，XML、HTML文档属于半结构化数据，它是自描述的，数据的结构和内容混在一起，没有明显的区分。

2.1.3大数据概念的提出
由于海量非结构化、半结构化数据的出现，数据已没有办法在可容忍的时间内，使用常规软件方法完成存储、管理和处理任务。2008年《Nature》杂志推出了“大数据”专辑，引发了学术界和产业界的关注。数据成为科学研究的对象和工具，业界开始基于数据来思考、设计和实施科学研究。数据不再仅仅是科学研究的结果，而且变成科学研究的基础。

2.1.4第四范式——大数据对科学研究产生的影响
2007年，已故的图灵奖得主吉姆格雷提出了数据密集型科研“第四范式”。他将大数据科研从第三范式，即计算机模拟中分离出来，独立作为一种科研范式，单独分离出来的原因是大数据的研究方式不同于基于数学模型的传统研究方式。科学研究的四个范式如图：

2.1.5大数据与云计算的关系
云计算与大数据是一对相辅相成的概念，它们描述了面向数据时代信息技术的两个方面，云计算侧重于提供资源和应用的网络化交付方法，大数据侧重于应对巨大的数据量所带来的技术挑战。
云计算的核心式业务模式，其本质是数据处理技术。数据是资产，云计算为数据资产提供了存储、访问的场所和计算能力，即云计算更偏重大数据的存储和计算，以及提供云计算服务，运行云应用。但是云计算缺乏盘活数据资产的能力，从数据中挖掘截至核对数据预测性分析，为国家治理、企业决策乃至个人生活提供服务，这是大数据的核心作用。云计算是基础设施架构，大数据是思想方法，大数据技术讲帮助人们从大体量、高度复杂的数据中分析、挖掘信息，从而发现价值和预测趋势。