拓源讲堂（五)|大数据技术介绍与应用–基础篇

拓源讲堂（五) | 大数据技术介绍与应用–基础篇###

“拓源讲堂”第五讲来了！本期内容的主题是“大数据技术介绍与应用——基础篇”。

随着互联网的发展和云时代的到来，大数据成为了很多人关注的方面。那具体什么是大数据技术呢？小编这就带你一探究竟，让我们共同开启大数据的奥妙之旅吧！

05

大数据技术介绍

与应用

课程分为3个部分对大数据知识进行了基础介绍。

o 大数据介绍

2015年9月，国务院印发《促进大数据发展行动纲要》。《纲要》部署三方面主要任务——

一要加快政府数据开放共享，推动资源整合，提升治理能力。大力推动政府部门数据共享，稳步推动公共数据资源开放，统筹规划大数据基础设施建设，支持宏观调控科学化，推动政府治理精准化，推进商事服务便捷化，促进安全保障高效化，加快民生服务普惠化。

二要推动产业创新发展，培育新兴业态，助力经济转型。发展大数据在工业、新兴产业、农业农村等行业领域应用，推动大数据发展与科研创新有机结合，推进基础研究和核心技术攻关，形成大数据产品体系，完善大数据产业链。

三要强化安全保障，提高管理水平，促进健康发展。健全大数据安全保障体系，强化安全支撑。

大数据一般具有5V（大量-Volume、高速-Velocity、多样-Variety、低价值密度-Value、真实-Veracity）特征及复杂性和可变性。数据种类可包括结构化、半结构化、非结构化数据，数据量可达到百亿以上及 PB 级别。

大数据的发展历程主要分为以下四个阶段：

（1）无大数据概念

• 只有部分关键数据历史分析还称不上大数据

• 能产生数据但没有采集

（2）了解大数据

• 运营过程发现大数据产生

• 有数据流处理过程但过程数据未作保留

（3）大数据管理

• 针对业务过程开始收集大数据

• 对数据进行分析并改善生产能力

（4）大数据创新

• 大数据与AI结合预测结果和改进生产能力

• 互联网+大数据创新，实现智能化管理

o 大数据技术四部分

大数据技术可分为四个部分（4D），分别是大数据采集(DI)、大数据存储(DS)、大数据计算(DC)以及大数据分析&应用(DA)。

o 大数据技术的使用

(1) 数据采集-Data Integration

数据采集的来源根据不同的数据类型和场景，可分为关系及非关系型数据库，应用产生的日志，多媒体文档以及消息类型的数据。不同的类型的数据需要采用不同的数据采集方式。

(2) 大数据存储-Data Storage

大数据存储的方式也有多种多样，如文档存储可采用 DFS，关系型数据可采用 Hive 或 Clickhouse，K-V 型数据可以采用HBase。一般会根据数据的类型及使用场景选择一种或多种的存储方式。大数据存储一般也配搭传统关系数据库作为辅助，如存储索引、统计结果等。

(3) 大数据计算-Data Compute

大数据计算通常可分为流式计算，内存计算。也可以是基于 SQL 的运算，如 Presto 等。

(4) 大数据分析&应用-Data Application

大数据应用场景很广泛，常见的就是 BI 报表或统计报表、分析报表，也可以直接提供数据服务。

(5) 企业应用大数据平台

以上就是本期“大数据技术介绍与应用——基础篇”的所有内容，希望通过本期内容的分享，能够帮助大家对大数据技术知识体系有简单的了解与认知，便于大家后续对大数据技术有更深层次的学习。

之后，“拓源讲堂”依旧继续推进2022年技术分享交流计划，按照技术热点及公司技术产品进展为大家实时更新更多技术分享。

课程除了通过线下讲堂/线上视频课堂的方式进行培训，还会不定期通过「恒拓开源」与「恒赢智航」的微信公众号发表技术文章，欢迎大家关注实时动态，并参与进分享学习的大军，一起用领先的技术推动行业进步！

拓 源 讲 堂

2022年度技术交流分享计划

今天的文章拓源讲堂（五)|大数据技术介绍与应用–基础篇分享到此就结束了，感谢您的阅读。