企业大数据中心搭建方案
随着物联网的兴起,it时代转向了dt大数据时代,越来越多的企业开始建设大数据中心,然后基于数据中心集成数据分析、数据预测、数据归类等服务,那么对于一个大型实体企业,如何搭建一个数据中心呢,今天我们就来讲述一下,大型实体企业如何搭建自己的大数据中心。
一、数据中心底层架构
先看看架构图我们先从底层开始说
第一层:基础资源层,主要是物理硬件这一块,通过虚拟化云服务实现资源的自动伸缩与配置
第二层:存储计算层,这一层主要是讲数据存储下来,存储方式有三种,第一种是hadoop的hdfs分布式文件系统,第二种方式是mpp分布式数据库,第三种是传统的数据仓库,中间件存储一些临时数据,那么计算这一块可以分为离线计算与实时流式计算,主要还是基于hadop的map/reduce框架,及storm和kafka
第三层:采集层,这一层主要对数据进行采集、清洗、质量把控、分发等操作。
第四层:管理层,主要管理大数据中心的数据权限,日志、资源、安全、元数据等。
第五层:api接口层,主要对外提供数据接口,方便应用层进行调用。
第六层:应用层,基于大数据中心提供的数据接口开发的应用,如数据可视化、数据挖掘、分析预测等。
二、数据中心结构
数据中心通过采集企业各个业务流程的数据,如订单数据、生成数据、销售数据、库存数据等,通过数据中心内部的etl处理,将数据进行离线运算或实时流式运算,最终生成我们所需要的核心数据。
核心数据通过paas、saas、daas反过来支撑企业的其他业务,如销量预测、交易风险预测等,数据中心除了采集企业内部的数据,还可以采集第三方的数据,比如竞品销量数据等...
点击查看剩余70%
网友评论0