石家庄大数据技术开发

数据采集
定义：利用多种轻型数据库来接收发自客户端的数据，并且用户可以通过这些数据库来进行简单的查询和处理工作。
特点和挑战：并发系数高。
使用的产品：MySQL，Oracle，HBase，Redis和 MongoDB等，并且这些产品的特点各不相同。
统计分析
大数据定义：将海量的来自前端的数据快速导入到一个集中的大型分布式数据库 或者分布式存储集群，利用分布式技术来对存储于其内的集中的海量数据 进行普通的查询和分类汇总等，以此满足大多数常见的分析需求。
特点和挑战：导入数据量大，查询涉及的数据量大，查询请求多。
使用的产品：InfoBright，Hadoop（Pig和Hive），YunTable， SAP Hana和Oracle Exadata，除Hadoop以做离线分析为主之外，其他产品可做实时分析。
挖掘数据
定义：基于前面的查询数据进行数据挖掘，来满足高级别 的数据分析需求。
特点和挑战：算法复杂，并且计算涉及的数据量和计算量都大。
使用的产品：R，Hadoop Mahout