龙源期刊网httpwwwqika
comc
大数据时代的数据分析
作者:杨金茹来源:《商情》2014年第45期
【摘要】在大数据时代,数据分析、数据挖掘工作面临着机遇与挑战,本文从数据分析的角度,结合国内外相关研究,试图回答大数据是什么,如何应对大数据的问题。
【关键词】大数据数据分析数据分析师
近年来,业界、学术界兴起了大数据讨论,一夜间大数据时代到来了。大数据给学术界带来了新的思潮,大数据正在颠覆着很多传统行业的模式,带来变革。有人预测,大数据必将成为商业、政府、科研、教育、医疗等各行业面临的一个挑战。在大数据时代,数据分析、数据挖掘工作面临着机遇与挑战,本文从数据分析的角度,结合国内外相关研究,试图回答大数据是什么,如何应对大数据的问题。
一、认识大数据
(一)大数据的宗旨:经过分析的数据才有价值
大数据要发挥作用必须经过分析,这是由大数据的4V特性(数据量大、数据类型多、要求处理速度快、低密度)决定的。也就是说,数据都是高维、低密度的,从单个数据中难以看出规律。因此,必须经过分析,针对高维进行降维,提炼大量低密度信息中的价值,才能发挥作用。否则,大数据背景下,反而更容易使得“活”信息混迹在大量“死”数据中被淹没。面向大数据的分析要“简单、迅速、规模化”。
(二)大数据的目标:实现基于数据的决策与资源配置
大数据最终要实现科学决策,基于信息对称的有效资源配置。随着大数据分析技术的发展,可利用数据来源从线下封闭的数据库、数据仓库扩展到开放性的O2O(O
li
eToOffli
e)融合数据,可分析数据结构从原来以数值为主的结构化数据发展到涵盖文本、视频、音频等多媒体数据。从而,大数据将逐步改变我们的决策目标和社会资源配置方式。基于数据的科学决策是一贯追求的目标。然而,信息不对称是常态,因此传统决策目标是建立相对满意而非最优(决策科学家Simo
提出),资源配置效率基于市场优于基于计划。大数据背景下,迅速获取分析更多辅助决策信息成为可能,因此决策目标可实现向最优的无限逼近,实现基于数据的“计划”资源配置将更有效率。
(三)大数据的角度:个性化服务中观指数宏观连结
f龙源期刊网httpwwwqika
comc
目前发展大数据,主要有基于数据为客户提供个性化营销服务、预测中观行业或区域趋势指数、基于连结的宏观资源配置方案等角度。这不仅仅体现在阿里小微融资的个性化风控决策、高端品牌在线特卖品牌和定价动态决策(基于阿里巴巴网商活跃度指数和零r