登陆注册
15339400000005

第5章 数据的收集管理和使用(2)

很多大公司正在数据管理这条路上学习,而当前我们面临着很多以往不曾遇见的问题。比如,我们是应该在各个部门里运作,还是集中管理数据?我们是应该在数据安全的前提下更开放,让更多人找到数据的价值,还是应该更封闭,让泄露数据的可能性更小?另外,个人隐私怎么去保护?我们怎么才能成为一家负责任的数据管理公司?这些都是代表性的难题。

现在,大型的互联网公司通常都同时拥有成百上千种在开发的项目,它们都在直接或间接地改变着数据,而在这种情况下,又如何保障数据安全?事实上,数据的源头已经“脏”了,而下游使用数据的人还不知道,同时,源头的数据使用者也没有责任告诉下游这些数据已经“脏”了。

所以,如果你数据使用得不好,这对你的发展影响也不会很大。但是如果你数据使用得好,而且将它作为公司的核心竞争力,那么你的麻烦就大了。因为你的数据源本来就来自各个地方,而每一个来源都没有责任要告诉你,今天从它那儿来的数据是正常的和可靠的。特别是大数据出现后,数据的精准与否更加重要。因为大数据在很多情况下,是利用外部数据来帮助内部数据进行调整的,如果你的内部数据难以保证“干净”的话,那么外部数据同样无法保证“干净”。

数据管理,是大数据行业的“脏活”、“苦活”和“累活”,是最悲催和最难解决的事情。如果没有这些背景做铺垫,人们对很多公司在做的所谓的大数据的运营就持有怀疑态度了。

注意数据分类的维度

在观察与分析数据中,我们要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地识别出数据的价值。

今天,我们多数人把自己关注的焦点放在结果上而忽略了过程,而事实上这些过程其实也蕴含了数据管理的过程和数据分类的过程。有些关键数据必须做好保护,若这几个数据变了,或者被污染了,前面的价值也就无法保证了。

有人肯定会问,管理数据是一个过程,能不能分解?能不能区分哪些元素是比较重要的?哪些是有代替品的?哪些是无可取代的?哪些是不可或缺的核心?其实,这些问题就包含数据战略。

所以,我们不可以含糊地应对,要从中抽象出来,更好地将数据进行归类和整理,从而更加清晰地给出数据的价值。

权威的数据公司从数据分类的角度将数据分为以下4种:

1.按照是否可以再生的标准来看,可以分为不可再生数据和可再生数据

不可再生数据通常就是最原始的数据,比如用户在访问网站时,浏览记录会追踪用户的行为,如果当时没有被记录下来,就没有其他数据来还原用户的行为了。这个有点像拿着相机拍闪电,抓拍很重要,一旦错过,闪电就不可能再重复刚才那一瞬间的光影了。因此,对于用户日志类等不可再生数据而言,必须要有很完善的保护措施和严格的权限设置。现在,很多系统都有备份多份数据的功能,理想情况应该是,因为磁盘损坏而造成数据丢失的案例应该越来越少。但是,因为系统升级失败和误操作等造成的数据丢失在各家公司都屡见不鲜,见怪不怪了。

可再生数据就是通过其他数据可以生成的数据,原则上,指标类数据的衍生数据都是可再生的——只要原始的不可再生数据还在,就可以通过重新运算来获得。不过千万不能因为“可再生”这个词语的存在,就对可再生数据不重视。有些可再生数据是通过很长时间的积累不断加工而成的,是长时间从海量数据中计算出来的,比如对某个用户在数个月内的连续购买行为产生的规律,如果未做保护,虽然仍然可再生,但是再生的时间却会给企业带来问题。因为即便对于有顶尖计算能力的公司来讲,都可能是数日,甚至是数周、数月,而这个时间过程可能就会对公司的某一项核心业务造成毁灭性的打击。

对不可再生的数据而言,已有的数据要严格保护,想要但是还没有的数据就要及早收集。举个例子,很多电子商务网站是不关注客户在商品详情页面有没有做滚屏操作的。如果这一类型的数据没有被记录下来,企业就无从知道详情页的有效性。当商品页面进行改版,需要对此类数据进行参考时,就没有办法来获得相应的数据支持,最后能做的就只能是等待在页面上进行布点开发,等待数据收集到之后再进行决策,这就造成了决策的延误。

对于可再生数据而言,要及早做好业务的预判和数据处理的规划,这样一来,数据在需要的时候就能够快速地获得应用,人们把这一数据称为数据中间层。

2.按照数据所处的存储层次来看,可以分为基础层、中间层和应用层

从数据的存储角度来说,数据有很多层次。基础层通常与原始数据基本一致,也就是仅仅存储最基本的数据,不做汇总,以尽量避免失真,从而用作其他数据研究的基础;中间层是基于基础层加工的数据,通常也被认为是数据仓库层,这些数据会根据不同的业务需求,按照不同的主体来进行存放;应用层则是针对具体数据问题的应用,比如作为解决具体问题的数据分析和数据挖掘的应用层的数据。

在存储层这个层面上,最大的问题就是数据的冗余和管理的混乱。尤其是对于一些拥有海量数据的大公司而言,数据的冗余问题尤为严重,由此造成了大量的浪费。

在大公司中,进行数据分析、开发、挖掘的人可能有数十甚至是数百人,这些人可能归属于不同的业务团队,为了满足不同的业务各自分析数据应用。这样一来,不同的人可能都从头开始建立起了一套包含基础层、中间层和应用层的数据,而彼此之间又没有合适的交流方式,也就造成了工作的浪费。那是不是应该把所有的数据进行更好的归纳或者管理呢?任何管理方法,无论是集中式管理,还是分散式管理,都各有利弊,而且人和业务多了之后,企业也很难进行集中式管理。专家给出的建议是,基础层必须统一,因为这是最基本的数据,而且基本数据是原始数据。除了备份的需求外没有必要在各个场合保留多份数据。只要保证这个数据有良好的元数据管理方式,就能极大地降低成本。

而对于中间层和应用层而言,则要视具体情况而定:如果公司的业务相对单一且成本压力比较大,则建议集中式管理;如果公司的业务量非常大,则可以由多个数据团队来进行分散式管理和应用,以保证基础层单位有最高的灵活性。

同类推荐
  • 新农村理财实用手册

    新农村理财实用手册

    一本卓然出众的理财图书。它通过五堂课向农民朋友讲述了理财的要点,成为第一本引领中国8亿农村居民走向小康的理财圣典。这本书揭示了农民朋友如何获得金钱,保存金钱,以及用金钱赚取更多金钱的全部秘密。
  • 未来装饰生存法则

    未来装饰生存法则

    《未来装饰生存法则》主要着重点是研究和分析装饰行业发展的一般规律,以及全面而深入的透析经营管理中的奥秘,并以独特的角度来阐述生意场的经验理论,促进读者有效的整合装饰装修思维,挑战行业竞争,实现自我价值。
  • 世纪之争:中国,一个经济大国的崛起

    世纪之争:中国,一个经济大国的崛起

    本书内容涉及经济、政治、社会、文化、军事、对外关系等广泛领域,论证详尽,自成体系,提出了不少富有建设性和启迪意义的见解。本书主要内容包括前言、引子:一个世界性话题、再次走向辉煌、重大历史机遇、传统文化的突破、通向经济增长的路、区域经济一体化架构、迈向繁荣道路的矛盾和艰难险阻、来自外部世界的威胁和挑战、对“世纪之争”的推测、“中国世纪”国家战略、尾声:把握机遇、参考文献。
  • 中国农地集体产权制度研究

    中国农地集体产权制度研究

    本书构建基于产权经济学的理论和方法,在梳理我国农地制度变迁的历史经验和现实矛盾的基础上,提出了产权主体的合作人假定与和谐产权关系的理论分析框架,并运用于农地集体产权制度的分析。
  • 成本费用控制精细化管理全案

    成本费用控制精细化管理全案

    《成本费用控制精细化管理全案》是一本由王德敏编写的书籍,本书从控制方案、管控制度和管控流程3个方面细化了人力资源成本、生产成本、采购成本、物流成本、质量成本、销售费用、管理费用、财务费用8项成本费用的控制事宜,真正实现了对企业成本费用的精细化管理,具有很强的实务性和操作性。本书适合企业管理人员、成本费用中心工作人员、成本会计以及企业财务管理咨询师、高校相关专业师生阅读和使用。
热门推荐
  • 程门立雪之程立雪

    程门立雪之程立雪

    程门转身变成了程立雪,自己穿越到一个历史上没有的朝代齐康国,成为大臣程丰南的女儿,在所有人的欺骗中,封闭自己的一颗滚烫的心,也找到了自己的位置,找到了自己的幸福,邻国濮文国,散布为南野族人。程门,活泼开朗的她已被生活磨成了不善言辞,逆来顺受的性格,爱自己的丈夫比爱自己更多,甚至付出生命。林凡昌女主的丈夫,后离婚,只因两人性格不合穿越后的程立雪,发誓这一次要为自己而活,一切都不在自己的眼中,不再受那些束缚,开开心心的做自己,活的比谁都认真,可是当自己真的遇见了那个真心为自己的人的时候,内心慢慢被融化,原来被呵护是这样子的,原来被爱那么的幸福。(本文纯属虚构,请勿模仿。)
  • 拳噬天下

    拳噬天下

    拳噬天下,诠释天下!一个从小被遗弃的天赐之儿落入两个老怪物之手,艰难成长,因天生没有魔法和斗气天赋,无奈选择被世人视为最没有前途的格斗士职业,后又机缘学的大陆上两大禁忌魔法,机缘获得世间无二的空间神器,他被誉为大陆第一奇才……
  • 柠檬太酸你太甜

    柠檬太酸你太甜

    从六岁她第一次对他笑的时候,他就被这个阳光灿烂的女孩给吸引了,明明向来对世事认清淡漠的他,对她却永远这么上心。明明对周围议论声毫不在意的他却关心她嘴里的谁谁谁好看,明明这么一个优秀的他居然会喜欢上一个安于现状什么都不明白糊里糊涂的谢小白。他只知道,在谢小白落魄失意,伤心难过的的时候,他也会跟着不开心。"喂,苏逸轩我是你的什么啊?”某白肉麻的问。而一向不善言表的他却嘴角上扬,认真的回答:"你就像我小时候的玩具,别人碰一下,我都觉得在抢。”
  • 幽皇冥戒

    幽皇冥戒

    大学生秦逸偶然获得天外飞戒,从此开始了不平凡的修仙生活。这是一个小萝莉,只见她紧闭着双眼,长长的睫毛下不难想象出那双眼睛会有多么灵动!淡紫色的长发垂到腰间,额头上还带了一串似乎项链模样的蓝色饰品;……下身依旧是紫色的裙摆,垂到膝间,隔不远是白色丝袜,配上脚底下踩着深紫色的高跟鞋,简直令秦逸移不开了眼睛!好吧,鬼就鬼吧,不过,就算是做鬼我也不会放过你的!我是冥皇秦逸!我为自己带鬼!
  • 美丽细节全书

    美丽细节全书

    何为美丽?是俏丽的容颜、精致的妆容、得体的装扮,还是优雅的谈吐、高雅的气质、心灵的智慧?其实,这些都是美丽,但又不全是,真正的美丽是从生活的一点一滴体现出来的精致,是对每个细节的关注。本书列举生活中可能会被忽略的种种细节,加上贴心的美丽提醒,旨在打造全方位的细节美女。
  • 古玉灵卷

    古玉灵卷

    这世上总流传着古玉与灵卷的传闻,得其一便可统领一方天下。倘若集齐所有,便可窥视长生不老之秘,得七大秘宝之方。一起追寻着遗留的脚步,揭开这世上的未知存在!o(≧v≦)o~~力作新书!~求收藏,求推荐!
  • 生灵怪象的故事

    生灵怪象的故事

    童话是世界儿童文学中永不凋谢的花冠,是与我们少年儿童捉迷藏的小朋友。童话王国简直就是一个多姿多彩的万花筒,在那些语言浅显、妙趣盎然的美丽童话故事里,有的蕴藏着严肃的人生准则,富于哲理,发人深省;有的反映了社会的真实现象,揭露了黑暗、鞭打了丑恶;有的揭示了大自然的奥秘,使人增长知识,开拓视野。童话奠定了我们的人生基础,影响着我们的一生。因此应该把那些名篇珍品传给后代,陶冶后代。为此,我们编辑了这套《世界经典童话故事全集》丛书,把世界各国许多童话名篇佳作装在一个美丽的花篮里,让它熠熠闪烁的光辉照耀下一代人茁壮成长,使孩子们梦幻般地度过金色的童年。
  • 最强基因系统

    最强基因系统

    “天才智脑,无敌鬼手”。这是一套代表外星终极科技结晶的基因系统,可以将普通人进化成世上最聪明/最能打的智勇双全型天才!故事主角原本是一个很苦逼的青少年,在“天才鬼手”的帮助下逐渐成为真正的牛人......天才风流我占尽,美眉钞票滚滚来。拳打官二代,脚踢高富帅,若论谁牛我最拽!一个个精彩的故事就这样逐渐开始了,并且一个更比一个精彩,直到书友们爽爆......
  • 猎魔之狩魔手册

    猎魔之狩魔手册

    魔可以变换成人的形态,以吃人为生。千百年来,人类深受其害。只有“气”使用者,有识别魔本体的能力,能对魔造成伤害。生活在一个偏远城镇的“气”使用者,林初本以为会安逸终老,却被卷入了一个天大的阴谋当中……
  • 青春有爱

    青春有爱

    每个人都有小小的爱情。有些人说没有真正的爱情。那是因为你还没有遇见。这里所要讲述的故事是,主人公白鹤晴和她的好朋友发生的故事。当然不代表是我的故事哟。多多关照