工作心得体会 先进事迹心得体会 读后感 观后感 学习培训心得体会 作风建设心得体会 党员心得体会 其他心得体会
首页 > 心得体会 > 其他心得体会

大数据时代心得体会(共15篇)

作者:yuji760823时间:2020-05-17 下载本文

第1篇:大数据时代心得体会

《大数据时代》心得体会

信息时代的到来,我们感受到的是技术变化日新月异,随之而来的是生活方式的转变,我们这样评论着的信息时代已经变为曾经。如今,大数据时代成为炙手可热的话题。

信息和数据的定义。维基百科解释:信息,又称资讯,是一个高度概括抽象概念,是一个发展中的动态范畴,是进行互相交换的内容和名称,信息的界定没有统一的定义,但是信息具备客观、动态、传递、共享、经济等特性却是大家的共识。数据:或称资料,指描述事物的符号记录,是可定义为意义的实体,它涉及到事物的存在形式。它是关于事件之一组离散且客观的事实描述,是构成信息和知识的原始材料。数据可分为模拟数据和数字数据两大类。数据指计算机加工的“原料”,如图形、声音、文字、数、字符和符号等。从定义看来,数据是原始的处女地,需要耕耘。信息则是已经处理过的可以传播的资讯。信息时代依赖于数据的爆发,只是当数据爆发到无法驾驭的状态,大数据时代应运而生。

在大数据时代,大数据时代区别与转变就是,放弃对因果关系的渴求,而取而代之关注相关关系。也就是说只要知道“是什么”,而不需要知道“为什么”。数据的更多、更杂,导致应用主意只能尽量观察,而不是倾其所有进行推理。小数据停留在说明过去,大数据用驱动过去来预测未来。数据的用途意在何为,与数据本身无关,而与数据的解读者有关,而相关关系更有利于预测未来。大数据更多的体现在海量非结构化数据本身与处理方法的整合。大数据更像是理论与现实齐头并进,理论来创立处理非结构化数据的方法,处理结果与未来进行验证。大数据是在互联网背景下数据从量变到质变的过程。小数据时代也即是信息时代,是大数据时代的前提,大数据时代是升华和进化,本质是相辅相成,而并非相离互斥。

数据未来的故事。数据的发展,给我们带来什么预期和启示?金融业业天然有大数据的潜质。客户数据、交易数据、管理数据等海量数据不断增长,海量机遇和挑战也随之而来,适应变革,适者生存。我们可以有更广阔的学习空间、可以有更精准的决策判断能力这些都基于数据的收集、整理、驾驭、分析能力,基于脱颖而出的创新思维和执行。因此,建设“数据仓库”,培养“数据思维”,养成“数据治理”,创造“数据融合”,实现“数据应用”才能拥抱“大数据”时代,从数据中攫取价值,笑看风云变换,稳健赢取未来。

第2篇:大数据时代读书心得体会

《大数据时代》是英国维克托·迈尔-舍恩伯格教授的著作,这本书也被尊为国外大数据研究的先河之作。下面是带来的大数据时代读书心得,欢迎查看。

大数据时代读书心得体会范文

1《大数据时代》是英国维克托·迈尔-舍恩伯格教授的著作,这本书也被尊为国外大数据研究的先河之作。这本书最大的优点就在于作者利用上百个例子来对大数据的方方面面做了详细解说,让外行也很容易理解。结构上,作者通过大数据时代的思维变革、商业变革和管理变革三个角度依次阐述,条理清晰。

所谓"大数据",按作者的说法,就是"所有数据"。随着计算机运算速度和存储能力的发展,收集数据变得越来越简单,储存数据的成本越来越低。在过去,由于技术限制,人们做统计时只能收集有限的数据做样本,其中要考虑随机样本的选择,努力减小因样本问题出现的误差;统计结果往往不能重复使用,造成数据利用率低。而现在则可以做到"样本=总体"。数据的增多带来不可避免的精确性问题。"小数据"时代,一个样本的错误就可以造成对总体估计的失败,幸运的是,"大数据"时代对精确性不再那么要求苛刻——也无法要求太严格——数据的数量足以弥补这一缺陷。在对思维变革这一部分的阐述中,最重要也是全书的核心观点就是大数据时代,我们应该从追求"因果关系"的旧思维方式向追求"相关关系"转变。在我看来,这实际上是通过大数据来透视一种事物的发展趋势,而很多精确学科领域依然需要探寻"因果关系"解决更有针对性的问题,所以,这局限了这一转变只能在特定的领域发生。作者自己也说,"大数据的相关性将人们指向了比探讨因果关系更有前景的领域。"

大数据时代的数据获取方式是多种多样,数据形式也是千变万化,任何文字、行为、万物都可以被数据化后用来分析。对这些数据的利用,不仅要考虑到其初次使用价值,更要放眼它未来可能的用途以提高数据的利用率。当然数据并不是无限使用,时效、环境的变化肯定会对数据提出新的要求,所以数据的折旧也是应当考虑的。这又引出了对数据这一无形资产的估值可能性。对于这样的公司来说,数据就是他们的核心,如何在资产负债表上给他们一个公正的体现正是我们需要考虑的。

大数据时代的价值链由三部分构成,我把它们简化为"生产—分析—使用"三个环节,这对应书中的三种类型公司: 第一种是基于数据本身的公司,第二种是基于技能,第三种则是基于思维。在大数据早期,技能和思维最有价值,但作者认为,最终,大部分的价值还是必须从数据本身来挖掘。这是假定了一个成熟的市场,人人都了解了大数据的用途。

对于普通人来说,大数据时代最关心的还是隐私问题。不知不觉中,个人的一举一动都暴露在政府甚至私人企业之下,还面临潜在的泄露风险。对此,作者提出了使用者承担责任的解决办法,而不是过去那种流于形式的使用授权。大数据甚至能预测一个人的犯罪动机,这给监管者带来的难题是,预测一个人要犯罪,惩罚还是不惩罚?在这点上,社会达成"个人仅需对行为而非动机负责"的共识非常重要。

大数据时代的风险控制靠的是"算法师",类似会计师一样的职业,对大数据的准确度或有效性进行鉴定。这能在一定程度上防止数据滥用的发生和数据独裁。当今的法律亦需对大数据监管进行修订补充。

当代大数据发展主要由科技公司推动,相信在不久的将来更多的传统领域会意识到大数据的重要性。但我们也应该保持清醒,大数据并不是万能药,对某些领域或环节,使用大数据是一种简单且实用的选择;但对某些领域,盲目使用大数据只会适得其反。

大数据时代读书心得体会范文

24月13日下午,在湖南大学东楼205参加了关于《大数据时代》的读书交流活动。通过相互交流学习,使我更深层次的理解了大数据时代的利与弊,机遇和挑战。在写心得体会前,我想再重新审视一下关于大数据的历史沿革和现实意义。

首先,最早提出“大数据”时代到来的是全球知名咨询公司麦肯锡,麦肯锡称:“数据,已经渗透到当今每一个行业和业务职能领域,成为重要的生产因素。人们对于海量数 据的挖掘和运用,预示着新一波生产率增长和消费者盈余浪潮的到来。”“大数据”在物理学、生物学、环境生态学等领域以及军事、金融、通讯等行业存在已有时日,却因为近年来互联网和信息行业的发展而引起人们关注。大数据作为云计算、物联网之后又IT行业又一大颠覆性的技术革命。云计算主要为数据资产提供了保管、访问的场所和渠道,而数据才是真正有价值的资产。企业内部的经营交易信息、物联网世界中的商品物流信息,互联网世界中的人与人交互信息、位置信息等,其数量将远远超越现有企业IT架构和基础设施的承载能力,实时性要求也将大大超越现有的计算能力。如何盘活这些数据资产,使其为国家治理、企业决策乃至个人生活服务,是大数据的核心议题,也是云计算内在的灵魂和必然的升级方向。

其次,进入2012年,大数据(big data)一词越来越多地被提及,人们用它来描述和定义信息爆炸时代产生的海量数据,并命名与之相关的技术发展与创新。它已经上过《纽约时报》《华尔街日报》的专栏封面,进入美国白宫的新闻,现身在国内一些互联网主题的讲座沙龙中,甚至被嗅觉灵敏的国金证券、国泰君安、银河证券等写进了投资推荐报告。数据正在迅速膨胀并变大,它决定着企业的未来发展,虽然很多企业可能并没有意识到数据爆炸性增长带来问题的隐患,但是随着时间的推移,人们将越来越多的意识到数据对企业的重要性。正如《纽约时报》2012年2月的一篇专栏中所称,“大数据”时代已经降临,在商业、经济及其他领域中,决策将日益基于数据和分析而作出,而并非基于经验和直觉。哈佛大学社会学教授加里·金说:“这是一场革命,庞大的数据资源使得各个领域开始了量化进程,无论学术界、商界还是政府,所有领域都将开始这种进程。”

最后,随着云时代的来临,大数据(Big data)也吸引了越来越多的关注。著云台的分析师团队认为,大数据(Big data)通常用来形容一个公司创造的大量非结构化和半结构化数据,这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像MapReduce一样的框架来向数

十、数百或甚至数千的电脑分配工作。“大数据”在互联网行业指的是这样一种现象:互联网公司在日常运营中生成、累积的用户网络行为数据。这些数据的规模是如此庞大,以至于不能用G或T来衡量。大数据到底有多大?一组名为“互联网上一天”的数据告诉我们,一天之中,互联网产生的全部内容可以刻满1.68亿张DVD;发出的邮件有2940亿封之多(相当于美国两年的纸质信件数量);发出的社区帖子达200万个(相当于《时代》杂志770年的文字量);卖出的手机为37.8万台,高于全球每天出生的婴儿数量37.1万……,截止到2012年,数据量已经从TB(1024GB=1TB)级别跃升到PB(1024TB=1PB)、EB(1024PB=1EB)乃至ZB(1024EB=1ZB)级别。国际数据公司(IDC)的研究结果表明,2008年全球产生的数据量为0.49ZB,2009年的数据量为0.8ZB,2010年增长为1.2ZB,2011年的数量更是高达1.82ZB,相当于全球每人产生200GB以上的数据。而到2012年为止,人类生产的所有印刷材料的数据量是200PB,全人类历史上说过的所有话的数据量大约是5EB。IBM的研究称,整个人类文明所获得的全部数据中,有90%是过去两年内产生的。而到了2020年,全世界所产生的数据规模将达到今天的44倍。

首先,谈谈大数据带给生活的转变。大数据已经是信息产业发展的必然趋势,可以说,大数据现在已经开始慢慢渗透入我们的生活,如:现在流行的打车软件、三维立体化社区的建立、某些从事生产销售的行业利用大数据来优化规模和实现利益最大化。而我们很多人对大数据还很陌生,只是被动的适应着大数据给生活带来的改变。大数据时代是以云计算为基础的,所以,要实现大数据,相关的很多的硬件设备都要更新换代,信息处理系统、信息传输系统、信息反馈系统、信息决策系统都将面临新的挑战,相关产业都要重新调整产业结构,在那时,可以夸张的说,信息就是黄金,信息就是石油。大数据时代的到来会解放更多的劳动生产力,势必将会更加加剧生产力过剩的现状,社会两极分化现象会更加明显,掌握不了信息资源,很难再翻身,要防止信息垄断带来的可怕局面。大数据时代的到来会使人们的生活节奏急速加快,信息的时效性决定了它的流通速率,人们的生活节奏要跟上信息流通的速率,就不得不加快自己的节奏,人们会越来越忙,到那时,就像现在的日本,可能想找个人听你说说话,真的是一件很难的事。

第二,关于数据管理的看法。大数据时代,数据管理是一件很重要的工作,如何才能避免自己的数据被非法窃取、丢失和被盗?我的看法是,人防、技防、物防一体化。人防,即我们要从思想上牢固树立信息安全防范的意识,不主动泄露信息,要管理好自己身边的信息设备;技防,就是要运用软件来管理和处理数据,经常检查更新数据库,定时查杀电脑病毒,确保电脑状况安全;物防,就是重要的数据一定要备份保留,而且应当做到备份与原始文件是物理隔离,无关的信息应当及时删除,减轻硬盘的压力。

三、怎么保护自己的隐私。隐私,顾名思义,就是不愿意让别人看到的东西,所以,在大数据时代,更要管理好自己的隐私,以免对自己和家人造成麻烦和损失。越是隐私的信息,越要远离网络,不要再公开的社交网络储存和展示个人图片、资料等信息,免得被非法人士采用和窃取。建议还是用纸质的日记代替电脑日记,避免信息传播范围太大,管理好自己的日记本。研发一种新的硬件连接器,总是以随机码来保护自己真实IP地址,提高网络安全的可靠性,加强对联网信息的管理和保护。

不论我们情不情愿,大数据时代都会到来,现实社会是我们高喊着走向大数据时代,其实大数据时代已经向我们走来,所以与其被动接受,不如主动学习,从中找到自己的出路,成为大数据时代的建设者和受益者。

第3篇:读大数据时代心得体会

利用周末,一口气读完了涂子沛的大作《大数据》。这本书很好看,行文如流水,引人入胜。书中,你读到的不是大数据技术,更多是与大数据相关的美国政治、经济、社会和文化的演进。作为一名信息化从业者,读完全书,我深刻感受到了在信息化方面中国与美国的各自特色,也看到了我们与美国的差距。有几个方面的体会,但窥一斑基本能见全貌。

一是政府业务数据库公开的广度和深度。近年来,随着我国信息公开工作的推进,各级政府都在通过政府门户网站建设积极推进网上政务信息公开,但我们的信息公开,现阶段还主要是政府的政策、法律法规、标准、公文通告、工作职责、办事指南、工作动态、人事任免等行政事务性信息的公开。当然,实时的政府业务数据库公开也已经取得很大进步。在中国政府门户网,可以查询一些公益数据库,如国家统计局的经济统计数据、环保部数据中心提供的全国空气、水文等数据,气象总局提供的全国气象数据,民航总局提供的全国航班信息等;访问各个部委的网站,也能查到很多业务数据,如发改委的项目立项库、工商局的企业信用库、国土资源部的土地证库、国家安监总局的煤矿安全预警信息库、各类工程招标信息库等等。这是一个非常大的进步,也是这么多年电子政务建设所取得的成效和价值!但是,政务业务数据库中的很多数据目前还没有实现公开,很多数据因为部门利益和“保密”等因素,还仅限于部门内部人员使用,没有公开给公众;已经公开的数据也仅限于一部分基本信息和统计信息,更多数据还没有被公开。从《大数据》一书中记录的美国数据公开的实践来看,美国在数据公开的广度和深度都比较大。美国人认为“用纳税人的钱收集的数据应该免费提供给纳税人使用”,尽管美国政府事实上对数据的公开也有抵触,但民愿不可违,美国政府的业务数据越来越公开,尤其是在奥巴马政府签署《透明和开放的政府》文件后,开放力度更加大。data.gov是美国联盟政府新建设的统一的数据开放门户网站,网站按照原始数据、地理数据和数据应用工具来组织开放的各类数据,累积开放378529个原始和地理数据集。在中国尚没有这样的数据开放的网站。另外,由于制度的不同,美国业务信息公开的深度也很大,例如,网上公布的美国总统“白宫访客记录”公布的甚至是造访白宫的各类人员的相关信息;美国的xxxxxxxxxxxxxxxx网站,能够逐条跟踪、记录、分析联邦政府每一笔财政支出。这在中国,目前应该还没有实现。

三是关于个人数据的隐私。在美国,公民的隐私和自有不可侵犯,美国没有个人身份证,也不能建立基于个人身份证号码的个人信息的关联,建立“中央数据银行”的提案也一再被否决。这一点,在中国不是问题,每个公民有唯一的身份信息,通过身份证信息,可以获取公民的基本信息。今后,随着国家人口基础数据库等基础资源库的建设,公民的社保、医疗等其他相关信息也能方便获取,当然信息还是限于政府部门使用,但很难完全保证整合起来的这些个人信息不被泄露或者利用。

数据是信息化建设的基础,两个大国在大数据领域的互相学习和借鉴,取长补短,将推进世界进入信息时代。我欣喜地看到,美国政府20xx年启动了“大数据研发计划”,投资2亿美元,推动大数据提取、存储、分析、共享、可视化等领域的研究,并将其与超级计算和互联网投资相提并论。同年,中国政府20xx年也批复了“十二五国家政务信息化建设工程规划”,总投资额估计在几百亿,专门有人口、法人、空间、宏观经济和文化等五大资源库的五大建设工程。开放、共享和智能的大数据的时代已经来临!

第4篇:大数据时代读书心得

一部似乎还没有写完的书

——读《大数据时代》有感及所思

读了《大数据时代》后,感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式,但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前,我的思想被强烈震撼,不禁战栗起来。“在小数据时代,我们会假象世界是怎样运作的,然后通过收集和分析数据来验证这种假想。”“随着由假想时代到数据时代的过渡,我们也很可能认为我们不在需要理论了。”书中几乎肯定要颠覆统计学的理论和方法,也试图通过引用《连线》杂志主编安德森的话“量子物理学的理论已经脱离实际”来“终结”量子力学。对此我很高兴,因为统计学和量子力学都是我在大学学习时学到抽筋都不能及格的课目。但这两个理论实在太大,太权威,太基本了,我想我不可能靠一本书就能摆脱这两个让我头疼一辈子的东西。作者其实也不敢旗帜鲜明地提出要颠覆它们的论点,毕竟还是在前面加上了“很可能认为”这样的保护伞。

近几十年,我们总是在遇到各种各样的新思维。在新思维面前我们首先应该做到的就是要破和立,要改变自己的传统,跟上时代的脚步。即使脑子还跟不上,嘴巴上也必须跟上,否则可能会被扣上思想僵化甚至阻碍世界发展的大帽子。既然大数据是“通往未来的必然改变”,那我就必须“不受限于传统的思维模式和特定领域里隐含的固

有偏见”,跟作者一起先把统计学和量子力学否定掉再说。反正我也不喜欢、也学不会它们。

当我们人类的数据收集和处理能力达到拍字节甚至更大之后,我们可以把样本变成全部,再加上有能力正视混杂性而忽视精确性后,似乎真的可以抛弃以抽样调查为基础的统计学了。但是由统计学和量子力学以及其他很多“我们也很可能认为我们不再需要的”理论上溯,它们几乎都基于一个共同的基础——逻辑。要是不小心把逻辑或者逻辑思维或者逻辑推理一起给“不再需要”的话,就让我很担心了!

《大数据时代》第16页“大数据的核心就是预测”。逻辑是——描述时空信息“类”与“类”之间长时间有效不变的先后变化关系规则。两者似乎是做同一件事。可大数据要的“不是因果关系,而是相关关系”,“知道是什么就够了,没必要知道为什么”,而逻辑学四大基本定律(同一律、矛盾律、排中律和充足理由律)中的充足理由律又“明确规定”任何事物都有其存在的充足理由。且逻辑推理三部分——归纳逻辑、溯因逻辑和演绎逻辑都是基于因果关系。两者好像又是对立的。在同一件事上两种方法对立,应该只有一个结果,就是要否定掉其中之一。这就是让我很担心的原因。

可我却不能拭目以待,像旁观者一样等着哪一个“脱颖而出”,因为我身处其中。问题不解决,我就没法思考和工作,自然就没法活了!

更何况还有两个更可怕的事情。

其一:量子力学搞了一百多年,为了处理好混杂性问题,把质量

和速度结合到能量上去了,为了调和量子力学与相对论的矛盾,又搞出一个量子场论,再七搞八搞又有了虫洞和罗森桥,最后把四维的时空弯曲成允许时间旅行的样子,恨不得马上造成那可怕的时间旅行机器。唯一阻止那些“爱因斯坦”们“瞎胡闹”的就是因果关系,因为爸爸就是爸爸,儿子就是儿子。那么大数据会不会通过正视混杂性,放弃因果关系最后反而搞出时间机器,让爸爸不再是爸爸,儿子不再是儿子了呢?

其二:人和机器的根本区别在于人有逻辑思维而机器没有。《大数据时代》也担心“最后做出决策的将是机器而不是人”。如果真的那一天因为放弃逻辑思维而出现科幻电影上描述的机器主宰世界消灭人类的结果,那我还不如现在就趁早跳楼。

还好我知道自己对什么统计学、量子力学、逻辑学和大数据来说都是门外汉,也许上面一大篇都是在胡说八道,所谓的担心根本不存在。但问题出现了,还是解决的好,不然没法睡着觉。自己解决不了就只能依靠专家来指点迷津。

所以想向《大数据时代》的作者提一个合理化建议:把这本书继续写下去,至少加一个第四部分——大数据时代的逻辑思维。

合纤部车民

2013年11月10日

第5篇:大数据时代读书心得

生活,工作以及思维的大变革

——读《大数据时代》有感及所思

读了《大数据时代》后,感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式,但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前,我的思想被强烈震撼,不禁战栗起来。

本书从思维、商业、管理三个方面阐述了在大数据时代在下的变革,这些变革涉及到我们生活的方方面面,几乎其影响程度可以与两次工业革命相媲美。作者在第一部分提出了三个比较令人震惊的观点,也就是大数据的精髓在于我们分析信息时的三个转变,这三个转变将改变我们的理解和组建社会的方法。并且作者将生活,工作思维的大变革和这几个方面紧紧联系在一起。

第一个转变是,在大数据时代,我们可以分析更多的数据,有时候甚至可以处理和某个特别现象相关的所有数据,而不再依赖于随机采样。也就是说样本等于总体;第二个转变是对研究数据不会追求精度,而且追求混杂性,小数据时代下,追求精确度是合理的,因为我们收集的数据很少,所以要越精确越好,包括如今仍然也在使用这种办法;但是在某些时代,尤其是在大数据时代背景下,快速获得一个大概轮廓和发展脉络,要比精确性重要得多,既然选择了整体性,肯定要忽视细节和确定性;第三个改变是不是因果关系而是相关关系,在大数据时代,我们更需要了解一个东西是什么,而不是为什么,要找到关联无,通过一个良好的关联物的相关关系可以帮助我们捕捉预测未来。

这三个方面是大数据时代所给我们带来的思维上的改变,所谓思路决定出路,思路有了创新,有了拓展,相应的社会也就会有很大的变化。紧接着第二部分作者从万事万物数据化和数据交叉复用的巨大价值两个方面,讲述驱动大数据战车在材质和智力方面向前滚动的最根本动力。第三部分则是阐述了大数据时代下的弊端以及在管理上的措施。个人认为本书的精髓部分是第一部分,第一部分的三个观点涉及的面很广,包括统计学、逻辑学、哲学等。后两个部分都是以第一部分这三个观点为基础展开阐述的。

这本书给我感触最深的就是这三个转变,或者说是三个观点,可以说是哲学上说的世界观,因为世界观决定方法论,所以这三个观点对传统看法的颠覆,就会导致各种变革的发生。首先是第一个,作者认为在抽样研究时期,由于研究条件的欠缺,只能以少量的数据获取最大的信息,而在大数据时代,我们可以获得海量的数据,抽样自然就失去它的意义了。放弃了随机分析法这种捷径,采用所有的数据。作者用大数据与乔布斯的癌症治疗例子说明了使用全部数据而非样本的意义,列举了日本“相扑”等来证明使用全体数据的重要性。这个观点足以引起统计学乃至社会文明的变革,因为统计抽样和几何学定理、万有引力一样被看做文明得以建立牢固的基石。我对这个观点还是比较认同的,如果真能收集到整体的数据而且分析数据的工具也足够先进,自然是全体数据研究得出的结果更令人信服。但是这个观点也过于绝对,就算是在大数据时代要想收集到全体数据还是不太可能实现的,因为收集全体数据要付出的代价有时会很大。比如说,你要检测食品中致癌物质是否超标,你不可能每一件食品你都检测一遍吧。

第二,要效率不要绝对的精确。作者说,执迷于精确性是信息缺乏时代和模拟时代的产物,只有5%的数据是结构化且能适用于传统数据库的。如果不接受混乱,剩下95%的非结构化数据都无法被利用。作者是基于数据不可能百分之百正确的考虑而做出这样的判断的,如果采用小数据一个数据的错误就会导致结

1 果的误差很大,但是如果数据足够多、数据足够杂那得出的结果就越靠近正确答案。大数据时代要求我们重新审视精确性的优劣,甚至还说到大数据不仅让我们不再期待精确性,也让我们无法实现精确性。谷歌翻译的成功很好地证明了这一点,谷歌的翻译系统不像Candide那样精确地翻译每一句话,它谷歌翻译之所以优于IBM的Candide系统并不是因为它拥有更好的算法机制,和微软的班科和布里尔一样,谷歌翻译增加了各种各样的数据,并且接受了有错误的数据。

而在阅读这本书时,发现这本书中争议最大的一个观点,不仅是读者,就算是本书的译者也在序言中明确地说到他不认同“相关关系比因果关系更重要”的观点。作者觉得相关关系对于预测一些事情已经足够了,不用花大力气去研究他们的因果关系。作者用林登的亚马逊推荐系统的成功,证实了大数据在分析相关性方面的优势以及在销售中获得的成功。沃尔玛也是充分利用并挖掘各类数据信息的代表,从啤酒和尿布的案例,以及作者举的有关蛋挞和飓风天气的案例,都说明了掌握了相关关系对于他们策略的帮助。一句话,知道是什么就够了,不用知道为什么。很明显作者所举的例子都是属于商业领域的,但是对于其他领域来说这个观点就值得商榷了。比如说,在科学研究领域,你需要知其然也需要知道其所以然,找到事件发生的原理。用文中的一个例子说明,乔布斯测出整个基因图谱来治疗癌症,但是你治疗癌症你必须知道癌症发病的原理,知道哪一段基因导致了这种疾病,不可能只是说收集各种数据,然后利用其相关性来判断哪里出现了问题。

过度依赖所带来的后果。也用《少数派的报告》这部电影来说明如果痴迷于数据会导致我们将生活在一个没有独立选择和自由意志的社会,如果一切变为现实,我们将被禁锢在大数据的可能性之中。所以书中提出了几种解决方法,一种是使用数据时征询数据所有个人的知晓和授权。第二个技术途径就是匿名化。毫无疑问,大数据将会给社会管理带来巨大的变革。

在这个信息爆炸的时代,大数据给人类社会的方方面面带来了巨大的变革,这是社会发展的潮流,不可逆转,我们只有顺应这种潮流,把握住大数据时代变革的思想,才能在时代潮流中成为佼佼者,在思维上思路上略高一筹,才能在行动中占得先机!

第6篇:《大数据时代》读书心得

大数据时代,引领信息全球化

——读《大数据时代》有感

如今说起新媒体和互联网,必提大数据,似乎不这样说就OUT了。而且人云亦云的居多,不少谈论者甚至还没有认真读过这方面的经典著作——舍恩佰格的《大数据时代》。维克托·迈尔——舍恩伯格何许人也?他现任牛津大学网络学院互联网研究所治理与监管专业教授,曾任哈佛大学肯尼迪学院信息监管科研项目负责人。他的咨询客户包括微软、惠普和IBM等全球顶级企业,他是欧盟互联网官方政策背后真正的制定者和参与者,他还先后担任多国政府高层的智囊。这位被誉为:大数据时代的预言家“的牛津教授真牛!那么,这位大师说的都是金科玉律吗?并不一定,读大师的作品一定要做些功课才好读懂,如果能做足功课又具备相应的理论功底,就能与之进行一场思想上的对话。

粗浅认识之我见

舍恩伯格分三部分来讨论大数据,即思维变革、商业变革和管理变革。在第一部分“大数据时代的思维变革”中,舍恩伯格旗帜鲜明的亮出他的三个观点:

一、更多:不是随机样本,而是全体数据;

二、更杂:不是精确性,而是混杂性;

三、更好:不是因果关系,而是相关关系。对于第一个观点,我不敢苟同。一方面是对全体数据进行处理,在技术和设备上有相当高的难度。另一方面是不是都有此必要,对于简单事实进行判断的数据分析难道也要采集全体数据吗?我曾与香港城市大学的祝建华教授讨论过。祝教授是传播学研究方法和数据分析的专家,他认为一定可以找到一种数理统计方法来进行分析,并不一定需要全部数据。联系到舍恩伯格第二个观点中所说的相关关系,我理解他说的全体数据不是指数量而是指范围,即大数据的随机样本不限于目标数据,还包括目标以外的所有数据。我认为大数据分析不能排除随机抽样,只是抽样的方法和范围要加以拓展。

我同意舍恩伯格的第二观点,我认为这是对他第一个观点很好的补充,这也是对精准传播和精准营销的一种反思。“大数据的简单算法比小数据的复杂算法更有效。”更具有宏观视野和东方哲学思维。对于舍恩伯格的第三个观点,我也不能完全赞同。“不是因果关系,而是相关关系。”不需要知道“为什么”,只需要知道“是什么”。传播即数据,数据即关系。在小数据时代人们只关心因果关系,对相关关系认识不足,大数据时代相关关系举足轻重,如何强调都不为过,但不应该完全排斥它。大数据从何而来?为何而用?如果我们完全忽略因果关系,不知道大数据产生的前因后果,也就消解了大数据的人文价值。如今不少学者为了阐述和传播其观点往往语出惊人,对旧有观念进行彻底的否定。

世间万物的复杂性多样化并非非此即彼那么简单,舍恩伯格也是这种二元对立的幼稚思维吗?其实不然,读者在阅读时一定要看清楚他是在什么语境下说的,不要因囫囵吞枣的浅读而陷入断章取义的误读。比如说舍恩伯格在提出“不是因果关系,而是相关关系。”这一论断时,他在书中还说道:“在大多数情况下,一旦我们完成了对大数据的相关关系分析,而又不再满足于仅仅知道‘是什么’时,我们就会继续向更深层次研究的因果关系,找出背后的‘为什么’。”由此可见,他说的全体数据和相关关系都在特定语境下的,是在数据挖掘中的选项。

大数据研究的一大驱动力就是商用,舍恩伯格在第二部分里讨论了大数据时代的商业变革。舍恩伯格认为数据化就是一切皆可“量化”,大数据的定量分析有力地回答“是什么”这一问题,但仍然无法完全回答“为什么”。因此,我认为并不能排除定性分析和质化研究。数据创新可以创造价值,这是毫无疑问的。舍恩伯格在讨论大数据的角色定位时仍把它置于数据应用的商业系统中,而没有把它置于整个社会系统里,但他在第二部分大数据时代的管理变革中讨论了这个问题。在风险社会中信息安全问题日趋凸显,数据独裁与隐私保护成为一对矛盾。如何摆脱大数据的困境?舍恩伯格在最后一节“掌控”中试图回答,但基本上属于老生常谈。我想,或许凯文·凯利的《失控》可以帮助我们解答这个问题?至少可以提供更多的思考维度。正如舍恩伯格在结语中所道:“大数据并不是一个充斥着算法和机器的冰冷世界,人类的作用依然无法被完全替代。大数据为我们提供的不是最终答案,只是参考答案,帮助是暂时的,而更好的方法和答案还在不久的未来。”谢谢舍恩伯格!让大数据讨论从自然科学回到人文社科。由此推断,《大数据时代》不是最终答案,也不是标准答案,只是参考答案。

此外,在阅读此书之前还必须具备一些数据科学的基本知识和基本概念,比如说什么叫数据?什么叫大数据?数据分析与数据挖掘的区别,数字化与数据化有什么不同?读前做些功课读起来就比较好懂了。

浅薄之语抒我意

概念是研究的逻辑起点,“大数据”到底是什么?在百度上搜索到的解释是,“大数据(big data),或称巨量资料,指的是所涉及的资料量规模巨大到无法透过目前主流软件工具,在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。”大数据的4V特点:数量(Volume)、速度(Velocity)、品种(Variety)和真实性(Veracity)。但舍恩伯格认为大数据并非一个确切的概念。他在书中的一段诠释更具人文色彩和社会意义:“大数据是人们获得新的认知、创造新的价值的源泉;大数据还是改变市场、组织机构,以及政府与公民关系的方法。”其实,概念的界定要看研究者从哪个角度来研究它而定。

科学家的治学态度是严谨的,而人文学家更具有想象力。一些对大数据不甚了然的人往往夸大了它的作用,甚至把它神化。舍恩伯格认为大数据的核心是预测。“大数据不是要教机器像人一样思考。相反,把数学算法运用到海量的数据上来预期事情发生的可能性。”舍恩伯格甚至不回避大数据所产生的负面影响,他在第七章里谈到让数据主宰一切的隐忧。我觉得这是实事求是的科学态度。在量子力学里有一个测不准原理:一个微观粒子的某些物理量(如位置和动量,或方位角与动量矩,还有时间和能量等),不可能同时具有确定的数值,其中一个量越确定,另一个量的不确定程度就越大。它是解释微观世界的物理现象,信息社会中的大数据会不会也有类似情况呢?如果我们再把凯文·凯利的《失控》对比来读的话就更有意思了,这样我们对整个物质世界及至人类社会就有了更全面更深刻的洞察,从物理王国到生物世界,再到信息社会。从公共卫生到商业应用,从个人隐私到政府管理,大数据无处不在。与此同时,从哪个角度探讨用什么方法研究,舍恩伯格都不会忘记大数据服务人类造福人类的终极目的和价值所在。“大数据并不是一个充斥着运算法则和机器的冰冷世界,其中仍需要人类扮演重要角色。人类独有的弱点、错觉、错误都是十分必要的,因为这些特性的另一头牵着的是人类的创造力、直觉和天赋。偶尔也会带来屈辱或固执的同样混乱的大脑运作,也能带来成功,或在偶然间促成我们的伟大。这提示我们应该乐于接受类似的不准确,因为不准确正是我们之所以为人的特征之一。”用中国话来说就是“人无完人”,人类在收获大数据带来的红利的同时也要承受它带来的危害。这不是对立统一的辩证唯物主义?我把它看作带着欧洲批判学派色彩的科学发展观。问题是研究的价值基点,“大数据”不是舍恩伯格研究的问题,而是研究对象,他研究的是数据处理和信息管理问题,同时也讨论信息安全和网络伦理问题,还引发哲学上的思考,哲学史上争论不休的世界可知论和不可知论转变为实证科学中的具体问题。可知性是绝对的,不可知性是相对的。“大数据”之所以为大是因它引发人类生活、工作和思维的大变革,从这个意义上来看,《大数据时代》的意义不仅在于它讨论了若干重大问题,而且对研究者开出了一个问题清单,从而引发更多人来探讨这些有趣的问题。

《大数据时代》实际上主要是一本讨论数据挖掘的书,数据挖掘与数据分析是不同的概念,数据挖掘一般是指从大量的数据中自动搜索隐藏于其中的有着特殊关系性的信息的过程。数据挖掘通常与计算机科学有关,并通过统计、在线分析处理、情报检索、机器学习、专家系统(依靠过去的经验法则)和模式识别等诸多方法来实现上述目标。而数据分析的目的是把隐没在一大批看来杂乱无章的数据中的信息集中、萃取和提炼出来,以找出所研究对象的内在规律。数据挖掘主要运用计算机来进行处理,而数据分析既要用计算机也要人工分析,是计算机科学与人文价值判断的统一结合。换言之,《大数据时代》并不是一本讨论大数据所有问题的书。

《大数据时代》也是一本讨论互联网发展的书,从数字化到数据化,同时有浓厚的未来学色彩。当文字变成数据,我们进入了互联网;当方位变成数据,我们进入了物联网;当沟通变成数据,我们进入了下一代互联网。一切可量化,万物皆数据,正是当今互联网世界的真实写照。面对于这样的世界及世界的未来,在《大数据时代》出现最多的词是“思维”和“方法”,因此也可以把这本书视为思维科学应用研究的书。

此外,在阅读此书之前还必须具备一些数据科学的基本知识和基本概念,比如说什么叫数据?什么叫大数据?数据分析与数据挖掘的区别,数字化与数据化有什么不同?读前做些功课读起来就比较好懂了。

走出去,理论联系实际之我看

今年的9月30日,总书记将他命名为“烈士纪念日”。在新一届党中央领导班子的领导下,举国上下开展了系列的调研、讲解、讨论创新驱动发展战略。包括习近平总书记、李克强总理在内的七位常委全部出动来到中关村,这是历史上没有过的,百度、联想和小米的负责人,有了一次直面最高层汇报工作的机会。雷军和柳传志,讲解的都是本公司的各种情况,李彦宏则没有讲百度的广告业务发展得如何好,而是讲起了大数据。在讲解中,李彦宏认为大数据有两个重要价值,一是促进信息消费,加快经济转型升级;二是关注社会民生,带动社会管理创新。这些价值也是目前党和国家领导人最为重视的,可见《大数据时代》既有理论价值也有现实意义。当今大数据正在影响着新闻传媒业,大数据新闻、大数据营销、舆情分析、受众(用户)研究„„数据分析师变身新闻编辑,大数据正改变新闻生产流程、大数据在创造传媒新业态。“不妨想象一下,随着数据的进一步增加,坐拥用户资源的新媒体们完全有能力通过数据挖掘,分析用户癖好,向电视台定制一部电视剧甚至向好莱坞定制一部电影。到那个时候,电视台一如那些家电厂商们,曾经产业链的上游‘王者’,将彻底成为一个产业链最低端的内容代工厂。”然而,情形也远没有人们想象的那么乐观,李彦宏指出目前多数所谓的大数据公司其实还是空壳子,因为数据还没有完全开放。他认为必须在政府层面上推动才能真正实现大数据的开发与利用。我在讨论大数据时代的舆情监测与预警时说道:“经典自由主义传播学说对媒体的定位:秉持公正、客观立场的媒体被称为代表公众监督政府行为的‘看门狗’。其实,媒体既是公众利益也是国家利益的‘看门狗’。要看好门就要瞭望、洞察社情民意,传统媒体信息反馈渠道单一,视野、人力十分有限。而开放互动的新媒体平台却大有可为。作为公共信息发布平台的微博可以成为政府及时了解社情民意,从而选择正确治理路径的‘导盲犬’。”遗憾的是目前我国的数据平台还没有完全开放,真正的大数据时代还没有到来。

与国内不少教科书写法的专著相比,国外的书写得更有趣,尤其是大学者写的,不仅视野开阔,而且能够深入浅出。《大数据时代》不到22万字,却有上百个学术和商业的实例,丰富翔实的例子让读者感到通俗易懂,深奥的理论看起来也不费劲。这恐怕与舍恩伯格既是学者也是专家,既有理论又有实践有关。反观我们些学者故弄玄虚而示高明,实际上是把读者拒之门外。我觉得优秀的科学家也应该是一个科普作家,优秀的学者也应该是一个不错的传播者。当然国外学术著作也有一个翻译问题,这本书译得还不错。此外,《大数据时代》还附有不少IT界名流的推荐意见,虽是出版商的发行所为,对解读此书也不无益处。

除了《大数据时代》,舍恩伯格还有一本《删除》也值得一读。要研究大数据不能只读一本书,该书译者周涛教授还推荐了三部国内出版的大数据方面的专著:《证析》、《大数据》、《个性化:商业的未来》。相比《大数据时代》的宏大视野,这些书就大数据某一局部问题给出深刻的介绍和洞见。我也推荐读一读中国工程院李国杰院士和中科院计算所副总工程学旗合写的文章《大数据研究:未来科技及经济社会发展的重大战略领域——大数据的研究现状与科学思考》。

虽说开卷有益,但是由于每个人的时间精力有限,对于一个研究者来说,不读什么书甚至比读什么书更重要。我认为书有三种:有用的书,主要是应用类的专业书;无用的书,主要是形而上的思想类;无字的书,人间百态,社会现实。可偏重但不应偏废。对于学生来讲这三类“书”都该读一些,对于研究者则要读哪些解决关键问题的书,《大数据时代》就是这样一部书。当然,并非第一个读者都是研究大数据的,但进入大数据时代,还有什么东西与数据完全没有关系呢?麦肯锡全球研究机构认为,未来十年里有12项对经济发展产生重大影响的技术,其中包括三项新媒体技术:移动互联网、物联网和云计算。这三项新媒体技术都与大数据密切相关,而这些新媒体新技术的发展都影响着当今的新闻传播业。阅读此书至少给我们研究新闻传播学带来一些启迪。我觉得一本书的价值不在于让你顶礼膜拜,而是引发广泛而深入的讨论。

“凡是过去,皆为序曲。”读完此书,我们对大数据的认识才刚刚开始。

第7篇:大数据时代来临读书月心得体会

一部似乎还没有写完的书

——读《大数据时代》有感及所思 读了《大数据时代》后,感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式,但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前,我的思想被强烈震撼,不禁战栗起来。“在小数据时代,我们会假象世界是怎样运作的,然后通过收集和分析数据来验证这种假想。”“随着由假想时代到数据时代的过渡,我们也很可能认为我们不在需要理论了。”书中几乎肯定要颠覆统计学的理论和方法,也试图通过引用《连线》杂志主编安德森的话“量子物理学的理论已经脱离实际”来“终结”量子力学。对此我很高兴,因为统计学和量子力学都是我在大学学习时学到抽筋都不能及格的课目。但这两个理论实在太大,太权威,太基本了,我想我不可能靠一本书就能摆脱这两个让我头疼一辈子的东西。作者其实也不敢旗帜鲜明地提出要颠覆它们的论点,毕竟还是在前面加上了“很可能认为”这样的保护伞。近几十年,我们总是在遇到各种各样的新思维。在新思维面前我们首先应该做到的就是要破和立,要改变自己的传统,跟上时代的脚步。即使脑子还跟不上,嘴巴上也必须跟上,否则可能会被扣上思想僵化甚至阻碍世界发展的大帽子。既然大数据是“通往未来的必然改变”,那我就必须“不受限于传统的思维模式和特定领域里隐含的固 有偏见”,跟作者一起先把统计学和量子力学否定掉再说。反正我也不喜欢、也学不会它们。

当我们人类的数据收集和处理能力达到拍字节甚至更大之后,我们可以把样本变成全部,再加上有能力正视混杂性而忽视精确性后,似乎真的可以抛弃以抽样调查为基础的统计学了。但是由统计学和量子力学以及其他很多“我们也很可能认为我们不再需要的”理论上溯,它们几乎都基于一个共同的基础——逻辑。要是不小心把逻辑或者逻辑思维或者逻辑推理一起给“不再需要”的话,就让我很担心了!

《大数据时代》第16页“大数据的核心就是预测”。逻辑是——描述时空信息“类”与“类”之间长时间有效不变的先后变化关系规则。两者似乎是做同一件事。可大数据要的“不是因果关系,而是相关关系”,“知道是什么就够了,没必要知道为什么”,而逻辑学四大基本定律(同一律、矛盾律、排中律和充足理由律)中的充足理由律又“明确规定”任何事物都有其存在的充足理由。且逻辑推理三部分——归纳逻辑、溯因逻辑和演绎逻辑都是基于因果关系。两者好像又是对立的。在同一件事上两种方法对立,应该只有一个结果,就是要否定掉其中之一。这就是让我很担心的原因。

可我却不能拭目以待,像旁观者一样等着哪一个“脱颖而出”,因为我身处其中。问题不解决,我就没法思考和工作,自然就没法活了!

更何况还有两个更可怕的事情。

其一:量子力学搞了一百多年,为了处理好混杂性问题,把质量 和速度结合到能量上去了,为了调和量子力学与相对论的矛盾,又搞出一个量子场论,再七搞八搞又有了虫洞和罗森桥,最后把四维的时空弯曲成允许时间旅行的样子,恨不得马上造成那可怕的时间旅行机器。唯一阻止那些“爱因斯坦”们“瞎胡闹”的就是因果关系,因为爸爸就是爸爸,儿子就是儿子。那么大数据会不会通过正视混杂性,放弃因果关系最后反而搞出时间机器,让爸爸不再是爸爸,儿子不再是儿子了呢? 其二:人和机器的根本区别在于人有逻辑思维而机器没有。《大数据时代》也担心“最后做出决策的将是机器而不是人”。如果真的那一天因为放弃逻辑思维而出现科幻电影上描述的机器主宰世界消灭人类的结果,那我还不如现在就趁早跳楼。

还好我知道自己对什么统计学、量子力学、逻辑学和大数据来说都是门外汉,也许上面一大篇都是在胡说八道,所谓的担心根本不存在。但问题出现了,还是解决的好,不然没法睡着觉。自己解决不了就只能依靠专家来指点迷津。

所以想向《大数据时代》的作者提一个合理化建议:把这本书继续写下去,至少加一个第四部分——大数据时代的逻辑思维。

合纤部 车民

2013年11月10日篇二:大数据时代书面记录与心得体会

大数据时代书面记录与心得体会 2015年5月12日,听取了大数据时代相关技术的技术讲座。当今,大数据的到来,已经成为现实生活中无法逃避的挑战。每当我们要做出决策的时候,大数据就无处不在。大数据术语广泛地出现也使得人们渐渐明白了它的重要性。大数据渐渐向人们展现了它为学术、工业和政府带来的巨大机遇。与此同时,大数据也向参与的各方提出了巨大的挑战。大数据,其影响除了经济方面的,它同时也能在政治、文化等方面产生深远的影响,大数据可以帮助人们开启循“数”管理的模式,也是我们当下“大社会”的集中体现,三分技术,七分数据,得数据者得天下。“大数据”的影响,增加了对信息管理专家的需求。事实上,大数据的影响并不仅仅限于信息通信产业,而是正在“吞噬”和重构很多传统行业,广泛运用数据分析手段管理和优化运营的公司其实质都是一个数据公司。麦当劳、肯德基以及苹果公司等旗舰专卖店的位置都是建立在数据分析基础之上的精准选址。而在零售业中,数据分析的技术与手段更是得到广泛的应用,传统企业如沃尔玛通过数据挖掘重塑并优化供应链,新崛起的电商如卓越亚马逊、淘宝等则通过对海量数据的掌握和分析,为用户提供更加专业化和个性化的服务。大数据在个人隐私的方面,大量数据经常含有一些详细的潜在的能够展示有关我们的信息,逐渐引起了我们对个人隐私的担忧。一些处理大数据公司需要认真的对待这个问题。例如美国天睿资讯给人留下比较深刻印象的是他的一个科学家提出,我们不应该简单地服从法

律方面的隐私保护问题,这些远远不够的,公司都应该遵从谷歌不作恶的原则,甚至更应该做出更积极的努力。

生活,工作以及思维的大变革

——读《大数据时代》有感及所思

读了《大数据时代》后,感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式,但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前,我的思想被强烈震撼,不禁战栗起来。

本书从思维、商业、管理三个方面阐述了在大数据时代在下的变革,这些变革涉及到我们生活的方方面面,几乎其影响程度可以与两次工业革命相媲美。作者在第一部分提出了三个比较令人震惊的观点,也就是大数据的精髓在于我们分析信息时的三个转变,这三个转变将改变我们的理解和组建社会的方法。并且作者将生活,工作思维的大变革和这几个方面紧紧联系在一起。

第一个转变是,在大数据时代,我们可以分析更多的数据,有时候甚至可以处理和某个特别现象相关的所有数据,而不再依赖于随机采样。也就是说样本等于总体;第二个转变是对研究数据不会追求精度,而且追求混杂性,小数据时代下,追求精确度是合理的,因为我们收集的数据很少,所以要越精确越好,包括如今仍然也在使用这种办法;但是在某些时代,尤其是在大数据时代背景下,快速获得一个大概轮廓和发展脉络,要比精确性重要得多,既然选择了整体性,肯定要忽视细节和确定性;第三个改变是不是因果关系而是相关关系,在大数据时代,我们更需要了解一个东西是什么,而不是为什么,要找到关联无,通过一个良好的关联物的相关关系可以帮助我们捕捉预测未来。

这三个方面是大数据时代所给我们带来的思维上的改变,所谓思路决定出路,思路有了创新,有了拓展,相应的社会也就会有很大的变化。紧接着第二部分作者从万事万物数据化和数据交叉复用的巨大价值两个方面,讲述驱动大数据战车在材质和智力方面向前滚动的最根本动力。第三部分则是阐述了大数据时代下的弊端以及在管理上的措施。个人认为本书的精髓部分是第一部分,第一部分的三个观点涉及的面很广,包括统计学、逻辑学、哲学等。后两个部分都是以第一部分这三个观点为基础展开阐述的。这本书给我感触最深的就是这三个转变,或者说是三个观点,可以说是哲学上说的世界观,因为世界观决定方法论,所以这三个观点对传统看法的颠覆,就会导致各种变革的发生。首先是第一个,作者认为在抽样研究时期,由于研究条件的欠缺,只能以少量的数据获取最大的信息,而在大数据时代,我们可以获得海量的数据,抽样自然就失去它的意义了。放弃了随机分析法这种捷径,采用所有的数据。作者用大数据与乔布斯的癌症治疗例子说明了使用全部数据而非样本的意义,列举了日本“相扑”等来证明使用全体数据的重要性。这个观点足以引起统计学乃至社会文明的变革,因为统计抽样和几何学定理、万有引力一样被看做文明得以建立牢固的基石。我对这个观点还是比较认同的,如果真能收集到整体的数据而且分析数据的工具也足够先进,自然是全体数据研究得出的结果更令人信服。但是这个观点也过于绝对,就算是在大数据时代要想收集到全体数据还是不太可能实现的,因为收集全体数据要付出的代价有时会很大。比如说,你要检测食品中致癌物质是否超标,你不可能每一件食品你都检测一遍吧。第二,要效率不要绝对的精确。作者说,执迷于精确性是信息缺乏时代和模拟时代的产物,只有5%的数据是结构化且能适用于传统数据库的。如果不接受混乱,剩下95%的非结构化数据都无法被利用。作者是基于数据不可能百分之百正确的考虑而做出这样的判断的,如果采用小数据一个数据的错误就会导致结 果的误差很大,但是如果数据足够多、数据足够杂那得出的结果就越靠近正确答案。大数据时代要求我们重新审视精确性的优劣,甚至还说到大数据不仅让我们不再期待精确性,也让我们无法实现精确性。谷歌翻译的成功很好地证明了这一点,谷歌的翻译系统不像candide那样精确地翻译每一句话,它谷歌翻译之所以优于ibm的candide系统并不是因为它拥有更好的算法机制,和微软的班科和布里尔一样,谷歌翻译增加了各种各样的数据,并且接受了有错误的数据。而在阅读这本书时,发现这本书中争议最大的一个观点,不仅是读者,就算是本书的译者也在序言中明确地说到他不认同“相关关系比因果关系更重要”的观点。作者觉得相关关系对于预测一些事情已经足够了,不用花大力气去研究他们的因果关系。作者用林登的亚马逊推荐系统的成功,证实了大数据在分析相关性方面的优势以及在销售中获得的成功。沃尔玛也是充分利用并挖掘各类数据信息的代表,从啤酒和尿布的案例,以及作者举的有关蛋挞和飓风天气的案例,都说明了掌握了相关关系对于他们策略的帮助。一句话,知道是什么就够了,不用知道为什么。很明显作者所举的例子都是属于商业领域的,但是对于其他领域来说这个观点就值得商榷了。比如说,在科学研究领域,你需要知其然也需要知道其所以然,找到事件发生的原理。用文中的一个例子说明,乔布斯测出整个基因图谱来治疗癌症,但是你治疗癌症你必须知道癌症发病的原理,知道哪一段基因导致了这种疾病,不可能只是说收集各种数据,然后利用其相关性来判断哪里出现了问题。

过度依赖所带来的后果。也用《少数派的报告》这部电影来说明如果痴迷于数据会导致我们将生活在一个没有独立选择和自由意志的社会,如果一切变为现实,我们将被禁锢在大数据的可能性之中。所以书中提出了几种解决方法,一种是使用数据时征询数据所有个人的知晓和授权。第二个技术途径就是匿名化。毫无疑问,大数据将会给社会管理带来巨大的变革。

在这个信息爆炸的时代,大数据给人类社会的方方面面带来了巨大的变革,这是社会发展的潮流,不可逆转,我们只有顺应这种潮流,把握住大数据时代变革的思想,才能在时代潮流中成为佼佼者,在思维上思路上略高一筹,才能在行动中占得先机!篇四:《大数据时代》读书心得

大数据时代,引领信息全球化

——读《大数据时代》有感

如今说起新媒体和互联网,必提大数据,似乎不这样说就out了。而且人云亦云的居多,不少谈论者甚至还没有认真读过这方面的经典著作——舍恩佰格的《大数据时代》。维克托·迈尔——舍恩伯格何许人也?他现任牛津大学网络学院互联网研究所治理与监管专业教授,曾任哈佛大学肯尼迪学院信息监管科研项目负责人。他的咨询客户包括微软、惠普和ibm等全球顶级企业,他是欧盟互联网官方政策背后真正的制定者和参与者,他还先后担任多国政府高层的智囊。这位被誉为:大数据时代的预言家“的牛津教授真牛!那么,这位大师说的都是金科玉律吗?并不一定,读大师的作品一定要做些功课才好读懂,如果能做足功课又具备相应的理论功底,就能与之进行一场思想上的对话。

粗浅认识之我见

舍恩伯格分三部分来讨论大数据,即思维变革、商业变革和管理变革。在第一部分“大数据时代的思维变革”中,舍恩伯格旗帜鲜明的亮出他的三个观点:

一、更多:不是随机样本,而是全体数据;

二、更杂:不是精确性,而是混杂性;

三、更好:不是因果关系,而是相关关系。对于第一个观点,我不敢苟同。一方面是对全体数据进行处理,在技术和设备上有相当高的难度。另一方面是不是都有此必要,对于简单事实进行判断的数据分析难道也要采集全体数据吗?我曾与香港城市大学的祝建华教授讨论过。祝教授是传播学研究方法和数据分析的专家,他认为一定可以找到一种数理统计方法来进行分析,并不一定需要全部数据。联系到舍恩伯格第二个观点中所说的相关关系,我理解他说的全体数据不是指数量而是指范围,即大数据的随机样本不限于目标数据,还包括目标以外的所有数据。我认为大数据分析不能排除随机抽样,只是抽样的方法和范围要加以拓展。

我同意舍恩伯格的第二观点,我认为这是对他第一个观点很好的补充,这也是对精准传播和精准营销的一种反思。“大数据的简单算法比小数据的复杂算法更有效。”更具有宏观视野和东方哲学思维。对于舍恩伯格的第三个观点,我也不能完全赞同。“不是因果关系,而是相关关系。”不需要知道“为什么”,只需要知道“是什么”。传播即数据,数据即关系。在小数据时代人们只关心因果关系,对相关关系认识不足,大数据时代相关关系举足轻重,如何强调都不为过,但不应该完全排斥它。大数据从何而来?为何而用?如果我们完全忽略因果关系,不知道大数据产生的前因后果,也就消解了大数据的人文价值。如今不少学者为了阐述和传播其观点往往语出惊人,对旧有观念进行彻底的否定。

世间万物的复杂性多样化并非非此即彼那么简单,舍恩伯格也是这种二元对立的幼稚思维吗?其实不然,读者在阅读时一定要看清楚他是在什么语境下说的,不要因囫囵吞枣的浅读而陷入断章取义的误

读。比如说舍恩伯格在提出“不是因果关系,而是相关关系。”这一论断时,他在书中还说道:“在大多数情况下,一旦我们完成了对大数据的相关关系分析,而又不再满足于仅仅知道‘是什么’时,我们就会继续向更深层次研究的因果关系,找出背后的‘为什么’。”由此可见,他说的全体数据和相关关系都在特定语境下的,是在数据挖掘中的选项。

大数据研究的一大驱动力就是商用,舍恩伯格在第二部分里讨论了大数据时代的商业变革。舍恩伯格认为数据化就是一切皆可“量化”,大数据的定量分析有力地回答“是什么”这一问题,但仍然无法完全回答“为什么”。因此,我认为并不能排除定性分析和质化研究。数据创新可以创造价值,这是毫无疑问的。舍恩伯格在讨论大数据的角色定位时仍把它置于数据应用的商业系统中,而没有把它置于整个社会系统里,但他在第二部分大数据时代的管理变革中讨论了这个问题。在风险社会中信息安全问题日趋凸显,数据独裁与隐私保护成为一对矛盾。如何摆脱大数据的困境?舍恩伯格在最后一节“掌控”中试图回答,但基本上属于老生常谈。我想,或许凯文·凯利的《失控》可以帮助我们解答这个问题?至少可以提供更多的思考维度。正如舍恩伯格在结语中所道:“大数据并不是一个充斥着算法和机器的冰冷世界,人类的作用依然无法被完全替代。大数据为我们提供的不是最终答案,只是参考答案,帮助是暂时的,而更好的方法和答案还在不久的未来。”谢谢舍恩伯格!让大数据讨论从自然科学回到人文

社科。由此推断,《大数据时代》不是最终答案,也不是标准答案,只是参考答案。

此外,在阅读此书之前还必须具备一些数据科学的基本知识和基本概念,比如说什么叫数据?什么叫大数据?数据分析与数据挖掘的区别,数字化与数据化有什么不同?读前做些功课读起来就比较好懂了。

浅薄之语抒我意

概念是研究的逻辑起点,“大数据”到底是什么?在百度上搜索到的解释是,“大数据(big data),或称巨量资料,指的是所涉及的资料量规模巨大到无法透过目前主流软件工具,在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。”大数据的4v特点:数量(volume)、速度(velocity)、品种(variety)和真实性(veracity)。但舍恩伯格认为大数据并非一个确切的概念。他在书中的一段诠释更具人文色彩和社会意义:“大数据是人们获得新的认知、创造新的价值的源泉;大数据还是改变市场、组织机构,以及政府与公民关系的方法。”其实,概念的界定要看研究者从哪个角度来研究它而定。

科学家的治学态度是严谨的,而人文学家更具有想象力。一些对大数据不甚了然的人往往夸大了它的作用,甚至把它神化。舍恩伯格认为大数据的核心是预测。“大数据不是要教机器像人一样思考。相

反,把数学算法运用到海量的数据上来预期事情发生的可能性。”舍恩伯格甚至不回避大数据所产生的负面影响,他在第七章里谈到让数据主宰一切的隐忧。我觉得这是实事求是的科学态度。在量子力学里有一个测不准原理:一个微观粒子的某些物理量(如位置和动量,或方位角与动量矩,还有时间和能量等),不可能同时具有确定的数值,其中一个量越确定,另一个量的不确定程度就越大。它是解释微观世界的物理现象,信息社会中的大数据会不会也有类似情况呢?如果我们再把凯文·凯利的《失控》对比来读的话就更有意思了,这样我们对整个物质世界及至人类社会就有了更全面更深刻的洞察,从物理王国到生物世界,再到信息社会。从公共卫生到商业应用,从个人隐私到政府管理,大数据无处不在。与此同时,从哪个角度探讨用什么方法研究,舍恩伯格都不会忘记大数据服务人类造福人类的终极目的和价值所在。“大数据并不是一个充斥着运算法则和机器的冰冷世界,其中仍需要人类扮演重要角色。人类独有的弱点、错觉、错误都是十分必要的,因为这些特性的另一头牵着的是人类的创造力、直觉和天赋。偶尔也会带来屈辱或固执的同样混乱的大脑运作,也能带来成功,或在偶然间促成我们的伟大。这提示我们应该乐于接受类似的不准确,因为不准确正是我们之所以为人的特征之一。”用中国话来说就是“人无完人”,人类在收获大数据带来的红利的同时也要承受它带来的危害。这不是对立统一的辩证唯物主义?我把它看作带着欧洲批判学派色彩的科学发展观。篇五:《大数据时代》读书心得

大数据时代,引领信息全球化

——读《大数据时代》有感

如今说起新媒体和互联网,必提大数据,似乎不这样说就out了。而且人云亦云的居多,不少谈论者甚至还没有认真读过这方面的经典著作——舍恩佰格的《大数据时代》。维克托·迈尔——舍恩伯格何许人也?他现任牛津大学网络学院互联网研究所治理与监管专业教授,曾任哈佛大学肯尼迪学院信息监管科研项目负责人。他的咨询客户包括微软、惠普和ibm等全球顶级企业,他是欧盟互联网官方政策背后真正的制定者和参与者,他还先后担任多国政府高层的智囊。这位被誉为:大数据时代的预言家“的牛津教授真牛!那么,这位大师说的都是金科玉律吗?并不一定,读大师的作品一定要做些功课才好读懂,如果能做足功课又具备相应的理论功底,就能与之进行一场思想上的对话。粗浅认识之我见 舍恩伯格分三部分来讨论大数据,即思维变革、商业变革和管理变革。在第一部分“大数据时代的思维变革”中,舍恩伯格旗帜鲜明的亮出他的三个观点:

一、更多:不是随机样本,而是全体数据;

二、更杂:不是精确性,而是混杂性;

三、更好:不是因果关系,而是相关关系。对于第一个观点,我不敢苟同。一方面是对全体数据进行处理,在技术和设备上有相当高的难度。

第8篇:大数据时代

“大”数据时代 众所周知,数据本身就蕴藏着价值,但是将有用的数据与没有价值的数据进行区分看起来可能是一个棘手的问题。

显然,您所掌握的人员情况、工资表和客户记录对于企业的运转至关重要,但是其他数据也拥有转化为价值的力量。一段记录人们如何在您的商店浏览购物的视频、人们在购买您的服务前后的所作所为、如何通过社交网络联系您的客户、是什么吸引合作伙伴加盟、客户如何付款以及供应商喜欢的收款方式……所有这些场景都提供了很多指向,将它们抽丝剥茧,透过特殊的棱镜观察,将其与其他数据集对照,或者以与众不同的方式分析解剖,就能让您的行事方式发生天翻地覆的转变。

大数据(big data),或称巨量资料,指的是所涉及的资料量规模巨大到无法通过目前主流软件工具,在合理时间内达到撷取、管理、处理、并整理成为帮助企业经营决策更积极目的的资讯。

“大数据”这个术语最早期的引用可追溯到apache org的开源项目Nutch。当时,大数据用来描述为更新网络搜索索引需要同时进行批量处理或分析的大量数据集。随着谷歌MapReduce和Google File System(GFS)的发布,大数据不再仅用来描述大量的数据,还涵盖了处理数据的速度。

早在1980年,著名未来学家阿尔文·托夫勒便在《第三次浪潮》一书中,将大数据热情地赞颂为“第三次浪 潮的华彩乐章”。不过,大约从2009年开始,“163大数据”才成为互联网信息技术行业的流行词汇。美国互联网数据中心指出,互联网上的数据每年将增长50%,每两年便将翻一番,而目前世界上90%以上的数据是最近几年才产生的。此外,数据又并非单纯指人们在互联网上发布的信息,全世界的工业设备、汽车、电表上有着无数的数码传感器,随时测量和传递着有关位置、运动、震动、温度、湿度乃至空气中化学物质的变化,也产生了海量的数据信息。

大数据技术的战略意义不在于掌握庞大的数据信息,而在于对这些含有意义的数据进行专业化处理。换言之,如果把大数据比作一种产业,那么这种产业实现盈利的关键,在于提高对数据的“加工能力”,通过“加工”实现数据的“增值”。

大数据就是互联网发展到现今阶段的一种表象或特征而已,没有必要神话它或对它保持敬畏之心,在以云计算为代表的技术创新大幕的衬托下,这些原本很难收集和使用的数据开始容易被利用起来了,通过各行各业的不断创新,大数据会逐步为人类创造更多的价值。

第9篇:大数据时代

《大数据时代》读书笔记

作者:迈尔舍恩伯格

出版发行:浙江人民出版社

版次:2013年1月第一版

读者:物流一班、时菲阳

一、作者观点

谷歌有一个名为“谷歌流感趋势”的工具,它通过跟踪搜索词相关数据来判断全美地区的流感情况。这就是一个典型的“大数据”的应用例子,舍恩伯格的这本《大数据时代》受到了广泛的赞誉,他本人也因此书被视为大数据领域中的领军人物。

作者提出了三点结论:第一,要尽可能分析事物相关的“全部”数据,而不是之前的随机抽样,即“样本=总体”。第二,要乐于接受数据的繁杂,而不应过分追求其精确性。第三,重视大数据呈现的“相关关系”,而不要执于探索事物间的因果关系。

二、摘抄:

在甲型H1N1流感爆发的几周前,互联网巨头谷歌公司的工程师们在《自然》杂志上发表了一篇引人注目的论文。它令公共卫生官员们和计算机科学家们感到震惊。文中解释了谷歌为什么能够预测冬季流感的传播:不仅是全美范围的传播,而且可以具体到特定的地区和州。谷歌通过观察人们在网上的搜索记录来完成这个预测,而这种方法以前一直是被忽略的。谷歌保存了多年来所有的搜索记录,而且每天都会收到来自全球超过30亿条的搜索指令,如此庞大的数据资源足以支撑和帮助它完成这项工作。

发现能够通过人们在网上检索的词条辨别出其是否感染了流感后,谷歌公司把五千万条美国人最频繁检索的词条和美国疾控中心在03年至08年间季节性流感传播时期的数据进行了比较。其他公司也曾试图确定这些相关的词条,但是他们缺乏像谷歌公司一样庞大的数据资源、处理能力和统计技术。

虽然谷歌公司的员工猜测,特定的检索词条是为了在网络上得到关于流感的信息,如“哪些是治疗咳嗽和发热的药物”,但是找出这些词条并不是重点,他们也不知道哪些词条更重要,更关键的是,他们建立的系统并不依赖于这样的语义理解。他们设立的这个系统唯一关注的就是特定检索词条的频繁使用与流感在时间和空间上的传播之间的联系。谷歌公司为了测试这些检索词条,总共处理了4.5亿个不同的数字模型。在将得出的预测与07年、08年美国疾控中心记录的实际流感病例进行对比后,谷歌公司发现,他们的软件发现了45条检索词条的组合,一旦将它们用于一个数学模型,他们的预测与官方数据的相关性高达97%。和疾控中心一样,他们也能判断出流感是从哪里传播出来的,而且他们的判断非常及时,不会像疾控中心一样要在流感爆发一两周之后才可以做到。

所以,09年甲型H1N1流感爆发的时候,与习惯性滞后的官方数据相比,谷歌成为了一个更有效、更及时的指示标。公共卫生机构的官员获得了非常有价值的数据信息。惊人的是,谷歌公司的方法甚

至不需要分发口腔试纸和联系医生——它是建立在大数据的基础之上的。这是当今社会所独有的一种新型能力:以一种前所未有的方式,通过对海量数据进行分析,获得有巨大价值的产品和服务,或深刻的洞见。基于这样的技术理念和数据储备,下一次流感来袭的时候,世界将会拥有一种更好的预测工具,以预防流感的传播。

三、感想:

看完本书有如下感想:

首先,作者站在理论的制高点上,条理清楚地阐述了大数据对人类的工作、生活、思维带来的革新,大数据时代的三种典型的商业模式,以及大数据时代对于个人隐私保护、公共安全提出的挑战。其次,文中的事例贴近现实生活,贴近时代,令读者既印象深刻,又感同身受。此外,作者没有使用大量的专业术语,没有假装一副专业的面孔。纵观全书,遣词造句,均通俗易懂。

其次,作者认为大数据时代具有三个显著特点。

一、人们研究与分析某个现象时,将使用全部数据而非抽样数据;

二、在大数据时代,不能一味地追求数据的精确性,而要适应数据的多样性、丰富性、甚至要接受错误的数据。

三、了解数据之间的相关性,胜于对因果关系的探索。“是什么”比“为什么”重要。

最后,作者指出,随着技术的发展,数据的存储与处理成本显著降低,人们现在有能力从支离破碎的、看似毫不相干的数据矿渣中抽炼出真知烁见。在大数据时代,三类公司将成为时代的宠儿。一是拥有大数据的公司与组织。如政府、银行、电信公司、全球性互联网公

司(阿里巴巴、淘宝网)。二是拥有数据分析与处理技术的专业公司,如亚马逊、谷歌。三是拥有创新思维的公司,他们可能既不掌握大数据,也没有专业技术,但却擅长使用大数据,从大数据中找到自己的理想天地。

第10篇:大数据时代

大数据时代

近年来,随着互联网、移动互联网、智能手机及传感器等的普及,信息流量有了爆发性的增长,两会以后,互联网里最热的词汇,就是李克强总理在政府工作在报告里面提到的“互联网+”,大数据将会更广泛的被运用到各个领域,越来越多的业内人士开始谈论“大数据”,如何利用大数据,成为政府和众多企业关心的热点?

互联网+《大数据》紧紧围绕这些问题展开,帮您如何利用大数据为企业从战略上面进行指导挖掘和预测,从战术上进行营销服务和安全措施,精彩我们共同期待。

第一篇大数据很热,大数据不神秘(趋势)有人说,如果你不知道大数据,你就OUT了 --大数据到底有多热 什么样的数据算是大数据 --大数据的特点和概念辨析 乱我心者,大数据之事多烦忧 --大数据并不象你想象的那样神秘 身边的大数据

--大数据就在你我身边

案例分析:淘宝是如何利用大数据淘宝的 小结:不管你愿不愿意,大数据已经在那里 电话:010---59002742 010--59004371 第二篇:认识大数据 1.什么是大数据 2.大数据应用的意义

3.大数据在企业经营中应用的意义 4.对大数据的认识误区 案例分析

第三篇:大数据时代变革 1:大数据时代的思维变革 2:大数据时代的商业变革 3:大数据时代的管理变革

第四篇:大数据在营销中的运用 大数据精准营销 1.什么是精确营销 2.精确营销的方法 实操教学+案例分析

第五篇:在技术中应用 数据挖掘

大数据的核心价值——挖掘 1.什么是数据挖掘? 2.数据挖掘的流程 3.数据挖掘解决的问题 结合现场实操教学+案例分析

第六篇:预测

大数据的核心价值——预测 1:如何预测? 案例分析

第七篇:大数据与云计算 1:什么是云计算

2:大数据与云计算的关系

第八篇:大数据的安全问题

大数据给信息安全带来新的挑战和机遇 大数据存储安全策略 大数据应用安全策略 大数据管理安全策略

第11篇:学习《大数据时代》读书心得

读《大数据时代》心得体会

根据公司《关于下发中国共产党员全年学习计划的通知》组织分公司全体党员个人学习《大数据时代》,读了《大数据时代》后,感觉到一个大变革的时代将要来临。虽然还不怎么明了到底要彻底改变哪些思维和操作方式,但显然作者想要“终结”或颠覆一些传统上作为我们思维和生存基本理论、方法和方式。在这样的想法面前,我的思想被强烈震撼,不禁战栗起来。

“在小数据时代,我们会假象世界是怎样运作的,然后通过收集和分析数据来验证这种假想。”“随着由假想时代到数据时代的过渡,我们也很可能认为我们不在需要理论了。”书中几乎肯定要颠覆统计学的理论和方法,也试图通过引用《连线》杂志主编安德森的话“量子物理学的理论已经脱离实际”来“终结”量子力学。对此我很高兴,因为统计学和量子力学都是我在大学学习时学到抽筋都不能及格的课目。但这两个理论实在太大,太权威,太基本了,我想我不可能靠一本书就能摆脱这两个让我头疼一辈子的东西。作者其实也不敢旗帜鲜明地提出要颠覆它们的论点,毕竟还是在前面加上了“很可能认为”这样的保护伞。

近几十年,我们总是在遇到各种各样的新思维。在新思维面前我们首先应该做到的就是要破和立,要改变自己的传统,跟上时代的脚步。即使脑子还跟不上,嘴巴上也必须跟上,否则可能会被扣上思想僵化甚至阻碍世界发展的大帽子。既然大数据是“通往未来的必然改变”,那我就必须“不受限于传统的思维模式和特定领域里隐含的固有偏见”,跟作者一起先把统计学和量子力学否定掉再说。反正我也不喜欢、也学不会它们。

当我们人类的数据收集和处理能力达到拍字节甚至更大之后,我们可以把样本变成全部,再加上有能力正视混杂性而忽视精确性后,似乎真的可以抛弃以抽样调查为基础的统计学了。但是由统计学和量子力学以及其他很多“我们也很可能认为我们不再需要的”理论上溯,它们几乎都基于一个共同的基础——逻辑。要是不小心把逻辑或者逻辑思维或者逻辑推理一起给“不再需要”的话,就让我很担心了!

《大数据时代》第16页“大数据的核心就是预测”。逻辑是——描述时空信息“类”与“类”之间长时间有效不变的先后变化关系规则。两者似乎是做同一件事。可大数据要的“不是因果关系,而是相关关系”,“知道是什么就够了,没必要知道为什么”,而逻辑学四大基本定律(同一律、矛盾律、排中律和充足理由律)中的充足理由律又“明确规定”任何事物都有其存在的充足理由。且逻辑推理三部分——归纳逻辑、溯因逻辑和演绎逻辑都是基于因果关系。两者好像又是对立的。在同一件事上两种方法对立,应该只有一个结果,就是要否定掉其中之一。这就是让我很担心的原因。

1 可我却不能拭目以待,像旁观者一样等着哪一个“脱颖而出”,因为我身处其中。问题不解决,我就没法思考和工作,自然就没法活了!

更何况还有两个更可怕的事情。

其一:量子力学搞了一百多年,为了处理好混杂性问题,把质量和速度结合到能量上去了,为了调和量子力学与相对论的矛盾,又搞出一个量子场论,再七搞八搞又有了虫洞和罗森桥,最后把四维的时空弯曲成允许时间旅行的样子,恨不得马上造成那可怕的时间旅行机器。唯一阻止那些“爱因斯坦”们“瞎胡闹”的就是因果关系,因为爸爸就是爸爸,儿子就是儿子。那么大数据会不会通过正视混杂性,放弃因果关系最后反而搞出时间机器,让爸爸不再是爸爸,儿子不再是儿子了呢?

其二:人和机器的根本区别在于人有逻辑思维而机器没有。《大数据时代》也担心“最后做出决策的将是机器而不是人”。如果真的那一天因为放弃逻辑思维而出现科幻电影上描述的机器主宰世界消灭人类的结果,那我还不如现在就趁早跳楼。

还好我知道自己对什么统计学、量子力学、逻辑学和大数据来说都是门外汉,也许上面一大篇都是在胡说八道,所谓的担心根本不存在。但问题出现了,还是解决的好,不然没法睡着觉。自己解决不了就只能依靠专家来指点迷津。

第12篇:大数据心得体会

大数据时代的信息分析平台搭建安装报告

一、平台搭建

描述小组在完成平台安装时候遇到的问题以及如何解决这些问题的,要求截图加文字描述。

问题一:在决定选择网站绑定时,当时未找到网站绑定的地方。解决办法:之后小组讨论后,最终找到网站绑定的地方,点击后解决了这个问题。

问题二:当时未找到TCP/IP属性这一栏

解决办法:当时未找到TCP/IP属性这一栏,通过老师的帮助和指导,顺利的点击找到了该属性途径,启用了这一属性,完成了这一步的安装步骤。

问题三:在数据库这一栏中,当时未找到“foodmartsaleDW”这个文件

解决办法:在数据库这一栏中,当时未找到“foodmartsaleDW”这个文件,后来询问老师后,得知该文件在第三周的文件里,所以很快的找到了该文件,顺利的进行了下一步

问题四:在此处的SQL server的导入和导出向导,这个过程非常的长。

解决办法:在此处的SQL server的导入和导出向导,这个过程非常的长,当时一直延迟到了下课的时间,小组成员经讨论,怀疑是否是电脑不兼容或其他问题,后来经问老师,老师说此处的加载这样长的时间是正常的,直到下课后,我们将电脑一直开着到寝室直到软件安装完为止。

问题五:问题二:.不知道维度等概念,不知道怎么设置表间关系的数据源。关系方向不对

解决办法:百度维度概念,设置好维度表和事实表之间的关系,关系有时候是反的——点击反向,最后成功得到设置好表间关系后的数据源视图。(如图所示)

这个大图当时完全不知道怎么做,后来问的老师,老师边讲边帮我们操作完成的。

问题六:由于发生以下连接问题,无法将项目部署到“localhost”服务器:无法建立连接。请确保该服务器正在运行。若要验证或更新目标服务器的名称,请在解决方案资源管理器中右键单击相应的项目、选择“项目属性”、单击“部署”选项卡,然后输入服务器的名称。”因为我在配置数据源的时候就无法识别“localhost”,所以我就打开数据库属性页面:图1-图2 图一:

图二:

解决办法:解决办法: 图2步骤1:从图1到图2后,将目标下的“服务器” 成自己的SQL SERVER服务器名称行SQL ServerManagement Studio可以)步骤2:点确定后,选择“处理”,就可以成功部署了。

问题七:无法登陆界面如图:

解决方法:尝试了其他用户登陆,就好了

二、心得体会

(1)在几周的学习中,通过老师课堂上耐心细致的讲解,耐心的指导我们如何一步一步的安装软件,以及老师那些简单清晰明了的课件,是我了解了SQL的基础知识,学会了如何创建数据库,以及一些基本的数据应用。陌生到熟悉的过程,从中经历了也体会到了很多感受,面临不同的知识组织,我们也遇到不同困难。

数据隐藏着有价值的模式和信息,在以往的时间才能提取这些信息。如今的各种资源,如硬件、云结构和开源软件使得大数据的处理方法更为方便和廉价。大数据的规模是传统IT架构所面临的直接挑战。要求可扩展的储存和分布方式来完成查询。传统的关系数据库无法处

理大数据的规模。大数据进修学习内容模板:

LINUX安装,文件系统,系统性能分析 HAdoop学习原理

大数据飞速发展时代,做一个合格的大数据开发工程师,只有不断完善自己,不断提高自己技术水平,这是一门神奇的课程。

2、在学习SQL的过程中,让我们明白了原来自己的电脑可以成为一个数据库,也可以做很多意想不到的事。以及在学习的过程中让我的动手能力增强了,也让我更加懂得了原来电脑的世界是如此的博大精深,如此的神秘。通过这次的学习锻炼了我们的动手能力,上网查阅的能力。改善了我只会用电脑上网的尴尬处境,是电脑的用处更大。让我们的小组更加的团结,每个人对自己的分工更加的明确,也锻炼了我们的团结协作,互帮互助的能力。

3、如果再有机会进行平台搭建,会比这一次的安装更加顺手。而在导入数据库和报表等方面也可以避免再犯相同的错误,在安装lls时可以做的更好。相信报表分析也会做的更加简单明了有条理。

总结,大数据时代是信息化社会发展必然趋势,在大学的最后一学期里学习了这门课程是我们受益匪浅。让我们知道了大数据大量的存在于现代社会生活中,随着新兴技术的发展与互联网底层技术的革新,数据正在呈指数级增长,所有数据的产生形式,都是数字化。如何收集、管理和分析海量数据对于企业从事的一切商业活动都显得尤为重要。

大数据时代是信息化社会发展必然趋势,我们只有紧紧跟随时代的发展才能在以后的工作生活中中获得更多的知识和经验。

三、结语

叙述小组内每个组员在这次的项目里各自分工和完成情况,组长需给组员打分,10分为满分

第13篇:大数据心得体会

大数据心得体会

早在2007年,人类制造的信息量有史以来第一次在理论上超过可用存储空间总量,近几年两者的剪刀差越来越大。2010年,全球数字规模首次达到了“ZB”(1ZB=1024TB)级别。2012年,淘宝网每天在线商品数超过8亿件。2013年底,中国手机网民超过6亿户。随着互联网、移动互联网、传感器、物联网、社交网站、云计算等的兴起,我们这个社会的几乎所有方面都已数字化,产生了大量新型、实时的数据。无疑,我们已身处在大数据的海洋。

有两个重要的趋势使得目前的这个时代(大数据时代)与之前有显著的差别:其一,社会生活的广泛数字化,其产生数据的规模、复杂性及速度都已远远超过此前的任何时代;其二,人类的数据分析技术和工艺使得各机构、组织和企业能够以从前无法达到的复杂度、速度和精准度从庞杂的数据中获得史无前例的洞察力和预见性。

大数据是技术进步的产物,而其中的关键是云技术的进步。在云技术中,虚拟化技术乃最基本、最核心的组成部份。计算虚拟化、存储虚拟化和网络虚拟化技术,使得大数据在数据存储、挖掘、分析和应用分享等方面不仅在技术上可行,在经济上也可接受。

在人类文明史上,人类一直执着探索我们处的世界以及人类自身,一直试图测量、计量这个世界以及人类自身,试图找到隐藏其中的深刻关联、运行规律及终极答案。大数据以其人类史上从未有过的庞大容量、极大的复杂性、快速的生产及经济可得性,使人类第一次试图从总体而非样本,从混杂性而非精确性,从相关关系而非因果关系来测量、计量我们这个世界。人类的思维方式、行为方式及社会生活的诸多形态(当然包括商业活动)正在开始发生新的变化。或许是一场革命性、颠覆性的变化。从这个意义上讲,大数据不仅是一场技术运动,更是一次哲学创新。1 大数据的概述

1.1 大数据的概念

大数据(Big Data)是指那些超过传统数据库系统处理能力的数据。它的数据规模和转输速度要求很高,或者其结构不适合原本的数据库系统。为了获取大数据中的价值,我们必须选择另一种方式来处理它。

数据中隐藏着有价值的模式和信息,在以往需要相当的时间和成本才能提取这些信息。如沃尔玛或谷歌这类领先企业都要付高昂的代价才能从大数据中挖掘信息。而当今的各种资源,如硬件、云架构和开源软件使得大数据的处理更为方便和廉价。即使是在车库中创业的公司也可以用较低的价格租用云服务时间了。

对于企业组织来讲,大数据的价值体现在两个方面:分析使用和二次开发。对大数据进行分析能揭示隐藏其中的信息,例如零售业中对门店销售、地理和社会信息的分析能提升对客户的理解。对大数据的二次开发则是那些成功的网络公司的长项。例如Facebook通过结合大量用户信息,定制出高度个性化的用户体验,并创造出一种新的广告模式。这种通过大数据创造出新产品和服务的商业行为并非巧合,谷歌、雅虎、亚马逊和Facebook,它们都是大数据时代的创新者。

1.2 大数据的三层关系

第一层关系:数据与机器的关系。大数据纪元刚开始,产业界碰到的第一个核心问题就是“大”的问题。做了几十年的数据仓库甚至海量并行处理的数据库都不能处理那么大的数据,怎么办?需要范式切换。主要有三个方面,新型的数据与机器关系当中的第一条就是重新考虑架构与算法,重新考虑舍得,有舍才能得,天下没有免费的午餐,所以必须要舍弃一些,得到一些新的。必须舍弃贵族化的高端小型机和UNIX服务器,得到平民化的更大量的X86服务器。通过这样一种可横向、可水平扩展服务器处理每两年翻番的数据量的挑战。第二个舍得是舍弃硬件的可靠性和可用性,得到软件的可靠性和可用性。这也就是谷歌三大论文以及Hadoop的核心重点。第三个舍得是舍弃传统数据库的强一致性,获得更放松一致性、可扩展架构,如NoSQL。第四个舍得是传统算法强调非常严格的精确性,现在要放弃一些精确性,通过近似、采样这种方式来获得更好的扩展性。

最早大数据的处理范式是Mapreduce的批量处理,英特尔慢慢有其他的需求,实时的流处理、多迭代的处理、图计算、即时查询等等新的范式百花齐放,最后万法归宗。刚才王斌老师将讲的SAP的HANA本身就是数据管理和分析的融合,现在非常流行的Hadoop之后的SPARK,就是把前面的各种范式进行了融合。存储与内存的消长,大数据第一个要解决把数据存储下来,后来发现要把它放到大的内存里进行处理,获得实时性,接着在存储和内存之间现在又出现了闪存,有闪存化甚至全闪存的存储,也有闪存化的内存,把所有的计算在闪存里面处理,已经被微软、Facebook等等大量使用。大家可以预期,两年以后出现新的非易失性的闪存,它的速度可能要比闪存快几百倍,和内存相似,这又会极大地颠覆数据与机器的关系。

第二层关系:数据与人的关系。主要是价值的觉醒,如果数据不能产生价值它可能是负面资产。数据怎么能够给人带来价值?我们介绍一下它的价值维度,把它映射到二维的时空象限里,用六个关键词来描述它。第一是“Volume”,两个关键词,小数据见微对个人进行刻划,大数据知著能够了解宏观规律,它是空间概念,同时也是时间概念,数据刚刚产生的时候,它的个性化价值、见微的价值最大,而随着时间的推移,它渐渐退化到只有集合价值。第二是Velocity,时间轴的原点是当下实时价值,副轴是过往,正轴是预测未来,如果知道知前后就能够做到万物的皆明。第三是Variety,多源异质的数据,能够过滤噪声、查漏补缺、去伪存真,就是辩讹。还有晓意,能够从大量的非结构化数据中获得语意,从而能够使机器窥探人的思维境界,这六个价值维度怎么去实现?主要是两部分人,一是数据科学家要洞察数据,另外一个是终端用户和领域专家要去解读数据并利用数据。首先看洞察数据,数据科学,人和机器作用发生了消长,讲个例子,机器学习大家觉得是机器的问题,其实人在里面起到很重要的作用,尤其是机器学习是模型加特征,而特征工程是一个人力工程,你要有经验非常丰富的特征团队去死磕特征,找出更好、更多的特征,才能够使机器学习的效果更好。但是现在深度学习这些新技术出来,能够用机器学习特征,能够在大量非结构化数据中找到丰富的信息维度用特征表达出来,这远远超出了人的能力。大家知道黑客帝国描述了一个场景,人脑袋后面插一个插头,给机器提供营养,我可能不会那么悲观,但是像这样的互动关系以一种更良性的方式出现了,现在人的一言一行、社交行为、金融行为都已经成为机器的养料、机器的数据,使得机器获得更好的洞察。

终端用户需要更好地、更傻瓜化的分析工具和可视化工具,两年前我去参加大数据的会,基本上都是Hadoop和NoSQL现在大家参加大数据会可以看到清一色的分析工具和可视化工具。大数据跟各行各业的化学作用正在发生。如果马化腾说“互联网+”是互联网与各行各业的加法效应,那么大数据将与各行各业产生乘法效应。

第三个关系,数据与数据的关系。现在只有海面平的数据是搜索引擎可以检索到,深海的数据可能是黑暗的数据,在政府、在企业里大家看不到。我们怎么办呢?必须让数据发现数据。只有让数据能够发现数据、遇到数据,才能产生金风玉露一相逢、便胜却人间无数的效果。这里有三个重要的观念,需要法律、技术、经济理论和实践上配合。法律上要明确数据的权利,数据所有权,数据的隐私权,什么数据不能给你看;数据的许可权,什么数据是可以给你看的;数据的审计权,我给你看了以后,你是不是按照许可的范围去看;数据的分红权。数据像原油又不同于原油,原油用完了就没有了,数据可以反复地产生价值,因此数据的拥有者应该得到分红。我们要保证数据的开放、共享、交易。公共数据和部分科研数据要开放,开放过程中注意保护隐私。企业之间可以进行数据的点对点共享,最高境界是不丢失数据的所有权和隐私权的前提下共享,这里有多方安全计算的概念。1982年姚期智老先生提出了百万富翁的窘境的问题,两个百万富翁他们想要比谁更富,但是谁都不愿意说出来自己都多少钱,在我们的数据共享当中要通过各种各样的技术达到这样的效果。还有数据交易,建立多边多边平台来支持数据交易。

互联网能发展起来经济学理论和实践是很重要的支撑,梅特卡夫定律决定了一个互联网公司的价值,跟它用户数的平方成正比,又比如说谷歌请最好的经济学家,它的一个广告业务的核心就是建立在一个非常先进的拍卖经济学的模型基础上。数据经济也需要这样一些基础的理论,比如数据定价和信息定价不一样,信息做一个咨询报告5000美金卖给你,可以卖给所有人。但数据对不同的单位价值不一样,可能我之毒药是彼之蜜糖。另外估值,一个企业拥有大量的数据,是无形资产的一部分,对于企业的市场价值带来了多大的增长。

1.3 大数据的四个特性

大数据是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和多样化的信息资产。这也是一个描述性的定义,在对数据描述的基础上加入了处理此类数据的一些特征,用这些特征来描述大数据。当前,较为统一的认识是大数据有四个基本特征: 数据规模大(Volume),数据种类多(Variety),数据要求处理速度快(Velocity),数据价值密度低(Value),即所谓的四V 特性。

数据规模大(Volume):企业面临着数据量的大规模增长。例如,IDC最近的报告预测称,到2020年,全球数据量将扩大50倍。目前,大数据的规模尚是一个不断变化的指标,单一数据集的规模范围从几十TB到数PB不等。简而言之,存储1PB数据将需要两万台配备50GB硬盘的个人电脑。此外,各种意想不到的来源都能产生数据。

数据种类多(Variety):一个普遍观点认为,人们使用互联网搜索是形成数据多样性的主要原因,这一看法部分正确。然而,数据多样性的增加主要是由于新型多结构数据,以及包括网络日志、社交媒体、互联网搜索、手机通话记录及传感器网络等数据类型造成。其中,部分传感器安装在火车、汽车和飞机上,每个传感器都增加了数据的多样性。

处理速度快(Velocity):高速描述的是数据被创建和移动的速度。在高速网络时代,通过基于实现软件性能优化的高速电脑处理器和服务器,创建实时数据流已成为流行趋势。企业不仅需要了解如何快速创建数据,还必须知道如何快速处理、分析并返回给用户,以满足他们的实时需求。根据IMS Research关于数据创建速度的调查,据预测,到2020年全球将拥有220亿部互联网连接设备。

数据价值密度低(Value):大数据具有多层结构,这意味着大数据会呈现出多变的形式和类型。相较传统的业务数据,大数据存在不规则和模糊不清的特性,造成很难甚至无法使用传统的应用软件进行分析。传统业务数据随时间演变已拥有标准的格式,能够被标准的商务智能软件识别。目前,企业面临的挑战是处理并从各种形式呈现的复杂数据中挖掘价值。

1.4 大数据的三个特征

除了有四个特性之外,大数据时代的数据还呈现出其他三个特征。

第一个特征是数据类型繁多。包括网络日志、音频、视频、图片、地理位置信息等等,多类型的数据对数据的处理能力提出了更高的要求.第二个特征是数据价值密度相对较低。如随着物联网的广泛应用,信息感知无处不在,信息海量,但价值密度较低,如何通过强大的机器算法更迅速地完成数据的价值“提纯”,是大数据时代亟待解决的难题。

第三个特征是处理速度快,时效性要求高。这是大数据区分于传统数据挖掘最显著的特征。

2 大数据的技术与处理

2.1 大数据的技术

1.数据采集:ETL工具负责将分布的、异构数据源中的数据如关系数据、平面数据文件等抽取到临时中间层后进行清洗、转换、集成,最后加载到数据仓库或数据集市中,成为联机分析处理、数据挖掘的基础。

2.数据存取:关系数据库、NOSQL、SQL等。

3.基础架构:云存储、分布式文件存储等。

4.数据处理:自然语言处理(NLP,NaturalLanguageProceing)是研究人与计算机交互的语言问题的一门学科。处理自然语言的关键是要让计算机"理解"自然语言,所以自然语言处理又叫做自然语言理解(NLU,NaturalLanguage Understanding),也

学(computational Linguistics。一方面它是语言信息处理的一个分支,另一方面它是人工智能(AI, Artificial Intelligence)的核心课题之一。

5.统计分析:假设检验、显著性检验、差异分析、相关分析、T检验、方差分析、卡方分析、偏相关分析、距离分析、回归分析、简单回归分析、多元回归分析、逐步回归、回归预测与残差分析、岭回归、logistic回归分析、曲线估计、因子分析、聚类分析、主成分分析、因子分析、快速聚类法与聚类法、判别分析、对应分析、多元对应分析(最优尺度分析)、bootstrap技术等等。

6.数据挖掘:分类 (Claification)、估计(Estimation)、预测(Prediction)、相

则(Affinity grouping or aociation rules)、聚类(Clustering)、描述和可视化、Description and Visualization)、复杂数据类型挖掘(Text, Web ,图形图像,视频,音频等)。

7.模型预测:预测模型、机器学习、建模仿真。

8.结果呈现:云计算、标签云、关系图等。

2.2 大数据的处理

1.采集 大数据的采集是指利用多个数据库来接收发自客户端(Web、App或者传感器形式等)的数据,并且用户可以通过这些数据库来进行简单的查询和处理工作。比如,电商会使用传统的关系型数据库MySQL和Oracle等来存储每一笔事务数据,除此之外,Redis和MongoDB这样的NoSQL数据库也常用于数据的采集。

在大数据的采集过程中,其主要特点和挑战是并发数高,因为同时有可能会有成千上万的用户来进行访问和操作,比如火车票售票网站和淘宝,它们并发的访问量在峰值时达到上百万,所以需要在采集端部署大量数据库才能支撑。并且如何在这些数据库之间进行负载均衡和分片的确是需要深入的思考和设计。

2.导入/预处理

虽然采集端本身会有很多数据库,但是如果要对这些海量数据进行有效的分析,还是应该将这些来自前端的数据导入到一个集中的大型分布式数据库,或者分布式存储集群,并且可以在导入基础上做一些简单的清洗和预处理工作。也有一些用户会在导入时使用来自Twitter的Storm来对数据进行流式计算,来满足部分业务的实时计算需求。导入与预处理过程的特点和挑战主要是导入的数据量大,每秒钟的导入量经常会达到百兆,甚至千兆级别。

3.统计/分析

统计与分析主要利用分布式数据库,或者分布式计算集群来对存储于其内的海量数据进行普通的分析和分类汇总等,以满足大多数常见的分析需求,在这方面,一些实时性需求会用到EMC的GreenPlum、Oracle的Exadata,以及基于MySQL的列式存储Infobright等,而一些批处理,或者基于半结构化数据的需求可以使用Hadoop。统计与分析这部分的主要特点和挑战是分析涉及的数据量大,其对系统资源,特别是I/O会有极大的占用。

4.挖掘

与前面统计和分析过程不同的是,数据挖掘一般没有什么预先设定好的主题,主要是在现有数据上面进行基于各种算法的计算,从而起到预测(Predict)的效果,从而实现一些高级别数据分析的需求。比较典型算法有用于聚类的Kmeans、用于统计学习的SVM和用于分类的NaiveBayes,主要使用的工具有Hadoop的Mahout等。该过程的特点和挑战主要是用于挖掘的算法很复杂,并且计算涉及的数据量和计算量都很大,常用数据挖掘算法都以单线程为主。

整个大数据处理的普遍流程至少应该满足这四个方面的步骤,才能算得上是一个比较完整的大数据处理。

3 大数据的应用

正如诸多文献所谈到的,大数据对许多行业的影响和冲击已经呈现。例如,商零售、物流、医药、文化产业等。金融,作为现代经济中枢,其实也已透出了大数据金融的曙光。

过去的2013年,中国金融界热议最多的或许是互联网金融,更有人指出2013年是中国互联网金融元年。确实,第三方支付、P2P、网贷、众筹融资、余额宝、微信支付等发展迅速。众多传统金融业者也或推出自己的电商平台,或与互联网企业联手提供相应的金融产品和服务。

互联网金融,无论是业界、监管者或理论界,都在试图给出自己的理解和定义。但到目前为止,尚未有一个统一的、规范的概念。在我看来,互联网金融本来就是一个不确切的概念,也不可能有一个明确的定义。严格说来,所谓互联网金融只是大数据金融的一种展现或形态。换言之,前者是表,后者是里。

这是因为,无论是互联网还是金融业,其实质都是大数据(信息)。首先,对互联网企业而言,流量、客户等数据(信息)是其涉足金融业的基石。对金融企业而言,提供中介服务,撮合金融交易也是以数据(信息)为基础。其次,没有大数据技术的支撑,所谓互联网金融也难以快速、持续成长。20世纪90年代互联网浪潮的蓬勃兴起,至今已近二十年。但从世界范围看,所谓互联网金融却发展缓慢。当然,其中原因很多,但其主要原因则是大数据技术是近几年才快速发展起来的。最后,从金融企业来看,在数据中心建设,软硬件系统建设,数据(信息)挖掘、分析等方面也是做得有声有色,其庞大的客户数据、海量交易记录及众多信息源,使其在大数据应用方面也做了许多积极探索。因此,要准确反映近年新金融趋势,“大数据金融”比“互联网金融”更为贴切。

4 大数据应用中的三大难题 近年来,大数据这个词成为互联网领域关注度最高的词汇,时至今日,大数据已经不再是IT圈的“专利”了,从去年的春晚,到刚刚过去的两会,都能见到它的身影,但实际上春晚与两会的数据都只能叫做小数据,它与真正的大数据还相差甚远。即便如此,数据所产生的价值已经被人们所认知。

就大数据来说,它的发展可以分成三个阶段,第一个阶段是组织内部的数据,这些数据通常都是结构化的数据,我们一般将这些数据进行分类、排序等操作,将相同类型的数据进行对比、分析、挖掘,总而言之基本上都是统计工作。到了第二阶段,数据的范围扩大到行业内,各种各样的应用数据出现,数据量大规模增长,尤其是非结构化数据的出现。典型的像视频、图片这一类的数据,在这一阶段的特点就是非结构化和结构化数据并存,且数据量巨大,要对这些数据进行分析是我们目前现阶段所处在的状态。

第三阶段则是未来大数据发展的理想化状态,首先它一定是跨行业的,且数据的范围是整个社会。通过对这些数据进行分析加以使用,将直接改变我们的生活方式,这也是现在很多企业所设想的未来交通、医疗、教育等领域的发展方向。

1.大数据太大不敢用

第三个阶段是我们所憧憬的,但在我们所处的第二阶段面对的更多是问题。其中的一个问题就是“大”。大数据给人最直观的感受就是大,它所带来的问题不仅仅是存储,更多的是庞大的数据没办法使用,以交通为例,从2001年开始在北京的主干道上都增设了一些卡口设备,到了今天基本上大街小巷都能看到。这些设备每天所拍摄的视频及照片产生的数据量是惊人的,仅照片每天就能产生2千万张,而解决这些数据的存储只是最基本的任务,我们更需要的是使用这些数据。例如对套牌车辆的检查,对嫌疑车辆的监控,当你想要使用这些数据的时候,传统的数据库以及系统架构,放进这么庞大的数据,是根本跑不动的。这一问题导致很多企业对大数据望而却步。

2.大数据太难不会用

说到大数据的使用,自然离不开Hadoop,Hadoop本身提供了分布式系统中两个最重要的东西:分布式存储(HDFS)和分布式计算(Mapreduce)。这两者解决了处理大数据面临的计算和存储问题,但更为重要的是,为开发大数据应用开辟了道路。Hadoop是目前解决大数据问题最流行的一种方式,但其仍然有不成熟的地方,曾作为雅虎云计算以及Facebook软件工程师的Jonathan Gray就表示:“Hadoop实施难度大,且复杂,如果不解决技术复杂性问题,Hadoop将被自己终结。”正是由于这样的原因,Gray创办了自己的公司——Continuuity,这家公司的目标就是在Hadoop和Hbase基础上创建一个抽象层,屏蔽掉Hadoop底层技术的复杂性。由此可见想要用好大数据又是一大考验。

3.大数据太贵用不起

Hadoop的特点就是让你可以使用廉价的x86设备来完成大数据的业务,但事实上如果你真想要用它来完成某些商业任务你还得是个“土豪”。在国外那些使用大数据的成功案例里,亚马逊曾给出过这样一组数字,NASA需要为45天的数据存储服务支付超过100万美元。像Quant___cast这样的数字广告公司,同样也是花费了巨额的资金用在Hadoop技术上,来根据自己的需求定制系统。从上面两个案例来看用于商业用途的大数据现阶段还是很费钱的,随着大数据软件环境逐渐成熟,开发工具增多,价格在未来会逐渐降低。

从上面罗列的这三点困难,其实并不是要给大数据泼冷水,而是想说大数据想要淘金并不简单,首先在做大数据之前,好好盘点一下自己拥有的资源,不仅仅是数据资源,还包括知识与技能。确定了自己的能力之后,选择一个能够发挥你现有资源最大价值的项目。如果你需要帮手,应先考虑商业顾问,再考虑技术人才。为了解答一个生意上的困惑花下的钱,叫作投资,而把钱投到一个拥有特殊技能的IT人才身上,那就叫沉没成本。当你有了这些之后,选择更灵活且可扩展的工具,为以后的扩充打好基础。更重要的是——从小规模做起。

5 大数据创新的驱动力

计算机科学与技术的发展使得大规模信息处理基础设施产生重要改变。在过去的30年中,经典的数据库管理系统(DBMS)在处理大规模数据方面与时俱进,在企业数据处理等方面得到广泛应用。数据库研究和技术进展主要集中在数据建模、描述性查询语言、事务处理和数据库可靠性等。在这个过程中,相关的数据仓库和数据挖掘分析技术也成为一个热点研究方向;人们认识到数据处理过程中的信息可以被有效整理和分析来支持以数据为中心的决策支持。数据库管理系统在目前的互联网时代继续占据了重要地位。在一个典型的互联网服务系统架构中,数据库管理系统和Web服务器及应用服务共同作用,为互联网用户提供各类信息和服务。在这个系统架构中,人们期望系统能支持无限次和高速的互联网用户访问,这个时候数据库层由于在硬件可扩展性上面的不足可能成为系统性能瓶颈。这个挑战我们称为大数据问题(big data problem)。大数据系统期望能对大规模异构复杂数据建模,进行实时分析;传统的商用数据库系统很难提供良好的解决方案。另一个大数据相关的挑战是服务器端数据中心的数据维护及安全隐私问题。近年来云计算技术已经成为大数据中心的一种可靠解决方案,Google, Yahoo and Microsoft等公司也纷纷开发自己的云计算系统。尽管云计算在互联网应用中已经体现出很多优越性,其在系统成熟性、可用性等方面还有很大提高空间。

显而易见,大数据领域的大规模数据管理和复杂数据分析已经成为新的研究前沿。目前的各类大数据应用正是大数据研究的驱动力,比如社会网络、移动计算、科学应用等等。这些应用产生的大数据往往具有海量、时序动态性、多样等特性,给数据库领域的各项技术带来巨大挑战,涵盖包括数据获取、组织管理、分析处理和应用呈现等整个数据管理生命周期。针对数据管理和分析不同系统应用,各类大数据处理技术在也不断发展。MapReduce作为一种分布式的数据处理框架由于其灵活性、可扩展性、高效和容错等特性其近年来得到了广泛应用。此外,也有多类其他分布式数据处理系统用来解决MapReduce不擅长的问题,比如交互式分析、图计算和分析、实时和流处理、通用数据处理等等。大数据不但给数据库研究领域,同时也给体系结构、存储系统、系统软件和软件工程等计算机多个学科带来了很多机会和挑战。大数据正是目前很多计算机科学问题的根本,并驱动众多新科技的发展。

6 大数据的发展前景

大数据的概念来源于、发展于美国,并向全球扩展,必将给我国未来的科技与经济发展带来深远影响。根据IDC 统计,目前数据量在全球比例为: 美国32%、西欧19%、中国13%,预计到2020 年中国将产生全球21% 的数据,我国是仅次于美国的数据大国,而我国大数据方面的研究尚处在起步阶段,如何开发、利用保护好大数据这一重要的战略资源,是我国当前亟待解决的问题。

而大数据未来的发展趋势则从以下几个方面进行:

(1)开放源代码

大数据获得动力,关键在于开放源代码,帮助分解和分析数据。Hadoop 和NoSQL 数据库便是其中的赢家,他们让其他技术商望而却步、处境很被动。毕竟,我们需要清楚怎样创建一个平台,既能解开所有的数据,克服数据相互独立的障碍,又能将数据重新上锁。

(2)市场细分

当今,许多通用的大数据分析平台已投入市场,人们同时期望更多平台的出现,可以运用在特殊领域,如药物创新、客户关系管理、应用性能的监控和使用。若市场逐步成熟,在通用分析平台之上,开发特定的垂直应用将会实现。但现在的技术有限,除非考虑利用潜在的数据库技术作为通用平台(如Hadoop、NoSQL)。人们期望更多特定的垂直应用出现,把目标定为特定领域的数据分析,这些特定领域包括航运业、销售业、网上购物、社交媒体用户的情绪分析等。同时,其他公司正在研发小规模分析引擎的软件套件。比如,社交媒体管理工具,这些工具以数据分析做为基础。

(3)预测分析

建模、机器学习、统计分析和大数据经常被联系起来,用以预测即将发生的事情和行为。有些事情是很容易被预测的,比如坏天气可以影响选民的投票率,但是有些却很难被准确预测。例如,中间选民改变投票决定的决定性因素。但是,当数据累加时,我们基本上有能力可以大规模尝试一个连续的基础。网上零售商重新设计购物车,来探索何种设计方式能使销售利润最大化。根据病人的饮食、家族史和每天的运动量,医生有能力预测未来疾病的风险。当然,在人类历史的开端,我们就已经有各种预测。但是,在过去,许多预测都是基于直觉,没有依靠完整的数据集,或者单单靠的是常识。当然,即便有大量数据支撑你的预测,也不表明那些预测都是准确的。2007 年和2008 年,许多对冲基金经理和华尔街买卖商分析市场数据,认为房地产泡沫将不会破灭。根据历史的数据,可以预测出房地产泡沫即将破裂,但是许多分析家坚持原有的观点。另一方面,预测分析在许多领域流行起来,例如欺诈发现(比如在外省使用信用卡时会接到的诈骗电话),保险公司和顾客维系的风险管理。7 结语

大数据正在以不可阻拦的磅礴气势,与当代同样具有革命意义的最新科技进步(如纳米技术、生物工程、全球化等)一起,揭开人类新世纪的序幕。可以简单地说,以往人类社会基本处于蒙昧状态中的不发展阶段,即自然发展阶段。现在,这一不发展阶段随着2012年的所谓“世界末日”之说而永远成为了过去。大数据宣告了21世纪是人类自主发展的时代,是不以所谓“上帝”的意志为转移的时代,是“上帝”失业的时代。

对于地球上每一个普通居民而言,大数据有什么应用价值呢?只要看看周围正在变化的一切,你就可以知道,大数据对每个人的重要性不亚于人类初期对火的使用。大数据让人类对一切事物的认识回归本源;大数据通过影响经济生活、政治博弈、社会管理、文化教育科研、医疗保健休闲等等行业,与每个人产生密切的联系。

大数据技术离你我都并不遥远,它已经来到我们身边,渗透进入我们每个人的日常生活消费之中,时时刻刻,事事处处,我们无法逃遁,因为它无微不至:它提供了光怪陆离的全媒体,难以琢磨的云计算,无法抵御的仿真环境。大数据依仗于无处不在的传感器,比如手机、发带,甚至是能够收集司机身体数据的汽车,或是能够监控老人下床和行走速度与压力的“魔毯”(由GE与Intel联合开发),洞察了一切。通过大数据技术,人们能够在医院之外得悉自己的健康情况;而通过收集普通家庭的能耗数据,大数据技术给出人们切实可用的节能提醒;通过对城市交通的数据收集处理,大数据技术能够实现城市交通的优化。随着科学技术的发展,人类必将实现数千年的机器人梦想。早在古希腊、古罗马的神话中就有冶炼之神用黄金制造机械仆人的故事。《论衡》中也记载有鲁班曾为其母巧公制作一台木马车,“机关具备,一驱不还”。而到现代,人类对于机器人的向往,从机器人频繁出现在科幻小说和电影中已不难看出。公元2035年,智能型机器人已被人类广泛利用,送快递、遛狗、打扫卫生……这是电影《我,机器人》里描绘的场景。事实上,今天人们已经享受到了部分家用智能机器人给生活带来的便利。比如,智能吸尘器以及广泛应用于汽车工业领域的机器手等等。有意思的是,2010年松下公司专门为老年人开发了“洗发机器人”,它可以自动完成从涂抹洗发水、按摩到用清水洗净头发的全过程。未来的智能机器人不会是电影《变形金刚》中的庞然大物,而会越来越小。目前,科学家研发出的智能微型计算机只和雪花一样大,却能够执行复杂的计算任务,将来可以把这些微型计算机安装在任何物件上用以监测环境和发号施令。随着大数据时代的到来和技术的发展,科技最终会将我们带进神奇的智能机器人时代。

在大数据时代,人脑信息转换为电脑信息成为可能。科学家们通过各种途径模拟人脑,试图解密人脑活动,最终用电脑代替人脑发出指令。正如今天人们可以从电脑上下载所需的知识和技能一样,将来也可以实现人脑中的信息直接转换为电脑中的图片和文字,用电脑施展读心术。2011年,美国军方启动了“读心头盔”计划,凭借读心头盔,士兵无需语言和手势就可以互相“阅读”彼此的脑部活动,在战场上依靠“心灵感应”,用意念与战友互通讯息。目前,“读心头盔”已经能正确“解读”45%的命令。随着这项“读心术”的发展,人们不仅可以用意念写微博、打电话,甚至连梦中所见都可以转化为电脑图像。据美国《纽约时报》报道,奥巴马政府将绘制完整的人脑活动地图,全面解开人类大脑如何思考、如何储存和检索记忆等思维密码作为美国科技发展的重点,美国科学家已经成功绘出鼠脑的三维图谱。2012年,美国IBM计算机专家用运算速度最快的96台计算机,制造了世界上第一个“人造大脑”,电脑精确模拟大脑不再是痴人说梦。试想一下,如果人类大脑实现了数据模拟,或许你的下一个BOSS是机器人也不一定。

总而言之,大数据技术的发展有可能解开宇宙起源的奥秘。因为,计算机技术将一切信息无论是有与无、正与负,都归结为0与1,原来一切存在都在于数的排列组合,在于大数据。

第14篇:大数据时代银行

近年来,大数据热潮引发了一场思维、生产和生活方式的重大变革,可以说开启了全新的时代。对于天然具有数据属性的金融业来说,一方面,大数据能够为金融机构的经营管理提供充分的信息支持;另一方面,大数据滋生的新型金融业态对传统金融机构带来了严峻挑战。在这场社会大变革中,金融机构将如何应对,非常令人期待。为此,本刊邀请了多位金融机构的高级管理者以及业内专家,共同探讨大数据时代金融业的变革与发展。

近十年来,中国银行业的改革发展取得了令世界瞩目的成就。在今年《银行家》《福布斯》发布的大企业排行榜和市值排名上,五家大型商业银行均已跻身世界前列。随着以移动互联网、云计算、“大数据”和物联网为代表的信息革命的兴起,银行业又一次面临新的机遇和挑战。中国银行业能否用好大数据,实现经营、管理和服务创新,决定了其未来的可持续发展能力。

银行业已初步具备运用大数据的基础

大数据是信息技术与互联网产业发展到特定阶段的产物,从互联网到物联网,从云计算到大数据,信息技术正在从产业基础走向产业核心。而银行业作为与信息技术深度结合的行业,互联网思维和决策数据化已开始嵌入经营管理的全流程。大数据实质是“深度学习”,能够为银行提供全方位、精确化和实时的决策信息支持。银行的经营转型、产品创新和管理升级等都需要充分用好大数据。目前,银行在客户分析、风险管理方面对大数据运用已初步积累了一定的经验,为未来过渡到全面大数据运用奠定了良好基础。

20世纪90年代,随着信息技术发展,国内银行业顺应潮流,将信息技术广泛应用到业务处理和内部管理,以提高服务管理效率。进入21世纪,大银行率先推进系统大集中和数据大集中,整合原有分散化的信息系统,不断适应加快产品创新、提升客户体验等市场需求,建立数据仓库和数据平台,信息化程度不断提高。近几年,银行业大力发展面向客户的新一代核心业务系统,信息系统建设日趋完备,电子银行等在线金融服务大幅增长,在提升客户体验和风险管控能力、满足监管各项要求的同时,形成并储存了庞大的可用数据资源。银行业的数据资源不仅包括存贷汇核心业务结构化数据,也包含客户电话语音、在线交易记录、网点视频等非结构化数据。

中国建设银行(以下简称建设银行)从2011年开始建设企业级全行共享的新一代核心业务系统,以客户为中心、面向服务设计架构,实现业务与IT融合、产品快速创新的目的,目前已初具规模。特别是在新一代系统设计中,充分考虑数据储存和应用的重要性,并专项设置了数据集成层模块,包括数据缓存区、数据记录系统、历史数据存储、分析数据仓库、实时数据仓库、公共数据集市。

银行业开始尝试接入和整合外部数据资源。在传统的数据分析模式下,银行业出于市场分析、内部管理、监管需要,产生并记录了巨量的文本式结构化数据,涉及客户账户资金往来、财务信息等,以及网银浏览、电话、视频等非结构化数据。但是,传统意义上的银行仅能掌握客户与银行业务相关的金融行为,无法获得客户在社会生活中体现兴趣爱好、生活习惯、消费倾向的情感或行为数据,无法与业务数据形成联动。随着电子商务的快速发展和移动金融的深化,银行业逐步加强与外部数据源对接,甄别有效信息,整合多渠道数据,丰富客户图谱。目前,已有多家银行进行了有益尝试。

一是银行与电商平台形成战略合作。银行业共享小微企业在电商平台上的经营数据和经营者的个人信息,由电商平台向银行推荐有贷款意向的优质企业,银行通过交易流水、买卖双方评价等信息,确定企业资信水平,给予授信额度。建设银行曾在这方面做过有益的尝试。此外也有银行参股电商、开展数据合作的案例。

二是银行自主搭建电商平台。银行自建电商平台,获得数据资源的独立话语权。在为客户提供增值服务的同时,获得客户的动态商业信息,为发展小微信贷奠定基础,是银行搭建电商平台的驱动力。2012年,建设银行率先上线“善融商务”,提供B2B和B2C客户操作模式,涵盖商品批发、商品零售、房屋交易等领域,为客户提供信息发布、交易撮合、社区服务、在线财务管理、在线客服等配套服务,提供的金融服务已从支付结算、托管、担保扩展到对商户和消费者线上融资服务的全过程。

三是银行建立第三方数据分析中介,专门挖掘金融数据。例如,有的银行将其与电商平台一对一的合作扩展为“三方合作”,在银行与电商之间,加入第三方公司来负责数据的对接,为银行及其子公司提供数据分析挖掘的增值服务。其核心是对客户的交易数据进行分析,准确预测客户短时间内的消费和交易需求,从而精准掌握客户的信贷需求和其他金融服务需求。

银行业有处理数据的经验和人才。数据分析和计量模型技术在传统数据领域已得到较充分运用,同时也培养出大批精通计量分析技术的人才。如在风险管理方面,我国金融监管部门在与国际接轨过程中,引入巴塞尔新资本协议等国际准则,为银行业提供了一套风险管理工具体系。银行在此框架下,利用历史数据测度信用、市场、操作、流动性等各类风险,内部评级相关技术工具已发挥出效果,广泛应用于贷款评估、客户准入退出、授信审批、产品定价、风险分类、经济资本管理、绩效考核等重要领域。

银行已初步尝试应用大数据。我国银行业大规模运用大数据技术尚不成熟,但多家银行已从关键点、具体业务入手应用大数据挖掘技术,解决效率提升中的难题。例如,有的银行提供集电话、网络在线、客户端、微博、微信于一体的整合服务平台,也有的银行信用卡中心开发智能云语音,着眼于客服语音信息的挖掘和分析,通过对海量语言数据的持续在线和实时处理,为服务质量改善、经营效率提升、服务模式创新提供支撑,从而全面提升运营管理水平。还有些银行在个人客户营销方面,着重客户数据分析,摸索出客户行为模式和潜在需求,促成定向精准销售。例如,通过分析客户行为数据和财务数据来锁定潜在客户,根据客户行为规律,并结合其所在区域、行为内容来确定消费习惯,开展针对性营销;通过分析交易记录信息来有效识别小微企业客户,并用远程银行和云转借实施交叉销售。此外,有的银行还将其内部客户编号和微博、QQ、邮箱等相对应,将互联网数据与传统数据一起存储,建立数据库,不仅了解客户理财、基金购买等交易行为的频繁程度,还可以发现其他动态信息如出差、喜好和社交圈等。

国际同业大数据运用的经验教训

金融业大数据运用的国际经验主要体现在快速判断宏观经济趋势、分析预测客户及交易对手行为、防范欺诈、改进内部效率以及外包非核心业务等方面。

快速判断宏观经济形势。英国央行已经开始运用大数据对英国房地产市场和劳动力市场趋势作出快速判断。以前,英国央行通过统计部门发布的房地产销售数据、就业数据等,判断房地产市场和劳动力市场变动趋势,但统计部门的数据一般有数日乃至数周的时滞,不利于对形势的快速判断。目前,英国央行已通过对一些网络搜索关键词的监控,如“按揭”“房价”“职位”等,获取最新的经济运行情况。

分析预测客户及交易对手行为。由谷歌(Google)前首席信息官Douglas Merrill创办的信用评估公司ZestFinance,通过大数据技术把收集的海量碎片化数据整合成完整的客户拼图,较为准确地还原客户的真实状况和实际信用状况,并据此支持合作公司向难以从银行获得贷款的美国人提供“工资日贷款”(payday loan)。西班牙对外银行(BBVA)推出的具有记忆功能的ATM机ABIL,不但能记住客户习惯的取款金额、频率,还能根据其账户情况给出相应的取款建议。美国一些基金公司在几年前开始借助社交媒体大数据,分析市场情绪变动,进而判断未来交易是扩大还是萎缩。近期,这些基金公司进一步通过分析金融交易大数据,识别交易对手的交易特征,预判交易对手的交易动向,并采取相应的操作,以获取差价。

防范欺诈。运用大数据分析软件,可以预防信用卡和借记卡欺诈。通过监控客户、账户和渠道等,提高银行在交易、转账和在线付款等领域防御欺诈的能力。在监控客户行为时,大数据可以识别出潜在的违规客户,提示银行工作人员对其予以重点关注,从而节省反欺诈监控资源。

改进内部效率。美国银行用大数据分析该银行某呼叫中心员工的行为,通过在员工姓名牌中置入感应器,监控员工的行走线路与交谈语气,可以知道员工在工作场所的社交状况。监控结果表明,那些一起享受工间休息并相互交流的员工工作效率更高,他们可以在日常交流中分享如何应付“难缠”顾客的小窍门。美国银行发现这一现象后,即转而推行集体工间休息,此后员工表现提升了23%,而员工说话语调所反映出的压力水平则下降了19%。另外,还有些欧美银行运用大数据评价分支机构绩效并获得显著成效。

大数据的应用存在运维风险和运营风险等,前者如数据丢失、数据泄露、数据非法篡改、数据整合过程中的信息不对称导致错误决策等,后者如企业声誉风险、数据被对手获取后的经营风险等。因此,必须加强数据管控。这方面既有成功的经验,也有值得总结的教训。从已出现的问题看,最大的风险来自网络攻击和欺诈:2011年,网络银行欺诈给日本53家银行造成2700亿日元(约合225亿元人民币)的损失;2012年,诈骗集团曾攻击欧美至少60家银行的网络,盗取银行资金;2013年,国内某保险公司受黑客攻击,造成数十万保单信息泄露。为此,一是高度重视并推进统一的数据标准,并做好数据清洗,保证数据质量。二是审慎划定数据边界,合理开展内外部数据共享和非核心数据业务外包。三是大数据下应更加重视隐私保护和信息安全,加大对反网络攻击的投入。

推动大数据应用的策略

党的十八大提出坚持走中国特色新型工业化、信息化、城镇化、农业现代化道路,信息化已升级为国家战略。我国银行业加快大数据应用不仅具有行业意义,而且对于推动我国信息化进程、服务“新四化”发展也有重要作用。我国银行业要从战略高度充分认识到大数据分析、运用的重要性,从管理体系建设、具体运用模式方面不断探索,打造银行业在大数据时代的核心竞争力。

建立完善的大数据工作管理体系。银行业应充分认识大数据的重要性,在总行层面建立大数据工作推进机制,制定大数据工作规划,主管数据部门对大数据工作进行统筹规划、组织协调、集中管理,业务部门承担大数据采集、分析和应用的职责,全面定义、收集、多方式整合集团内外部各类数据,形成管理数据、使用数据和推广数据的有效工作机制。

增强数据挖掘与分析运用能力。在银行内部全面推广基于数据进行决策、利用信息创造价值的观念,引进数据挖掘和大数据运用专业方法和工具,培养专业数据挖掘分析人才队伍,重视人才的经济金融、数学建模、计算机新型算法等复合型技能,建立前瞻性的业务分析模型,把握、预测市场和客户行为,将数据深度运用到业务经营管理过程,利用数据来指导工作,设计和制定政策、制度和措施,做到精准营销和精细管理。

以大数据技术促进智慧银行建设。推动大数据向生产力转化,加快产品创新实验室的技术研发,把实验室成熟产品运用于客户的营销和服务,推进智慧银行建设,把技术创新优势转化为竞争优势。网点服务要运用好大数据等技术成果,推广普及智能叫号预处理、远程银行VTM、电子银行服务区、智能互动桌面、人脸识别等创新服务,将传统银行服务模式和创新科技有机结合,利用智能设备、数字媒体和人机交互技术为客户带来“自助、智能、智慧”的全新感受和体验。智慧网点在建设推广中,还应充分采用用户交互技术和体验设备,吸引客户浏览、试用、比较各类金融产品,辅以工作人员推荐,从地域、客户、产品等多种维度,挖掘客户需求,实现对合适客户、在合适时间、通过合适渠道、推荐合适产品。

建立基于大数据分析的定价体系。当前,资金的交易变动频率和流动性加快,大数据从更宽广角度,预判负债的波动情况,能更灵活测算是否满足监管要求和贷款需求变化,从而为银行以存定贷、以贷吸存策略提供量化支撑,可有效降低资金成本。银行还要运用大数据分析,建立起综合服务和信贷差异化定价体系,做到对不同产品、不同行业、不同区域实施差别化定价,最终实现一户一策的综合化、差异化服务,提升精准营销水平。例如,将对公、对私客户逐步纳入定价系统,进行客户选择,不同服务内容享受不同信贷优惠,达到差别化定价和客户最佳体验的双重目的。

依托大数据技术提升风险管理水平。大数据能较好地解决传统信贷风险管理中的信息不对称难题,提升贷前风险判断和贷后风险预警能力,实现风险管理的精确化和前瞻性。大数据时代,银行业可以打破信息孤岛,全面整合客户的多渠道交易数据,以及经营者个人金融、消费、行为等信息进行授信,降低信贷风险。如建设银行依托“善融商务”开发出大数据信贷产品“善融贷”后,银行可实时监控社交网站、搜索引擎、物联网和电子商务等平台,跟踪分析客户的人际关系、情绪、兴趣爱好、购物习惯等多方面信息,对其信用等级和还款意愿变化进行预判,在第一次发生信贷业务,缺乏信贷强变量情况下,及时用教育背景、过往经历等变量进行组合分析,以建立起信贷风险预警机制。由历史数据分析转向行为分析,将对目前的风险管理模式产生巨大突破。

大数据是信息革命中非常前沿且快速发展的技术,银行业要抓紧解决内部数据挖掘分析和外部资源的安全整合利用问题,加快人才队伍建设和技术成果转化,通过大数据的高效应用,加速推进银行业的转型升级和可持续发展

第15篇:大数据时代读后感

颠覆精确计算数据的浪潮

----评大数据时代的思维变革

吴凯

2015年9月,经李克强总理签批,国务院印发《促进大数据发展行动纲要》(以下简称《纲要》),系统部署大数据发展工作。《纲要》明确,推动大数据发展和应用,在未来5至10年打造精准治理、多方协作的社会治理新模式,建立运行平稳、安全高效的经济运行新机制,构建以人为本、惠及全民的民生服务新体系,开启大众创业、万众创新的创新驱动新格局,培育高端智能、新兴繁荣的产业发展新生态。

大数据这个词汇对于当下的新闻研究者并不陌生。是指无法在可承受的时间范围内用常规软件工具进行捕捉、管理和处理的数据集合。集合大量,高速,多样,价值四大要素。舍恩伯格的《大数据时代》给我们非常详细的,系统的,包涵无数经典范例的介绍了这种时下发展势头迅猛,未来前途不可限量的新型概念。

在舍恩伯格的大数据思想中,大数据的冲击力极强的,不仅仅仅限于单个部门或者行业。不单被利用于一个行业或者只被掌握于几家公司。在《大数据时代》中,舍恩伯格把其具体分为三个大的论点进行分别论述,则是:

1大数据时代所带来的思维变革 2大数据时代所带来的商业变革 3大数据时代所带来的管理变革

本文主要评论的主体是舍恩伯格的理论的第一部分。则是大数据时代所带来的思维变革。在这个方面。舍恩伯格非常明确的指出,大数据时代下,人们需要的是利用所有的数据,而不是仅仅的依靠一部分数据。笔者认为,在很长的一段时间内,人们对数据的准确程度已经到了一种近乎苛刻的程度。对于舍恩伯格的观点。这是一种截然相反的挑战。挑战的数十年,乃至数百年的人对准确的要求。他在著作中提到,我们应该试着习惯不是确凿的准确无疑,而是庞大而又冗杂的数据中寻找到其中的规律。接下来笔者按照书中所分章节进行逐一的分析。

1更多

舍恩伯格说:当数据处理技术已经发生了翻天覆地的变化时,在大数据时代进行抽样分析就像在汽车时代骑马一样。作者非常形象的表明了在当代数据爆炸时代下,对庞大数据进行传统的抽样调查的结果已经变得不在可信,我们需要的结果,或许能从全部的数据中获得,并且更为准确。在过去,样本的整体数量不算非常的庞大,样本的随机性较小,选择的随机性比样本数量更重要,随之而来的便是非常有效的随机抽样调查方法。现如今,数据的日益增长使得该方法的绝对随机性变的包涵风险。许多学者,公司便专向研究是否能够把所有的数据进行整体的分析,显然结果是令人满意。或许在时间上,人力物力上花费了更多,但是事实证明这种调查方法在大数据时代下显得更为准确和有效。文中举出例子,苹果公司的前总裁斯蒂芬乔布斯在自身与癌症病魔抗争的过程中采用了一种不同的方法,成为了世界上第一个对自身所有DNA和肿瘤DNA进行排序的人,为此他支付了高达几十万美元的费用,而他得到的,是包括全部的庞大基因密码数据。并且,乔布斯利用这庞大的基因数据让医生通过特定的DNA进行用药,为此乔布斯开玩笑:我要么是第一个通过这种方式战胜癌症的人,要么就是最后一个因为这种方式死于癌症的人。虽然他的愿望未曾实现,但是,通过这种对人的全部基因进行大量分析,“私人订制”的医疗已经成为未来的一种新型医疗模式。而且这种方式的确有效的帮助他生命延长了许多年。

这非常引人深思,当研究对象从样本变成总体是,随之而来直观的是更多次的复杂的排列和计算,更长的工作时间,可是当在研究全部数据出现的大致趋势和结果,往往更加的趋于稳定,更大的杜绝了样本调查所谓的随机性。在笔者看来,在很长一段时间内,随机采样的确是非常好的办法,他在数据爆炸前的数据处理变的方便快捷,可当在技术支持的情况下。我们为何不选择更好的,更整体性,更准确的全面数据分析。所以,大数据的分析,总体代替样本是大势所趋。

2更杂

舍恩伯格在第二方面阐述了在大数据时代,既然要处理和接受全部的数据,那么,也必须接受海量数据内的不确定,和复杂。只有接受不确定性,我们才能打开从未涉足过的世界的窗户。

在作者的观点里,大数据通常用概论说话,而不是确凿无疑,整个社会习惯新思维需要非常长的时间。2006年谷歌开始涉足机器翻译,现如今收到了一致的好评,在翻译的正确性和流畅性上远远高于其他翻译软件,他的秘诀就在于谷歌吸收了网络上所有的翻译,他既能从各色各样的语言网站上寻找对译文件,同时寻找联合国,欧盟等国际组织的报告及文件,甚至是其余的速度书籍的语言,面对如此混乱的输入源,较其他的翻译系统而言,谷歌通过多输入源,扩大了自己的翻译来源,虽然许多的小网站的用语甚至是出现了错误的,但是在大量的数据的支持下,他做的的确比其他的系统要更加的出色。这个例子充分的说明了,在当今的时代,保持源头的单一,精确,不是提高系统质量的唯一途径,相反,你收集的越多,你的系统完善程度是更好的。当然,错误是不可避免的,但是利大于弊。从某种方面来说,多和杂,在现在的,即将变成主流。笔者在阅读中发现谷歌的例子充分的证明了舍恩伯格的远见,在一方面,这是一种退步,从百分之百的精确变成了百分之九十的正确。但是结果是好的。这就是大数据时代要求我们做的:重新审视精确性的优劣。

而在另一个方面,不精确是我们需要的,是节约时间和成本的正确选择,谷歌的邮箱会确切的标注很短时间收到的短信,比如“十一分钟之前”而当对方收到信息已经有一段时间了,则他会标注为“两个小时前,”或者是:“三天前”。则也是足够说明,精确或许真的有时候并不重要。

当然大数据的悄然流行,需要的是新的数据库的建立,是与之前无法想象的巨大的数据的储存。而作者也明确表示,大数据的数据库,并不是需要无线的空间,他就存在于多个地点,多个硬盘中,他们互不干涉,却相互联系,同时利用这互联网连接,同时更新,同时的获取着最新的数据。Hadoop就是最好的例子。Hadoop是以开源式的分布系统的基础架构,相比巨大的空间,巨大的硬盘,这显然更便捷,当他与VISA合作时,却能够将处理两年内730亿单交易的时间,从一个月缩减为1分钟,也许Hadoop不适合逻辑的记账,当时当允许少量错误的时候,他就是如此的给力。

言归至此,笔者非常同意作者的说提议,当代数字社会要求我们必须接搜混乱和不确定性,不在纠结百分之百的准确,在另一方面,这种改变,是我们在新数据时代成功的基础。

3更好

在第三个观点上,我非常不认同舍恩伯格所说的一句话:知道是什么就够,没必要知道为什么.。作者在这一方面思维个人认为有存在绝对化,作者认为,当今时代,我们不需要非得知道现象背后的原因,而是让数据自己发声音。美国的知名的亚马逊网站的推荐系统往往能够在不知道用户的任何嗜好的情况下,准确的(大致)的推算出用户可能喜欢的,或者有一元购买的,并放置在用户的推荐栏内。或许这可以说明问题。亚马逊在茫茫多的用户购买记录下,充分利用并推导了用户可能或者喜欢购买的东西。

“推荐信息往往与你以前购买的物品存在细微的关系,并且循环往复”亚马逊的詹姆斯马库斯是这样说的。

这也充分的说明了一点,我们并不需要知道他到底真心喜欢什么,我们只是在寻找着和他购买物的相关关系,便推测出了他的潜在交易。单纯的相关性,而非非常实在的因果关系。

简单来说,亚马逊并不需要知道你为什么要买这样多系。他也不知道你买这件商品的原因,他只是单纯的从你买了另一件商品从而推测出你或许需要这样的商品。当然错误是存在的,在上个观点中就已经提到了,但是在绝大多数的成功下,少数的失败是必须的。也是客观存在的。

所以,舍恩伯格大胆的提出,大数据的分析的核心就是建立在相关关系分析法基础上的预测。

也许我们谁也不知道,沃尔玛为何在飓风期间把蛋挞和飓风用品摆在一起售卖,但是可以肯定的是,效果良好。

神恩伯格告诉我们的,不要太过于的在乎为什么,只需要知道是什么,也许你就能获得成功。

总结:

综上所述,舍恩伯格所展现的大数据时代下的观念是与现代理念有一定的区别和歧义的,在一些方面甚至我们真的无法一下子就接受。让人放弃数十年甚至数百年以来对正确,对精确的执着是非常困难的。这同时也需要时间去改变。个人认为作者利用非常生动的例子说明时代的悄然改变,同时也利用不同的方法潜移默化的改变读者的思维。让读者能够理解,承认大数据时代的变化。观念的变化是正确的。这一方面足以体现作者学识的渊博,另一方面也体现着当代社会的人思想固化,改变不在一朝一夕。

面对新时代的思潮,非逆之者亡,我想,更多应该是未知者亡吧。

大数据时代读后感

《大数据时代》读后感

《大数据时代》读后感范文

大数据时代下小学数学教学心得体会

大数据心得体会

《大数据心得体会.docx》
大数据心得体会
将本文的Word文档下载到电脑,方便收藏和打印
推荐度:
点击下载文档
相关文章
猜你喜欢