大数据技术
发布网友
发布时间:2022-03-27 14:35
我来回答
共2个回答
热心网友
时间:2022-03-27 16:04
随着信息技术的发展,新型信息发布方式的不断涌现,数据正以前所未有的速度在不断地增长和累积,大数据时代正式到来。2012年被称为“大数据元年”,因为在这一年“大数据”这个概念引起了人们的空前关注。首先是美国*公布“大数据研发计划”,紧接着世界各国以及各大商业公司也对“大数据”给予了极大的关注。美国在“大数据研发计划”中,与空间数据关系最为密切的是联邦地质调查局和航空和航天局。
联邦地质调查局的科学家们合作完成对全面、长期数据的最新综合,进一步把大数据集和地球科学理论的大构想转换成科学发现,提高对地球系统科学问题的理解和应对能力,例如物种应对气候变化、地震复发率、下一代生态指标等。NASA用先进信息系统技术寻求成熟的大数据能力,以支持未来的地球观测任务,使得地球信息能为NASA气候中心的体系结构所识别,减少地球科学部的空基和陆基信息系统的风险、成本、规模和开发时间,提高科学数据的可访问性和实用性。NASA的地球科学数据和信息系统项目已经活跃了15年以上,旨在对地球卫星数据和空中与实地活动的数据进行处理存档和发布,努力确保科学家和社会公众可以满意地访问从地球到太空的数据,提升应对气候和环境变化的能力。NASA与Cray公司制定的太空行动协议,允许一个或多个项目围绕发展和应用低延迟“大数据”系统合作,使用高度集成的非SQL数据库传输数据,来加速建模和分析软件的运行,以测试混合计算机系统的实用性。此外,各种专用减灾卫星、遥感卫星、通信与导航卫星已广泛应用于地震、海啸、台风(飓风)、洪灾、旱灾、地质灾害和火灾等各种不同类型的灾害管理。
在我国,地学大数据的研究也已开始,国土资源部地质信息技术重点实验室地学大数据高性能计算应用环境搭建成功,已经对外开放。利用搭建的大数据及高性能地理数据计算平台,开展地质大数据综合处理、分析和应用研究,对于推进地质数据开发应用、提高服务效率具有重要作用。
热心网友
时间:2022-03-27 17:22
随着云时代的来临,大数据(Big data)也吸引了越来越多的关注。《著云台》的分析师团队认为,大数据(Big data)通常用来形容一个公司创造的大量非结构化和半结构化数据,这些数据在下载到关系型数据库用于分析时会花费过多时间和金钱。大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像MapRece一样的框架来向数十、数百或甚至数千的电脑分配工作。
简言之,从各种各样类型的数据中,快速获得有价值信息的能力,就是大数据技术。明白这一点至关重要,也正是这一点促使该技术具备走向众多企业的潜力。 大数据的4个“V”,或者说特点有四个层面:第一,数据体量巨大。从TB级别,跃升到PB级别;第二,数据类型繁多。前文提到的网络日志、视频、图片、地理位置信息等等。第三,价值密度低。以视频为例,连续不间断监控过程中,可能有用的数据仅仅有一两秒。第四,处理速度快。1秒定律。最后这一点也是和传统的数据挖掘技术有着本质
的不同。业界将其归纳为4个“V”——Volume,Variety,Value,Velocity。 物联网、云计算、移动互联网、车联网、手机、平板电脑、PC以及遍布地球各个角落的各种各样的传感器,无一不是数据来源或者承载的方式 著云台
例子包括网络日志,RFID,传感器网络,社会网络,社会数据(由于数据*的社会),互联网文本和文件;互联网搜索索引;呼叫详细记录,天文学,大气科学,基因组学,生物地球化学,生物,和其他复杂和/或跨学科的科研,军事侦察,医疗记录;摄影档案馆视频档案;和大规模的电子商务。
大的数据需要特殊的技术,以有效地处理大量的容忍经过时间内的数据。适用于大数据的技术,包括大规模并行处理(MPP)数据库,数据挖掘电网,分布式文件系统,分布式数据库,云计算平台,互联网,和可扩展的存储系统。
一些但不是所有的MPP的关系数据库的PB的数据存储和管理的能力。隐含的负载,监控,备份和优化大型数据表的使用在RDBMS的。
斯隆数字巡天收集在其最初的几个星期,比在天文学的历史,早在2000年的整个数据收集更多的数据。自那时以来,它已经积累了140兆兆 字节的信息。这个望远镜的继任者,大天气巡天望远镜,将于2016年在网上和将获得的数据,每5天沃尔玛处理超过100万客户的交易每隔一小时,反过来进口量数据库估计超过2.5 PB的是相当于167次,在美国国会图书馆的书籍 。
FACEBOOK处理400亿张照片,从它的用户群。解码最初的人类基因组花了10年来处理时,现在可以在一个星期内实现。
“大数据”的影响,增加了对信息管理专家的需求,甲骨文,IBM,微软和SAP花了超过15亿美元的在软件智能数据管理和分析的专业公司。这个行业自身价值超过1000亿美元,增长近10%,每年两次,这大概是作为一个整体的软件业务的快速。 大数据已经出现,因为我们生活在一个社会中有更多的东西。有46亿全球移动电话用户有1亿美元和20亿人访问互联网。
基本上,人们比以往任何时候都与数据或信息交互。 1990年至2005年,全球超过1亿人进入中产阶级,这意味着越来越多的人,谁收益的这笔钱将成为反过来导致更多的识字信息的增长。思科公司预计,到2013年,在互联网上流动的交通量将达到每年667艾字节。
最早提出“大数据”时代已经到来的机构是全球知名咨询公司麦肯锡。麦肯锡在研究报告中指出,数据已经渗透到每一个行业和业务职能领域,逐渐成为重要的生产因素;而人们对于海量数据的运用将预示着新一波生产率增长和消费者盈余浪潮的到来。
“麦肯锡的报告发布后,大数据迅速成为了计算机行业争相传诵的热门概念,也引起了金融界的高度关注。”随着互联网技术的不断发展,数据本身是资产,这一点在业界已经形成共识。“如果说云计算为数据资产提供了保管、访问的场所和渠道,那么如何盘活数据资产,使其为国家治理、企业决策乃至个人生活服务,则是大数据的核心议题,也是云计算内在的灵魂和必然的升级方向。”
事实上,全球互联网巨头都已意识到了“大数据”时代,数据的重要意义。包括EMC、惠普(微博)、IBM、微软(微博)在内的全球IT 巨头纷纷通过收购“大数据”相关厂商来实现技术整合,亦可见其对“大数据”的重视。
“大数据”作为一个较新的概念,目前尚未直接以专有名词被我国*提出来给予*支持。不过,在12月8日工信部发布的物联网“十二五”规划上,把信息处理技术作为4项关键技术创新工程之一被提出来,其中包括了海量数据存储、数据挖掘、图像视频智能分析,这都是大数据的重要组成部分。而另外3项关键技术创新工程,包括信息感知技术、信息传输技术、信息安全技术,也都与“大数据”密切相关。