大数据分析一般用什么工具分析
发布网友
发布时间：2022-04-19 22:29
共8个回答
热心网友
时间：2022-04-08 09:00
Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop 是可靠的，因为它假设计算元素和存储会失败，因此它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop 是高效的，因为它以并行的方式工作，通过并行处理加快处理速度。Hadoop 还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。
Hadoop带有用 Java 语言编写的框架，因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写，比如 C++。
二、HPCC
HPCC，High Performance Computing and Communications(高性能计算与通信)的缩写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了“重大挑战项目：高性能计算与 通信”的报告，也就是被称为HPCC计划的报告，即美国总统科学战略项目，其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国实施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆 比特网络技术，扩展研究和教育机构及网络连接能力。
三、Storm
Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、 Admaster等等。
Storm有许多应用领域：实时分析、在线机器学习、不停顿的计算、分布式RPC(远过程调用协议，一种通过网络从远程计算机程序上请求服务)、 ETL(Extraction-Transformation-Loading的缩写，即数据抽取、转换和加载)等等。Storm的处理速度惊人：经测 试，每个节点每秒钟可以处理100万个数据元组。Storm是可扩展、容错，很容易设置和操作。
四、Apache Drill
为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为“Drill”的开源项目。Apache Drill 实现了 Google's Dremel。该项目将会创建出开源版本的谷歌Dremel Hadoop工具(谷歌使用该工具来为Hadoop数据分析工具的互联网应用提速)。而“Drill”将有助于Hadoop用户实现更快查询海量数据集的目的。
通过开发“Drill”Apache开源项目，组织机构将有望建立Drill所属的API接口和灵活强大的体系架构，从而帮助支持广泛的数据源、数据格式和查询语言。
五、RapidMiner
RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。
六、 Pentaho BI
Pentaho BI 平台不同于传统的BI 产品，它是一个以流程为中心的，面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来，方便商务智能应用的开发。它的出现，使得一系列的面向商务智能的独立产品如Jfree、Quartz等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。
Pentaho BI 平台构建于服务器，引擎和组件的基础之上。这些提供了系统的J2EE 服务器，安全，portal，工作流，规则引擎，图表，协作，内容管理，数据集成，分析和建模功能。这些组件的大部分是基于标准的，可使用其他产品替换之。
热心网友
时间：2022-04-08 10:18
Java ：只要了解一些基础即可，做大数据不需要很深的Java 技术，学java SE 就相当于有学习大数据。基础
Linux：因为大数据相关软件都是在Linux上运行的，所以Linux要学习的扎实一些，学好Linux对你快速掌握大数据相关技术会有很大的帮助，能让你更好的理解hadoop、hive、hbase、spark等大数据软件的运行环境和网络环境配置，能少踩很多坑，学会shell就能看懂脚本这样能更容易理解和配置大数据集群。还能让你对以后新出的大数据技术学习起来更快。
好说完基础了，再说说还需要学习哪些大数据技术，可以按我写的顺序学下去。
Hadoop：这是现在流行的大数据处理平台几乎已经成为大数据的代名词，所以这个是必学的。Hadoop里面包括几个组件HDFS、MapRece和YARN，HDFS是存储数据的地方就像我们电脑的硬盘一样文件都存储在这个上面，MapRece是对数据进行处理计算的，它有个特点就是不管多大的数据只要给它时间它就能把数据跑完，但是时间可能不是很快所以它叫数据的批处理。
记住学到这里可以作为你学大数据的一个节点。
Zookeeper：这是个万金油，安装Hadoop的HA的时候就会用到它，以后的Hbase也会用到它。它一般用来存放一些相互协作的信息，这些信息比较小一般不会超过1M，都是使用它的软件对它有依赖，对于我们个人来讲只需要把它安装正确，让它正常的run起来就可以了。
Mysql：我们学习完大数据的处理了，接下来学习学习小数据的处理工具mysql数据库，因为一会装hive的时候要用到，mysql需要掌握到什么层度那?你能在Linux上把它安装好，运行起来，会配置简单的权限，修改root的密码，创建数据库。这里主要的是学习SQL的语法，因为hive的语法和这个非常相似。
Sqoop：这个是用于把Mysql里的数据导入到Hadoop里的。当然你也可以不用这个，直接把Mysql数据表导出成文件再放到HDFS上也是一样的，当然生产环境中使用要注意Mysql的压力。
Hive：这个东西对于会SQL语法的来说就是神器，它能让你处理大数据变的很简单，不会再费劲的编写MapRece程序。有的人说Pig那?它和Pig差不多掌握一个就可以了。
Oozie：既然学会Hive了，我相信你一定需要这个东西，它可以帮你管理你的Hive或者MapRece、Spark脚本，还能检查你的程序是否执行正确，出错了给你发报警并能帮你重试程序，最重要的是还能帮你配置任务的依赖关系。我相信你一定会喜欢上它的，不然你看着那一大堆脚本，和密密麻麻的crond是不是有种想屎的感觉。
Hbase：这是Hadoop生态体系中的NOSQL数据库，他的数据是按照key和value的形式存储的并且key是唯一的，所以它能用来做数据的排重，它与MYSQL相比能存储的数据量大很多。所以他常被用于大数据处理完成之后的存储目的地。
Kafka：这是个比较好用的队列工具，队列是干吗的?排队买票你知道不?数据多了同样也需要排队处理，这样与你协作的其它同学不会叫起来，你干吗给我这么多的数据(比如好几百G的文件)我怎么处理得过来，你别怪他因为他不是搞大数据的，你可以跟他讲我把数据放在队列里你使用的时候一个个拿，这样他就不在抱怨了马上灰流流的去优化他的程序去了，因为处理不过来就是他的事情。而不是你给的问题。当然我们也可以利用这个工具来做线上实时数据的入库或入HDFS，这时你可以与一个叫Flume的工具配合使用，它是专门用来提供对数据进行简单处理，并写到各种数据接受方(比如Kafka)的。
Spark：它是用来弥补基于MapRece处理数据速度上的缺点，它的特点是把数据装载到内存中计算而不是去读慢的要死进化还特别慢的硬盘。特别适合做迭代运算，所以算法流们特别稀饭它。它是用scala编写的。Java语言或者Scala都可以操作它，因为它们都是用JVM的。
热心网友
时间：2022-04-08 11:53
根据IDC报告称，全球大数据技术和服务市场将在未来几年保持31.7%的年复合增长率，2016年市场总规模有望达到238亿美元。按此计算，大数据市场的增速将达到同期整个信息和通信技术领域增速的7倍。该市场正在迅速从各种既有市场和新市场中吸收技术和服务目前，IBM、微软、甲骨文、惠普、EMC等一些IT行业大佬都看好这一领域，纷纷投入人力、财力进行布局。
据IDC调查，过去的5年里，人类行为所产生的数据量增长了10倍，而在接下来10年中，这一增长将达到29倍。但80%的数据都是非结构数据，如何进行数据挖掘和利用，将成为大数据的价值点和难点。
中国计算机大会指导委员*、北京大学教授高文近日接受本刊采访表示，大数据不仅受产业界广泛关注，在技术领域也是热点。从技术角度来看，数据挖掘是大数据的价值所在，但目前数据挖掘仍存在很多问题，远没达到我们的预期。他谈到，阿里巴巴在数据挖掘上做了尝试，由电商的海量的交易数据衍生出阿里金融和物流，但这仅仅是在商业领域的价值，在社会变革仍未释放能量，未来大数据将会给社会带来更多改变。
关于大数据带来的价值也正引起业界和学术界广泛热议。近年来大数据不断地向社会各行各业渗透，为每一个领域带来变革性影响，并且正在成为各行业创新的原动力和助推器。这一时期，互联网社交互动技术的不断发展创新，人们越来越习惯于通过微博、微信、博客、论坛等社交平台去分享各种信息数据、表达诉求、建言献策，每天传播于这些平台上的数据量高达几百亿甚至几千亿条，这些数量巨大的社交数据构成了大数据的一个重要部分，这些数据对于*收集*动态、企业了解产品口碑、公司开发市场需求等发挥重要作用。
如今，虽然互联网已经成为收集*、了解*和企业工作成效的一个非常有效的途径。然而由于缺乏对互联网发贴等行为的必要监管措施，在舆情危机事件发生后，难以及时有效获取深层次、高质量的网络舆情信息，经常造成舆情危机事件处置工作的被动。于是，重视对互联网舆情的应对，建立起“监测、响应、总结、归档”的舆情应对体系是成为大数据时代政务工作的重要内容之一。
在此背景下，舆情监测及分析行业就是为适应大数据时代的舆情监测和服务而发展起来的。其主要专注于通过海量信息采集、智能语义分析、自然语言处理、数据挖掘，以及机器学习等技术，不间断地监控网站、论坛、博客、微博、平面媒体、微信等信息，及时、全面、准确地掌握各种信息和网络动向，从浩瀚的大数据宇宙中发掘事件苗头、归纳*观点倾向、掌握公众态度情绪、并结合历史相似和类似事件进行趋势预测和应对建议。
大数据在舆情监测上的应用价值
（一）大数据价值的核心：舆情预测
传统网络*引导工作的起点，是对已发生的网络舆情进行监测开始。然而这种方式的局限在于滞后性。大数据技术的应用，就是挖掘、分析网络舆情相关联的数据，将监测的目标时间点提前到敏感消息进行网络传播的初期，通过建立的模型，模拟仿真实际网络舆情演变过程，实现对网络突发舆情的预测。
（二）大数据价值的条件：舆情全面
大数据技术要预测舆情，首要条件是对各种关联的全面数据进行分析计算。传统数据时代，分析网民观点或舆情走势时， 只关注网民跟帖态度和情绪，忽视了网民心理的变化；只关注文本信息，而较少关注图像、视频、语音等内容；只观察*局部变化，忽视其他群体的*变化；只解读网民文字内容，而忽视复杂多变的社会关系网络。从舆情分析角度看，网民仅仅是信息海洋中的"孤独僵尸"，犹如蚁群能够涌现高度智能，而单个蚂蚁如附热锅到处乱窜。
大数据时代，突破了传统数据时代片面化、单一化、静态化的思维，开始立体化、全局化、动态化研究网络舆情数据，将看似无关紧要的舆情数据纳入分析计算的范围。
（三）大数据价值的基础：舆情量化
大数据预测舆情的价值实现，必须建立在对已挖掘出的海量信息，利用数学模型进行科学计算分析的基础之上，其前提是各类相关数据的量化，即一切舆情信息皆可量化。但数据量化，不等同于简单的数字化，而是数据的可计算化。要在关注网民言论的同时，统计持此意见的人群数量；在解读网民言论文字内容的同时，计算网民互动的社会关系网络数量；对于网民情绪的变化，可通过量化的指标进行标识等。
（四）大数据价值的关键：舆情关联
数据背后是网络，网络背后是人，研究网络数据实际上是研究人组成的社会网络。大数据技术预测舆情的价值实现，最关键的技术就是对舆情间的关系进行关联，将不再仅仅关注传统意义上的因果关系，更多关注数据间的相关关系。按大数据思维，每一个数据都是一个节点，可无限次地与其他关联数据形成舆情链上的乘法效应--类似微博裂变传播路径，数据裂变式的关联状态蕴含着无限可能性。
大数据时代的舆情监测瓶颈
目前，各地舆情监测工作的主要手段仍以人工检索为主，尽管也使用了市面相对成熟的相关搜索软件进行辅助搜索，但搜索舆情的技术仍采用传统的二维搜索方式，即主题关键词和网络平台二维坐标，由舆情员对采集的信息进行二次加工成舆情产品。但搜索的舆情信息结果多为一级文本信息，对于深层次的多级舆情信息，如新闻、微博后的评论，网民的社会关系，网民针对某一事件评论反映出的情绪变化，以及网民煽动性、行动性的言论、暗示等数据无法深度挖掘，仍靠人工采集和分析判断。受制于舆情员的知识水平和价值判断的不同，极有可能导致有价值的舆情信息丢失，无法准确及时预测舆情走势，大大降低了舆情监测工作的效率、准确性，增加了有价值舆情信息发现的偶然性和投机性，为重大突发事件的舆情预测埋下隐患。
大数据背景下舆情监测的实现
对大数据的采集加工是整个舆情监测的基础，掌握数据抓取能力，通过“加工”实现数据的“增值”是舆情监测分析的必备技能。多瑞科舆情数据分析站系统因配置自己研发不同于爬虫技术的领先采集技术，用户不但可以监测各种正文信息，还可配置系统采集获取某些主题的最新回复内容，并获取其详细信息，如查看数，回复数，回复人，回复时间等。许多网站结构复杂或采用了Frame或采用了JavaScript动态写入内容或采用了Ajax技术实时自动刷新内容，这些都是普通爬虫技术很难处理或无法处理的。对于采集监测到的信息，系统可以自动加以分类，以负面舆情，与我相关，我的关注，专题跟踪等栏目分类呈现，让用户可以直奔主题，最快找到自己需要的信息。
对趋势的研判则是大数据时代舆情监测的目标。如今人们能够从浩如烟海的数据中挖掘信息、判断趋势、提高效益，但这远远不够，信息爆炸的时代要求人们不断增强关联舆情信息的分析和预测，把监测的重点从单纯的收集有效数据向对舆情的深入研判拓展。多瑞科舆情数据分析站系统对监测到的负面信息实施专题重点跟踪监测，重点首页进行定时截屏监测及特别页面证据保存。监测人员可以对系统自动识别分类后的信息进行再次挑选和分类，并可以基于工作需要轻松导出含有分析数据图表的舆情日报周报，减轻舆情数据分析，统计作图的繁杂度。对于某些敏感信息，系统还可通过短信和邮件及时通知用户，这样用户随时都可远程掌握重要舆情的动态。
大数据时代需要大采集，大数据时代需要大分析，这是数据爆炸背景下的数据处理与应用需求的体现，而传统的人工采集、人工监测显然难以满足大数据背景下对数据需求及应用的要求，多瑞科舆情数据分析站系统成功地实现了针对互联网海量舆情自动实时的监测、自动内容分析和自动报警的功能，有效地解决了传统的以人工方式对舆情监测的实施难题，加快了网络*的监管效率，有利于组织力量展开信息整理、分析、引导和应对工作，提高用户对网络突发舆情的公共事件应对能力，加强互联网“大数据”分析研判。
热心网友
时间：2022-04-08 13:44
1. OpenRefine
这是一款高人气数据分析工具，适用于各类与分析相关的任务。这意味着即使大家拥有多川不同数据类型及名称，这款工具亦能够利用其强大的聚类算法完成条目分组。在聚类完成后，分析即可开始。
2. hadoop
大数据与Hadoop可谓密不可分。这套软件库兼框架能够利用简单的编程模型将大规模数据集分发于计算机集群当中。其尤为擅长处理大规模数据并使其可用于本地设备当中。作为Hadoop的开发方，Apache亦在不断强化这款工具以提升其实际效果。
3. Storm
同样来自Apache的Storm是另一款伟大的实时计算系统，能够极大强化无限数据流的处理效果。其亦可用于执行多种其它与大数据相关的任务，具体包括分布式RPC、持续处理、在线机器学习以及实时分析等等。使用Storm的另一大优势在于，其整合了大量其它技术，从而进一步降低大数据处理的复杂性。
4. Plotly
这是一款数据可视化工具，可兼容JavaScript、MATLAB、Python以及R等语言。Plotly甚至能够帮助不具备代码编写技能或者时间的用户完成动态可视化处理。这款工具常由新一代数据科学家使用，因为其属于一款业务开发平台且能够快速完成大规模数据的理解与分析。
5. Rapidminer
作为另一款大数据处理必要工具，Rapidminer属于一套开源数据科学平台，且通过可视化编程机制发挥作用。其功能包括对模型进行修改、分析与创建，且能够快速将结果整合至业务流程当中。Rapidminer目前备受瞩目，且已经成为众多知名数据科学家心目中的可靠工具。
6. Cassandra
Apache Cassandra 是另一款值得关注的工具，因为其能够有效且高效地对大规模数据加以管理。它属于一套可扩展NoSQL数据库，能够监控多座数据中心内的数据并已经在Netflix及eBay等知名企业当中效力。
7. Hadoop MapRece
这是一套软件框架，允许用户利用其编写出以可靠方式并发处理大规模数据的应用。MapRece应用主要负责完成两项任务，即映射与规约，并由此提供多种数据处理结果。这款工具最初由谷歌公司开发完成。
8. Bokeh
这套可视化框架的主要目标在于提供精致且简洁的图形处理结果，用以强化大规模数据流的交互能力。其专门供Python语言使用。
9. Wolfram Alpha
这是一套搜索引擎，旨在帮助用户搜索其需要的计算素材或者其它内容。举例来说，如果大家输入“*”，即可获得与*相关的HTML元素结构、输入解释、Web托管信息、网络统计、子域、Alexa预估以及网页信息等大量内容。
10. Neo4j
其官方网站将这款工具称为图形数据库技术的下一场*。这种说法在一定程度上并不夸张，因为此套数据库使用数据间的关系以操作并强化性能表现。Neo4j目前已经由众多企业用于利用数据关系实现智能应用，从而帮助自身保持市场竞争优势。
热心网友
时间：2022-04-08 15:52
1.百度、谷歌搜索
通过关键词定期搜索一段时间内的网络信息，以达到全面掌握网络舆情的目的。然后根据搜索得到的舆情进行人工分类筛选，汇总整理成一份舆情分析报告。
2.清博大数据
清博大数据是全域覆盖的新媒体大数据平台，拥有清博指数、清博舆情、清博管家等多个核心产品。提供微信、微博、头条号等新媒体排行榜，广告交易、舆情报告、数据咨询等服务。
3.识微商情
相较于同类产品而言，这是一款专业的舆情分析软件，能够有效帮助企业从容应对重大事件或突发事件，不仅可为企业提供全方位的实时信息监测与分析，还能根据用户的需求，自定义监测分析任务，对与企业相关的某一事件主题或者企业话题进行分析，为企业舆情分析工作提供有价值的参考数据，来自识微科技商情知识栏目。
热心网友
时间：2022-04-08 18:17
在企业实际的数字化运营过程中都会用到BI工具或平台来进行数据分析和数据挖掘，做的好的还能做销售预测等预测分析。
例如永洪科技自主研发的Yonghong Desktop桌面智能数据分析工具，每个人都可以用的分析工具，能处理百万级以上的数据量，操作便捷，易上手。
热心网友
时间：2022-04-08 20:58
热心网友
时间：2022-04-08 23:56
