-
如何进行大数据分析及处理?
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
大数据的分析 从所周知,大数据已经不简简单单是数据大的事实了,而最重要的现实是对大数据进行分析,只有通过分析才能获取很多智能的,深入的,有价值的信息。那么越来越多的应用涉及到大数据,而这些大数据的属性,包括数量,速度,多样性等等都是呈现了[详细]
-
开源大数据处理工具汇总(下)
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
第二部分主要收集整理的内容主要有日志收集系统、消息系统、分布式服务、集群管理、RPC、基础设施、搜索引擎、Iaas和监控管理等大数据开源工具。 日志收集系统 一、Facebook?Scribe 贡献者:Facebook 简介:Scribe是Facebook开源的日志收集系统,在Faceboo[详细]
-
开源大数据处理工具汇总(上)
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
查询引擎 一、Phoenix 贡献者::Salesforce 简介:这是一个Java中间层,可以让开发者在Apache HBase上执行SQL查询。Phoenix完全使用Java编写,代码位于GitHub上,并且提供了一个客户端可嵌入的JDBC驱动。 Phoenix查询引擎会将SQL查询转换为一个或多个HBas[详细]
-
推荐大数据分析的八大工具
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
去年,IBM宣布以17亿美元收购数据分析公司Netezza;EMC继收购数据仓库软件厂商Greenplum后再次收购集群NAS厂商Isilon;Teradata收购了Aster Data 公司;随后,惠普收购实时分析平台Vertica等,这些收购事件指向的是同一个目标市[详细]
-
大数据分析到底需要多少种工具?
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
摘要 JMLR杂志上最近有一篇论文,作者比较了179种不同的分类学习方法(分类学习算法)在121个数据集上的性能,发现Random Forest(随机森林)和SVM(支持向量机)分类准确率最高,在大多数情况下超过其他方法。本文针对“大数据分析到底需要多少种工具?”[详细]
-
数据处理的统计学习(scikit-learn教程)
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
副标题#e# 数据挖掘入门与实战 ?公众号: datadw Scikit-learn 是一个紧密结合Python科学计算库(Numpy、Scipy、matplotlib),集成经典机器学习算法的Python模块。 一、统计学习:scikit-learn中的设置与评估函数对象 (1)数据集 scikit-learn 从二维数组描[详细]
-
大数版的斐波那契数列
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
光棍的yy http://acm.nyist.net/JudgeOnline/problem.php?pid=655 时间限制:1000?ms ?|? 内存限制:65535?KB 难度:2 输入 第一行输入一个n表示有n个测试数据 以下n行,每行输入m个1 (1 = n,m = 200) 输出 输出这种组合种数,占一行 样例输入 31111122222[详细]
-
A-B Problem 大数相等
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
A-B Problem http://acm.nyist.net/JudgeOnline/problem.php?pid=524 时间限制:1000?ms ?|? 内存限制:65535?KB 难度:3 输入 有多组测试数据。每组数据包括两行,分别代表A和B。 它们的位数小于100,且每个数字前中可能包含+,- 号。 每个数字前面和后面[详细]
-
大数据时代必不可少的大数据分析和制作工具大全
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
1.微信大数据分析工具 新媒体指数:http://www.gsdata.cn 2.数据可视化工具 百度ECharts:http://echarts.baidu.com/ Cytoscape:http://www.cytoscape.org/ 图表秀:http://www.tubiaoxiu.com/ 数据观:http://shujuguan.cn/ 微博足迹可视化:http://vis.[详细]
-
A+B Problem II 大数加法
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
A+B Problem II http://acm.nyist.net/JudgeOnline/problem.php?pid=103 时间限制:3000?ms ?|? 内存限制:65535?KB 难度:3 输入 The first line of the input contains an integer T(1=T=20) which means the number of test cases. Then T lines follow[详细]
-
NBA篮球运动员大数据分析决策支持系统
所属栏目:[大数据] 日期:2020-12-25 来源:DaWei
package com.dt.spark.sparksql import org.apache.hadoop.conf.Configuration import org.apache.hadoop.fs.{FileSystem,Path} import org.apache.spark.SparkConf import org.apache.spark.sql.SparkSession /** ? * NBA篮球运动员大数据分析决策支持系[详细]
-
[bigdata-036] mit-scheme试用
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1. 安装Mit-scheme apt-get install mit-scheme 2. 写一个hello wold代码, hi.scm (begin (display "Hello,World!") (newline)) 3. 在命令行执行 scheme,进入交互界面,然后输入命令 (load 'hi.scm') 将执行这个文件,然后输出 "Hello,World!" 4. scheme[详细]
-
[bigdata-037] docker hue 用SQL获取数据以及可视化
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1. hue官网 https://github.com/cloudera/hue http://gethue.com/ 2. hue的功能 有py2+django开发,提供Hive,Impala,MySQL,Oracle,PostgreSQL,Spark SQL,Solr SQL,Phoenix...等SQL数据获取和页面展示 3. 用docker 安装hue docker pull gethue/hue 4. hue i[详细]
-
[bigdata-037]apache hue 用SQL获取数据以及可视化
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1. hue官网 https://github.com/cloudera/hue http://gethue.com/ 2. hue的功能 有py2+django开发,提供Hive,Impala,MySQL,Oracle,PostgreSQL,Spark SQL,Solr SQL,Phoenix...等SQL数据获取和页面展示 3. 用docker 安装hue docker pull gethue/hue 4. hue i[详细]
-
[bigdata-038] tushare 金融数据 安装使用
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1. 安装 pip install tushare 2. 获取股票的基本面 #!/usr/bin/env python3#!-*- coding:utf-8 -*-import tushare as ts#显示基本信息res = ts.get_stock_basics()print(res)print(type(res)) res是的类型是pandas.core.frame.DataFrame,3114? x 22 的矩[详细]
-
[bigdata-035]用js dtree展示一个树形结构 py3+dtree+jquery
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1. dtree的下载 http://destroydrop.com/javascripts/tree/default.htm 2. 目录结构 . ├── static │?? ├── css │?? │?? └── dtree.css │?? ├── img │?? │?? ├── base.gif │?? │?? ├── cd.gif │?? │?? ├── diffDoc.gif │??[详细]
-
[编程题]数字翻转(大数加法)
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
对于一个整数X,定义操作rev(X)为将X按数位翻转过来,并且去除掉前导0。例如: 如果 X = 123,则rev(X) = 321; 如果 X = 100,则rev(X) = 1. 现在给出整数x和y,要求rev(rev(x) + rev(y))为多少?? 输入描述: 输入为一行,x、y(1 ≤ x、y ≤ 1000),以空格隔[详细]
-
MPP DB 是 大数据实时分析系统
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
大数据领域,实时分析系统(在线查询)是最常见的一种场景,前面写了一个《 实时分析系统 (HIVE/HBASE/IMPALA) 浅析 》讨论业界当前常见的方案。互联网公司用得比较多是 HIVE/HBASE ,如腾讯基于 HIVE 深度定制改造,改名为 TDW ,小米等公司选用 HBASE 等[详细]
-
BI学习计划
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1??????????《数据仓库》——比尔.恩门,主要介绍什么是数据仓库 2??????????SSIS设计与开发 2.1?????????BIWORK的微软SSIS系列 2.2?????????微软MSDN之SSIS系列 3??????????SSAS设计与开发 3.1?????????BIWORK的微软SSIS系列 3.2?????????微软MSDN之SSIS[详细]
-
BI导论——数据仓库概论
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
1??????????书名《Building the Data WareHouse》作者:比尔.恩门 2??????????目的:将积累的数据变成信息,以建立决策支持系统(DSS) 3??????????原有的DSS是分裂的,按需抽取的,导致重复与低效 4??????????原始数据与DSS数据对比与差异 4.1?????????原[详细]
-
亚马逊云BI产品QuickSight 深度解析
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
副标题#e# 亚马逊的云BI服务QuickSight,旨在让他们的企业用户更加便捷、快速低成本的分析数据。在这款直接面向企业商业决策人员的工具发布之前,AWS上已经拥有了一整套大数据的解决方案——开发了数据从采集、存储到分析的全部工具,不仅有离线计算方案,[详细]
-
推荐 :深入浅出之数据分析四步曲
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
数据分析四步骤 确定 开始分析之前需要拿到足够的背景信息,更重要的是要和对方一起明确你们共同想要解决的问题/想要验证的假设,更更重要的是确定交付的内容、形式、期限以及可用资源。 未明确确定自己的问题或目标就进行数据分析就如同为定下目的地就上[详细]
-
bzoj3110[Zjoi2013]K大数查询
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
题目链接:bzoj3110 题目大意: 有N个位置,M个操作。操作有两种,每次操作如果是1 a b c的形式表示在第a个位置到第b个位置,每个位置加入一个数c。 如果是2 a b c形式,表示询问从第a个位置到第b个位置,第c大的数是多少。[..谜一样的题意 应该是说把每个[详细]
-
万科房地产大数据分析平台
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
副标题#e# 如何研究房地产市场? 归根结底需要解决的问题无非是 地、房、人三大内容 然而,传统的研究方法却耗时耗力 看不全的土地——总会遗忘疏漏 想不尽的产品——依旧经验为先 读不透的客户——往往以偏概全 上海万科率先使用先进的手段颠覆传统的研究[详细]
-
携程BI团队实践:推荐系统中基于深度学习的混合协同过滤模型
所属栏目:[大数据] 日期:2020-12-24 来源:DaWei
副标题#e# 背景 近些年,深度学习在语音识别、图像处理、自然语言处理等领域都取得了很大的突破与成就。相对来说,深度学习在推荐系统领域的研究与应用还处于早期阶段。 携程在深度学习与推荐系统结合的领域也进行了相关的研究与应用,并在国际人工智能顶级[详细]





浙公网安备 33038102330484号