1.大数据采集

  • 大数据采集包含：系统日志采集方法、网络数据采集方法(通过网络爬虫实现)、其他数据采集(通过特定的接口)
1.1 系统日志采集方法

Flume： 分布式日志收集系统，最初由Cloudera 开发，现是Apache的一个开源项目
Chukwa：开源分布式数据收集系统，是Hadoop 的组成部分，构建在 hdfs 和 map/reduce 框架之上
Scrible：Scribe是facebook开源的日志收集系统，在facebook内部已经得到大量的应用
Kafka：最早是LinkedIn的开发的消息系统，现是Apache的一个开源项目

2数据预处理原理

通过数据预处理工作， 可以使残缺的数据完整 ，并将错误的数据纠正 、多余的数据去除，进 而将所需的数据挑选出 来，并且进行数据集成 。数据预处理的常见方 法有数据清洗、数据集 成与数据变换。

2.1数据清洗

在这里插入图片描述
噪声的处理
在这里插入图片描述
数据清洗可以视为一个过程，包括检测偏差和纠正偏差两个步骤。
检查偏差:可以使用已有的关于数据性质的知识发现噪声、离群点和需要考察的不寻常 的值。这种知识或“关于数据的数据”称为元数据。
纠正偏差:即一旦发现偏差，通常需要定义并使用一系列的变换来纠正它们。但这些工 具只支持有限的变换，因此，常常可能需要为数据清洗过程的这一步编写定 制的程序

2.2数据集成

在这里插入图片描述

2.3数据变换

在这里插入图片描述

3.数据仓库与ETL工具

在这里插入图片描述

# 大数据
Logo
GitCode 开源社区

旨在为数千万中国开发者提供一个无缝且高效的云端环境，以支持学习、使用和贡献开源项目。

更多推荐

[转载]在Windows环境下安装GNU Radio

转自：在Windows环境下安装GNURadio_恐弱智_新浪博客GNU Radio是用Python开发的，大部分开源的工程能够在Linux环境下运行良好，而Windows下却运行的很勉强，而且安装配置都很复杂。GNU Radio算是个例外了，不光提供了Windows的二进制安装，还有比较详细的说明。我是Python小白，所以折腾了好久才弄好，特意记录下来，免得以后再装还折腾。GNU Radio的

avatar GitCode 开源社区

centOS 8 使用dnf安装Docker

DNF是什么？CentOS 8使用YUM软件包管理器版本v4.0.4。现在，该版本使用DNF(已删除YUM)。DNF是软件包管理器。它会在Linux发行版上安装，执行更新并删除软件包。使用DNF安装Docker跳过具有损坏依赖性的程序包一个有效的解决方案是使您的CentOS 8系统使用以下--nobest命令安装最符合条件的版本：sudo dnf install docker...

avatar GitCode 开源社区

定时同步数据库表(mysql+linux+crontab)

sync.sh里面的参数需要改变，ip/username/password/database/tablesync.sh#!/bin/sh# Please change the IP and password of the data source db.# Then change the table name.filename=/home/nington/db/$(date +%Y-%m

avatar GitCode 开源社区