为何要进行数据预处理

发布网友发布时间：2022-04-15 02:31

共2个回答

懂视网时间：2022-04-15 06:52

数据预处理的作用是数据清理编辑、数据集成编辑、数据变换编辑、数据归约编辑。

　　数据预处理（datapreprocessing）是指在主要的处理以前对数据进行的一些处理。如对大部分地球物理面积性观测数据在进行转换或增强处理之前，首先将不规则分布的测网经过插值转换为规则网的处理，以利于计算机的运算。另外，对于一些剖面测量数据，如地震资料预处理有垂直叠加、重排、加道头、编辑、重新取样、多路编辑等。现实世界中数据大体上都是不完整，不一致的脏数据，无法直接进行数据挖掘，或挖掘结果差强人意。为了提高数据挖掘的质量产生了数据预处理技术。数据预处理有多种方法：数据清理，数据集成，数据变换，数据归约等。这些数据处理技术在数据挖掘之前使用，大大提高了数据挖掘模式的质量，降低实际挖掘所需要的时间。数据清理例程通过填写缺失的值、光滑噪声数据、识别或删除离群点并解决不一致性来“清理”数据。主要是达到如下目标：格式标准化，异常数据清除，错误纠正，重复数据的清除。数据集成例程将多个数据源中的数据结合起来并统一存储，建立数据仓库的过程实际上就是数据集成。通过平滑聚集，数据概化，规范化等方式将数据转换成适用于数据挖掘的形式。数据挖掘时往往数据量非常大，在少量数据上进行挖掘分析需要很长的时间，数据归约技术可以用来得到数据集的归约表示，它小得多，但仍然接近于保持原数据的完整性，并结果与归约前结果相同或几乎相同。数据预处理是数据挖掘一个热门的研究方面，毕竟这是由数据预处理的产生背景所决定的，现实世界中的数据几乎都脏数据。

热心网友时间：2022-04-15 04:00

数据中包含很多噪声数据，需要去除不相关的数据，比如如分析无关的字段；
了解数据质量，有些数据质量不足以直接使用，如包含过多的缺失值，需要进行缺失值处理；
数据字段不能够直接使用，需要派生新的字段，以更好的进行进一步的数据挖掘；
数据分散，需要将数据进行整合，例如追加表（增加行），或者合并表（增加列），通过数据的预处理能够很好的对数据有初步的认识和理解。