机器学习框架sklearn之特征预处理:无量钢化

news/2024/7/9 11:22:39 标签: sklearn, python, 归一化, 标准化

特征预处理

通过一些转换函数将特征数据转换成更加适合算法模型的特征数据过程。

包含内容

  • 数字型数据的无量钢化:

    归一化

    标准化

  • 为什么要进行归一化/标准化

    ​ 特征的单位或者大小相差较大,或者某特征的方差相比其他特征要大出几个数量级,容易影响(支配)目标结果,使得一些算法无法学习到其他的特征。

    ​ 我们需要用到一些方法进行无量钢化,使不同规格的数据转换到同一规格。

归一化

  • 定义
    通过对原始数据进行变换把数据映射到(默认为[0,1])之间

  • 公式
    X1=(x-min)/(max-min)
    X2=X1*(mx-mi)+mi

注:该公式作用于每一列,max为一列的最大值,min为一列的最小值,X2为最终结果,mx、mi分别为指定要映射的区间值,默认mx为1,mi为0

  • 特征预处理API
python">sklearn.preprocessing.MinMaxScaler(feature_range=(0,1)...)

	-MinMaxScaler.fit_transform(X)
		-X:numpy array格式的数据[n_samples,n_features]
		-返回值:转换后的形状相同的array
  • 代码展示
python">import pandas as pd
from sklearn.preprocessing import MinMaxScaler
def minmax_demo():
    #1.获取数据,一共四列九行
    data=pd.read_csv("data.TXT")
    #获取前三列所有行
    data=data.iloc[:,:3]
    print("data:\n",data)
    #2.实例化一个转换器
    transfer=MinMaxScaler()
    #3.调用fit_transform,得到归一化结果
    result=transfer.fit_transform(data)
    print("result:\n",result)
    return None

标准化

  • 定义
    通过对原始数据进行变换把数据变换到均值为0,标准差为1范围内

  • 公式
    X1=(x-mean)/σ
    注:该公式作用于每一列,mean为平均值,σ为标准差
    对于归一化来说:如果出现异常点,影响了最大值和最小值,那么结果显然会发生改变
    对于标准化来说:如果出现异常点,由于具有一定数据量,少量的异常点对于平均值的影响不大,从而方差改变较小

  • API

python">sklearn.preprocessing.StandardScaler()

	-处理之后,对每列来说,所有数据都聚集在均值为0附近,标准差为1
	-StandardScaler.fit_transform(X)
			X:numpy array格式的数据[n_samples,n_features]
	-返回值:转换后的形状相同的array
  • 代码展示
python">from sklearn.preprocessing import StandardScaler
import pandas as pd
def stand_demo():
    # 1.获取数据,一共四列九行
    data = pd.read_csv("data.TXT")
    # 获取前三列所有行
    data = data.iloc[:, :3]
    print("data:\n", data)
    # 2.实例化一个转换器
    transfer = StandardScaler()
    # 3.调用fit_transform
    result = transfer.fit_transform(data)
    print("result:\n", result)
    return None
  • 应用场景:在已有样本足够多的情况下比较稳定,适合现代嘈杂大数据场景

http://www.niftyadmin.cn/n/53303.html

相关文章

为什么需要内存对齐

内存对齐 为什么需要内存对齐? 平台原因:不是所有的硬件平台都能访问任意内存地址上的任意数据,某些硬件平台只能在某些地址处取某些特定类型的数据,否则抛出硬件异常。为了同一个程序可以在多平台运行,需要内存对齐…

02- pandas 数据库 (数据库)

pandas 数据库重点: pandas 的主要数据结构: Series (一维数据)与 DataFrame (二维数据)。 pd.DataFrame(data np.random.randint(0,151,size (5,3)), # 生成pandas数据 index [Danial,Brandon,softpo,Ella,Cindy], # 行索引 …

【计组】内存和总线

课程链接:深入浅出计算机组成原理_组成原理_计算机基础-极客时间 一、虚拟内存和内存保护 日常使用的操作系统下,程序不能直接访问物理内存。内存需要被分成固定大小的页(Page),再通过虚拟内存地址(Virtu…

网络安全协议(3)

作者简介:一名在校云计算网络运维学生、每天分享网络运维的学习经验、和学习笔记。 座右铭:低头赶路,敬事如仪 个人主页:网络豆的主页​​​​​​ 目录 前言 一.当前流行操作系统的安全等级 1.Windows的安全等级 什么是EAL…

linux(centos7.6)docker

官方文档:https://docs.docker.com/engine/install/centos/1安装之前删除旧版本的docker2安装yum install-y yum-utils3配置yum源 不用官网的外国下载太慢 推荐阿里云yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.r…

NODE => CORS跨域资源共享学习

1.CORS跨域资源共享 cors是Express的一个第三方中间件。通过安装和配置cors中间件,可以很方便地解决跨域问题 运行npm install cors 安装中间件使用const cors require(‘cors’) 导入中间件在路由之前调用 app.use(cors()&#…

windeployqt实现一键打包

每次发布QT程序前,都必须要在命令行环境下运行windeployqt 工具进行打包,加载相关的lib文件,才能正常运行。但是在命令行模式下,每次都要手动输入windeployqt的目录,和应用程序的位置目录,效率非常低,见下图: 那QT有没有什么好用的工具可以避免这个问题呢,认真找了一下…

解决方案 | 亚洲诚信助力互联网行业网络安全建设

行业背景当前,世界正处在从工业经济向数字经济转型过渡的大变革时代,互联网作为工业社会向数字时代迁移的驱动力,是推进新一轮科技革命与产业变革的中坚力量。随着数字化进程的加剧,企业所面临的网络安全形势也日趋多变复杂。尤其…