当前位置:首页 > 问答百科 > 正文内容

显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南

福瑞号2023-01-24 07:33:16问答百科181
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图1
主分量分析(PCA)是一种统计技术,它允许在数据集中识别潜在的线性模式,这样就可以用其他数据集来表示,而不丢失大量信息。最后的数据集应该能够通过减少变量来解释原始数据集的大部分方差。最后的变量将被命名为主分量。下图是主分量分析的每个步骤的活动图。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图2
为了说明上图中描述的过程,我们将使用以下具有两个维度的数据集。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图3
下图显示了变量x 1与变量x 2的值。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图4
我们的目的是计算主分量,以便将其转换为只有一维的数据集,同时信息损失最小。
1.从数据中减去平均值
PCA的第一步是减去数据集中每个变量的平均值,如下图所示。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图5
从上图中可以看到,这一均值的减法导致了现在零均值的数据的平移。
2.建立协方差矩阵
两个随机变量的协方差度量了他们各自之间的变化程度。协方差的标志提供了以下关于它们之间关系的信息:
·如果协方差为正,则两个变量一起增减。·如果协方差为负,那么当一个变量增加,另一个减少,反之亦然。
这些值将决定用于减少数据集维度的变量之间的线性依赖关系。回到我们的例子,以下是协方差矩阵。
对角线上的值表示每个变量的协方差,它们等于方差。方差是一个度量如何从平均值传播数据的概念。非对角值表示两个变量之间的协方差。在这种情况下,这些值是正的,这意味着两个变量一起增加和减少。
3.确定特征向量和特征值
特征向量指的是在它们应用任何线性变换后方向保持不变的向量。然而,向量的长度在转换之后不可能保持不变,即,该变换的结果是向量乘以标量。该标量被称为特征值,每个特征向量都有与之关联的一个特征向量。
我们可以为每个数据集计算特征向量,或者组件的数量等于数据集的维数。在这种情况下,我们有一个二维数据集,所以特征向量的数量是2。下图是我们举例的特征向量。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图6
由于是根据前述协方差矩阵计算的,所以特征向量表示数据具有更多方差的方向。另一方面,它们各自的特征值决定数据集在该方向上具有的方差量。
一旦我们获取了这些新方向,我们可以按照下图来绘制数据。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图7
请注意,数据没有改变,我们只是根据这些新方向重写它们,而不是以前的x 1 -x 2方向。
4.主分量
在上一步中计算出的所有可用特征向量中,我们选择需要数据投影的部分。所选择的特征向量就是主分量。为了建立一个准则来选择特征向量,我们首先必须定义每个特征向量的相对方差和一个数据集的总方差,一个特征向量的相对方差度量了多少信息可以归为它。数据集的总方差是所有变量的方差之和。
这两个概念由特征值决定。对于我们的例子,下表显示了每个特征向量的相对方差和总方差。
正如我们所看到的,第一个特征向量可以解释几乎所有数据方差的85%,而第二个特征向量解释了其中的15%。下图显示了组件的累积方差。
显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南-图8
选择变量的常用方法是确定我们希望最终数据集解释的信息量。如果信息的数量减少,我们将选择的主分量的数量也会减少。在本例中,当我们想要将二维数据集减少到一维数据集时,我们将只选择第一个特征向量作为主分量。因此,最终减少后的数据集将解释约85%的原始数据。
5.减少数据维度
一旦我们选择了主分量,就必须将数据投影到它们上。下图是示例中的投影结果。
虽然这个投影可以解释原始数据的大部分方差,但是我们已经失去了第二个特征向量的相对方差和总方差的信息。一般来说,这个过程是不可逆的,这意味着我们无法从投影中恢复原始数据。
结论
主分量分析是一种可以帮助我们识别数据集基础依赖关系的技术,并且显著降低数据集的维度。
这种技术对于处理具有数百个变量的数据集非常有用,同时可以还原原始数据集中的大部分信息。
主分量分析也可以在神经网络中实现。然而,由于这个过程是不可逆的,因此数据的减少可能只针对输入而不是目标变量。
来源:neuraldesigner作者:Pablo Martin智能观 编译

扫描二维码推送至手机访问。

版权声明:本文由福瑞号发布,如需转载请注明出处。

本文链接:http://www.furui.com.cn/49512.html

标签: 什么叫pca

“显著降低数据集维度!这可能是主分量分析(PCA)最简单的操作指南” 的相关文章

空间站里能洗澡吗(生活在中国空间站的宇航员)

空间站里能洗澡吗(生活在中国空间站的宇航员)

生活在中国空间站的宇航员,他们能洗澡吗? 神舟十二号的成功发射升空,见证了咱们中国航天事业的迅猛发展,是我国航天史上的重大里程碑,而聂海胜、刘伯明、唐洪波三名航天员在天和空间站的一举一动也牵引着国人的目光,除了一些科研项目之外,不少人对宇航员在空间站失重的情况下的日常生活也是很感兴趣的。 其中宇...

什么是摄护腺(高温水蒸气“热疗”)

什么是摄护腺(高温水蒸气“热疗”)

读创/深圳商报记者 赵鸿飞 通讯员 杨柳 谢伟杰 103℃的水蒸气,通过尿道注入,瞬间“秒杀”前列腺的增生组织细胞。近日,深圳大学总医院引入了一项针对前列腺增生的全新治疗技术——前列腺蒸汽热疗消融术,又称“瑞梦”。 “瑞梦”用103℃的水蒸汽给前列腺“热疗”。蒸汽注入后可在0.01秒的时间之内让周围...

风格的英语怎么说(You)

风格的英语怎么说(You)

英语口 语 · 吉 米老师说 fashion 是“时尚”,但夸人时尚不能说 you are fashion,那该怎么说呢? 和吉米老师一起学习正确的表达吧~ 英语口语·实用口语 本文属于英语口语(kouyu8)原创 转载请到后台授权,侵权必究 时尚是身份的体现,也表达着不同的价值观。 “你很时尚...

北京裤衩大楼是什么(国内五个“裤衩”建筑)

北京裤衩大楼是什么(国内五个“裤衩”建筑)

国内近年来出现了很多独特的建筑,被网友群众称作“裤衩类”的就有好几个:1、央视“大裤衩”;2、苏州“大秋裤”;3、杭州“倒立牛仔裤”;4、南京“倒立大裤衩”;5、南宁“大裤衩”。下面就一起来看一下吧。#原创作者专属任务##网红打卡地# 1、央视“大裤衩”。北京央视大厦中央电视台总部大楼,是北京著名...

太阳核聚变的原理(核聚变的原理是什么)

太阳核聚变的原理(核聚变的原理是什么)

近几十年以来,人类的科技已经处于高速的发展之中了,目前全世界最尖端的科研技术,基本上都是用于核能、航天等等领域的。而在这其中,就有一个暂时还没有解决的问题——可控核聚变。 之所以一定要将核聚变变为可控的为人类所用,就是因为核聚变的威力过于强大,可以解决目前国际上绝大部分的能源问题。 那么什么是核聚...