PCA 以及 SPCA

　

spca

本文主要为PCA(principal component analysis)的学习记录以及SPCA(sparse principal component analysis)的学习记录

因为关于PCA的原理很多博客以及书本介绍了很多，这个不单独记录。

首先是PCA即变化过程：

1.假设原始的数据为X 是一个n*p的矩阵， p为数据的维度， n为数据的个数。

2.将X的每一行进行零均值化。

3.计算X的协方差矩阵。C=1mXXT

4.求出C的特征值以及特征向量

5.将特征向量对应特征值大小从左到右按列排成矩阵，取前K列组成P矩阵

6.Y=PTX为降到K为的数据。

在此，我们改变一下第5和第6步。

首先，我们不取前K列而是取所有列为P’矩阵，

那么Y=P′TX我们看成Y是关于X的线性变化。

而在PCA存在这么一个性质，即X≈P′P′TX

其中P′TP′=I

我们把上述过程可以理解成一个关于的X的线性变化过程，那么就可以认为是P′T是X线性变化的参数，通过对线性变化求解来得到我们需要的P′T

则可以表示成如下公式：

mPinimizef(P′)=||X−P′P′TX||2

subjecttoP′P′T=I

未完待续

相关阅读

超好理解的PCA 特征选择

一、PCA简介1. 相关背景 主成分分析（Principal Component Analysis，PCA）， 是一种统计方法。通过正交变换将一组可能存在相关性的变量

PCA

一，引言 降维是对数据高维度特征的一种预处理方法。降维是将高维度的数据保留下最重要的一些特征，去除噪声和不重要的特征，从而实现

wpcap.dll和packet.dll丢失

刚刚用某嗅探工具，启动时报错。错误：     wpcap.dll和packet.dll丢失    找不到网络适配器于是满世界找，找到后又遇到个找不到

主成分分析法（PCA）

一、PCA简介 1. 相关背景  上完陈恩红老师的《机器学习与知识发现》和季海波老师的《矩阵代数》两门课之后，颇有体会。最近在做主

PcAnywhere用法

安装软件 配置被控端 点击“主机”，点击“添加” 可以使用“现有的Windows账户”，也可以创建新的“用户名和密码” 启动被