from sklearn.decomposition import PCA
PCA
主成分分析(Principal Components Analysis,简称PCA)是一种用于数据预处理的数据降维技术。
PCA的一般步骤是:先对原始数据进行零均值处理,然后求协方差矩阵,再求协方差矩阵的特征向量和特征值,这些特征向量构成一个新的特征空间。
sklearn.decomposition.PCA(n_components=None, copy=True, whiten=False)
参数:
n_components:
意义:PCA算法中所要保留的主成分个数n,也即保留下来的特征个数n
类型:int 或者 string,缺省时默认为None,所有成分被保留。
赋值为int,比如n_components=1,将把原始数据降到一个维度。
赋值为string,比如n_components='mle',将自动选取特征个数n,使得满足所要求的方差百分比。
copy:
类型:bool,True或者False,缺省时默认为True。
意义:表示是否在运行算法时,将原始训练数据复制一份。若为True,则运行PCA算法后,原始训练数据的值不会有任何改变,
因为是在原始数据的副本上进行运算;若为False,则运行PCA算法后,原始训练数据的值会改,因为是在原始数据上进行降维计算。
whiten:
类型:bool,缺省时默认为False。
意义:白化,使得每个特征具有相同的方差。
PCA属性:
components_ :返回具有方差的成分。
explained_variance_ratio_:返回 所保留的n个成分各自的方差百分比。
n_components_:返回所保留的成分个数n。
mean_:
noise_variance_:
PCA方法:
1、fit(X,y=None)
fit(X),表示用数据X来训练PCA模型。
函数返回值:调用fit方法的对象本身。例如,pca.fit(X) 表示使用 X 来训练 pca 对象。
延伸:fit()可以说是scikit-learn中的一个常用方法。每一个需要训练的算法都会有一个fit()方法,这其实就是算法中的“训练”步骤。因为PCA是无监督学习算法,所以这里的y自然等于None。
2、fit_transform(X)
用X来训练PCA模型,同时返回降维后的数据。
newX=pca.fit_transform(X),newX就是降维后的数据。
3、inverse_transform(X)
将降维后的数据转换成原始数据,X=pca.inverse_transform(newX)
4、transform(X)
将数据 X 转换为降维数据。模型训练好后,可以使用transform方法对新输入的数据进行降维。
此外,还有get_covariance()、get_precision()、get_params(deep=True)、score(X, y=None)等方法,以后用到再补充吧。
实例:
import numpy as np
from sklearn.decomposition import PCA
X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])
pca = PCA(n_components=2)
newX = pca.fit_transform(X) #等价于pca.fit(X) pca.transform(X)
invX = pca.inverse_transform(X) #将降维后的数据转换成原始数据
print(X)
[[-1 -1]
[-2 -1]
[-3 -2]
[ 1 1]
[ 2 1]
[ 3 2]]
print(newX)
array([[ 1.38340578, 0.2935787],
[ 2.22189802, -0.25133484],
[ 3.6053038 , 0.04224385],
[-1.38340578, -0.2935787],
[-2.22189802, 0.25133484],
[-3.6053038 , -0.04224385]])
print(invX)
[[-1 -1]
[-2 -1]
[-3 -2]
[ 1 1]
[ 2 1]
[ 3 2]]
print(pca.explained_variance_ratio_)
[ 0.99244289 0.00755711]
我们训练的pca对象的n_components值为2,即保留了两个特征,第一个特征占所有特征的方差百分比为0.99244289,也就是说几乎保留了所有信息。也就是说,第一个特征可以表达整个数据集的 99.24%,所以我们可以将其降为 1 维:
pca = PCA(n_components=1)
newX = pca.fit_transform(X)
print(pca.explained_variance_ratio_)
[ 0.99244289]
众多
,尽在python学习网,欢迎在线学习!
本文为原创文章,版权归知行编程网所有,欢迎分享本文,转载请保留出处!
你可能也喜欢
- ♥ 使用python将csv文件写成字典实现操作11/24
- ♥ 千年前的古诗,苏轼的不知月亮上是何年何月|现在我用Python来计算出来了03/27
- ♥ 如何在python队列中实现多线程?01/11
- ♥ 什么是 Python 中的多态性11/28
- ♥ python如何循环输入08/29
- ♥ 如何在python中获取两个列表的不同元素?10/10
内容反馈