Pandas
Pandas是 Python下最强大的数据分析和探索工具。它包含高级的数据结构和精巧的工具,使得在 Python中处理数据非常快速和简单。 Pandas构建在 Numpy之上,它使得以 Numpy为中心的应用很容易使用。Pandas的功能非常强大,支持类似于SQL的数据增、删、查、改,并且带有丰富的数据处理函数;支持时间序列分析功能;支持灵活处理缺失数据等。
Pandas的安装相对来说比较容易,安装好 Numpy之后,就可以直接安装了,通过pip install pandas或下载源码后 python setup. py install安装均可。由于我们频繁用到读取和写入Excel,但默认的 Pandas还不能读写 Excel文件,需要安装xlrd(读)和xlwt(写)库才能支持 Excel的读写,方法如下：
pip install xrd #为 Python添加读取 Excel的功能
pip install xlwt #为 Python添加写入 Excel的功能
Pandas基本的数据结构是 Series和 Dataframe。顾名思义, Series就是序列,类似一维数组; Data Frame则是相当于一张二维的表格,类似二维数组,它的每一列都是一个 Series。为了定位 Series中的元素, Pandas提供了Index对象,每个 Series都会带有一个对应的Index,用来标记不同的元素, Index的内容不一定是数字,也可以是字母、中文等,它类似于SQL中的主键。
类似地, Data Frame相当于多个带有同样 Index的 Series的组合,每个 Seiries都带有唯一的表头,用来标识不同的 Series。举个例子：
# -*- coding:utf-8 -*-
import pandas as pd #通常用pd作为 pandas的别名。
s=pd.Series([1,2,3], index=['a','b','c']) #创建一个序列s
d=pd.DataFrame([[1,2,3],[4,5,6]], columns=['a','b','c']) #创建一个表
d2=pd.DataFrame(s) #也可以用已有的序列来创建表格
print(d.head()) #预览前5行数据
print(d.describe()) #数据基本统计量
pd.read_excel('data.xls') #读取Exce1文件,创建 Dataframe
pd.read_csv('data.csv', encoding='utf-8') #读取文本格式的数据,一般用 encoding指定编码。
StatsModels
Pandas着眼于数据的读取、处理和探索,而StatsModels则更加注重数据的统计建模分析,它使得 Python有了R语言的味道。 StatsModels支持与 Pandas进行数据交互,因此,它与 Pandas结合,成为了 Python下强大的数据挖掘组合。
安装StatsModels相当简单,既可以通过pip安装,又可以通过源码安装。对于Windows用户来说,官网上甚至已经有编译好的exe文件以供下载。如果手动安装的话,需要自行解决好依赖问题, Statmodel依赖于Pandas(当然也依赖于 Pandas所依赖的),同时还依赖于pasty(一个描述统计的库)。
下面是一个用 Stats Models来进行ADF平稳性检验的例子。
# -*- coding: utf-8 -*-
from statsmodels.tsa.stattools import adfuller as ADF #导入ADF恰验
import numpy as np
ADF.(np.random.rand(100)) #返回的结果有ADF、p值
Scikit-Learn
Scikit-Learn是 Python下强大的机器学习工具包,它提供了完善的机器学习工具箱,包括数据预处理、分类、回归、聚类、预测和模型分析等。Scikit-Learn依赖于 Numpy、 Scipy和 Matplotlib,因此,只需要提前安装好这几个库,然后安装 Scikit-Learn就基本上没有什么问题了,安装方法和之前一样,要不就是pipinstall scikit-leam安装,要不就是下载源码自己安装。
创建一个机器学习的模型很简单:
# -*- coding:utf-8 -*-
from sklearn.linear_model import Linearregression #导入线性回归模型
model= Linearregression() #建立线性回归模型
print (model)
1)所有模型提供的接口有:
model fit0:训练模型,对于监督模型来说是 fit(x,y),对于非监督模型是fit(X)。
2)监督模型提供的接口有:
model predict(xnew):预测新样本
model predict proba(Xnew):预测概率,仅对某些模型有用(比如LR)
model score:得分越高,fit越好
3)非监督模型提供的接口有:
model transform(:从数据中学到新的“基空间”
model fit transform:从数据中学到新的基并将这个数据按照这组“基”进行转换。
Scikit- Learn本身提供了一些实例数据,比较常见的有安德森鸢尾花卉数据集、手写图像数据集等。现在使用鸢尾花数据集iris写一个简单的机器学习的例子。对于这个数据集，可以阅读《R语言数据挖掘实践——数据挖掘简介》
# -*- coding:utf-8 -*-
from sklearn import datasets #导入数据集
iris= datasets.load_iris() #加载数据集
print(iris.data.shape) #查看数据集大小
from sklearn import svm #导入SVM模型
clf=svm. LinearSVC() #建立线性SVM分类器
clf.fit(iris.data,iris.target) #用数据训练模型
clf.predict([[5.0,3.6,1.3,0.25]]) #训练好模型之后,输入新的数据进行预测
clf.coef_ #查看训练好模型的参数