Pandas使用笔记

读取Excel

1、直接通过pd.read_excel()读取xlsx/xls文件

df = pd.read_excel("fileName.xlsx",sheet_name=sheet_name)

2、通过pd.ExcelFile()读取文件后使用parse()读取指定表格

xlsx_file = pd.ExcelFile(xlsx_path)
xlsx_file.parse('表名')

print(xlsx_file.sheet_names) #打印所有表名

读取SQLite

1、使用基础方法获取数据

    import sqlite3
    conn = sqlite3.connect(r"D:mWorkSpace数据.db")
    cur = conn.cursor()
    cur.execute("select * from 基础数据 limit 10")
    results = cur.fetchall()
    print(results)
    cur.close()
    conn.close()

2、使用read_sql_query+SQL语句获取数据

    conn = sqlite3.connect(r"D:mWorkSpace数据.db")
    df = pd.read_sql_query("select * from 基础数据 limit 10",conn)

保存为Excel

1、使用直接保存（存为单个xlsx文件）

    df.to_excel("fileName.xlsx",sheet_name="表名",index=False)

2、使用writer进行保存，将多个df存为单个文件内的多个表

    with pd.ExcelWriter(r'查询结果.xlsx') as writer:
        df.to_excel(writer, sheet_name='千台',index=False)

数据选取

df[col]：根据列名，并以Series的形式返回列

df[[col1, col2]]：以DataFrame形式返回多列

s.iloc[0]：按位置选取数据

s.loc['index_one']：按索引选取数据

df.iloc[0,:]：返回第一行

df.iloc[0,0]：返回第一列的第一个元素

数据清理

数据清理

df.columns = ['a','b','c']：重命名列名

pd.isnull()：检查DataFrame对象中的空值，并返回一个Boolean数组

pd.notnull()：检查DataFrame对象中的非空值，并返回一个Boolean数组

df.dropna()：删除所有包含空值的行

df.dropna(axis=1)：删除所有包含空值的列

df.dropna(axis=1,thresh=n)：删除所有小于n个非空值的行

df.fillna(x)：用x替换DataFrame对象中所有的空值

s.astype(float)：将Series中的数据类型更改为float类型

s.replace(1,'one')：用‘one’代替所有等于1的值

s.replace([1,3],['one','three'])：用'one'代替1，用'three'代替3

df.rename(columns=lambda x: x + 1)：批量更改列名

df.rename(columns={'old_name': 'new_ name'})：选择性更改列名

df.set_index('column_one')：更改索引列

df.rename(index=lambda x: x + 1)：批量重命名索引

数据处理

数据处理：Filter、Sort和GroupBy

df[df[col] > 0.5]：选择col列的值大于0.5的行

df.sort_values(col1)：按照列col1排序数据，默认升序排列

df.sort_values(col2, ascending=False)：按照列col1降序排列数据

df.sort_values([col1,col2], ascending=[True,False])：先按列col1升序排列，后按col2降序排列数据

df.groupby(col)：返回一个按列col进行分组的Groupby对象

df.groupby([col1,col2])：返回一个按多列进行分组的Groupby对象

df.groupby(col1)[col2]：返回按列col1进行分组后，列col2的均值

df.pivot_table(index=col1, values=[col2,col3], aggfunc=max)：创建一个按列col1进行分组，并计算col2和col3的最大值的数据透视表

df.groupby(col1).agg(np.mean)：返回按列col1分组的所有列的均值

data.apply(np.mean)：对DataFrame中的每一列应用函数np.mean

data.apply(np.max,axis=1)：对DataFrame中的每一行应用函数np.max

数据合并

df1.append(df2)：将df2中的行添加到df1的尾部

df.concat([df1, df2],axis=1)：将df2中的列添加到df1的尾部

df1.join(df2,on=col1,how='inner')：对df1的列和df2的列执行SQL形式的join

数据统计

数据统计

df.describe()：查看数据值列的汇总统计

df.mean()：返回所有列的均值

df.corr()：返回列与列之间的相关系数

df.count()：返回每一列中的非空值的个数

df.max()：返回每一列的最大值

df.min()：返回每一列的最小值

df.median()：返回每一列的中位数

df.std()：返回每一列的标准差

向量

pass