数据分析与挖掘案例航空公司客户价值分析

本次实战项目是关于航空公司客户价值的分析，其中用到的聚类方法是K-Means方法，属于非监督学习。

Tools       ：python 3.6; jupyter

os            :   mac os

reference： 数据分析与挖掘实战，csdn

数据分析或挖掘涉及的一般步骤：

数据集中共有62988个客户的基本信息和在观测窗口内的消费积分等相关信息，其中包含了会员卡号、入会时间、性别、年龄、会员卡级别、在观测窗口内的飞行公里数、飞行时间等44个特征属性。

挖掘目标

• 根据客户信息，对客户进行分类。

• 针对不同类型客户进行特征提取，分析不同类型客户的价值。

• 采取个性化服务，根据客户类型，制定相应营销策略。

首先导入需要用到的库，然后概览数据集，并进行数据预处理：

import pandas as pd
import numpy as np
from sklearn.cluster import KMeans
import matplotlib.pyplot as plt

datafile = "/Volumes/win/sj/dataset/air_data.csv"
data = pd.read_csv(datafile, encoding="utf-8")
print(data.shape)
print(data.info())

MEMBER_NO    FFP_DATE FIRST_FLIGHT_DATE GENDER  FFP_TIER    WORK_CITY  \
0      54993  2006/11/02        2008/12/24      男         6            .   
1      28065  2007/02/19        2007/08/03      男         6          NaN   
2      55106  2007/02/01        2007/08/30      男         6            .   
3      21189  2008/08/22        2008/08/23      男         5  Los Angeles   
4      39546  2009/04/10        2009/04/15      男         6           贵阳   

  WORK_PROVINCE WORK_COUNTRY   AGE   LOAD_TIME       ...         \
0            北京           CN  31.0  2014/03/31       ...          
1            北京           CN  42.0  2014/03/31       ...          
2            北京           CN  40.0  2014/03/31       ...          
3            CA           US  64.0  2014/03/31       ...          
4            贵州           CN  48.0  2014/03/31       ...          

   ADD_Point_SUM  Eli_Add_Point_Sum  L1Y_ELi_Add_Points  Points_Sum  \
0          39992             114452              111100      619760   
1          12000              53288               53288      415768   
2          15491              55202               51711      406361   
3              0              34890               34890      372204   
4          22704              64969               64969      338813   

   L1Y_Points_Sum  Ration_L1Y_Flight_Count  Ration_P1Y_Flight_Count  \
0          370211                 0.509524                 0.490476   
1          238410                 0.514286                 0.485714   
2          233798                 0.518519                 0.481481   
3          186100                 0.434783                 0.565217   
4          210365                 0.532895                 0.467105   

   Ration_P1Y_BPS Ration_L1Y_BPS  Point_NotFlight  
0        0.487221       0.512777               50  
1        0.489289       0.510708               33  
2        0.481467       0.518530               26  
3        0.551722       0.448275               12  
4        0.469054       0.530943               39  

[5 rows x 44 columns]

　对原始数据进行预分析，主要排查缺失值和异常值。分析原始数据的缺失值和异常值，根据分析结果，在数据处理阶段中进行相应处理。　

 通过观察，清洗以下数据：

• 票价为空
• 票价为0，平均折扣率不为0，总飞行公里数大于0

    处理方法：满足清洗条件的一行数据全部丢弃。

data = data[data["SUM_YR_1"].notnull() & data["SUM_YR_2"].notnull()]
index1 = data["SUM_YR_1"] != 0
index2 = data["SUM_YR_2"] != 0
index3 = (data["SEG_KM_SUM"] == 0) & (data["avg_discount"] == 0)
data = data[index1 | index2| index3]
print(data.shape)

删除后剩余的样本值是62044个，可见异常样本的比例极少，不会对分析果产生较大的影响。

特征属性构造：

原始数据集的特征属性太多，而且各属性不具有降维的特征，故这里选取几个对航空公司来说比较有价值的几个特征进行分析，

最终选取的特征是第一年总票价、第二年总票价、观测窗口总飞行公里数、飞行次数、平均乘机时间间隔、观察窗口内最大乘机间隔、入会时间、观测窗口的结束时间、平均折扣率这八个特征。

理由：

• 选取的特征是第一年总票价、第二年总票价、观测窗口总飞行公里数是要计算平均飞行每公里的票价，因为对于航空公司来说并不是票价越高，飞行公里数越长越能创造利润，相反而是那些近距离的高等舱的客户创造更大的利益。
• 当然总飞行公里数、飞行次数也都是评价一个客户价值的重要的指标
• 入会时间可以看出客户是不是老用户及忠诚度
• 通过平均乘机时间间隔、观察窗口内最大乘机间隔可以判断客户的乘机频率是不是固定
• 平均折扣率可以反映出客户给公里带来的利益，毕竟来说越是高价值的客户享用的折扣率越高

data["LOAD_TIME"] = pd.to_datetime(data["LOAD_TIME"])
data["FFP_DATE"] = pd.to_datetime(data["FFP_DATE"])
data["入会时间"] = data["LOAD_TIME"] - data["FFP_DATE"]
data["平均每公里票价"] = (data["SUM_YR_1"] + data["SUM_YR_2"]) / data["SEG_KM_SUM"]
data["时间间隔差值"] = data["MAX_INTERVAL"] - data["AVG_INTERVAL"]
deal_data = data.rename(
    columns = {"FLIGHT_COUNT" : "飞行次数", "SEG_KM_SUM" : "总里程", "avg_discount" : "平均折扣率"},
    inplace = False
)
filter_data = deal_data[["入会时间", "飞行次数", "平均每公里票价", "总里程", "时间间隔差值", "平均折扣率"]]
print(filter_data[0:5])
filter_data['入会时间'] = filter_data['入会时间'].astype(np.int64)/(60*60*24*10**9)
print(filter_data[0:5])
print(filter_data.info())

入会时间  飞行次数   平均每公里票价     总里程     时间间隔差值     平均折扣率
0 2706 days   210  0.815798  580717  14.516746  0.961639
1 2597 days   140  1.154043  293678  11.805755  1.252314
2 2615 days   135  1.158217  283712  12.701493  1.254676
3 2047 days    23  0.859648  281336  45.136364  1.090870
4 1816 days   152  0.823617  309928  42.211921  0.970658
     入会时间  飞行次数   平均每公里票价     总里程     时间间隔差值     平均折扣率
0  2706.0   210  0.815798  580717  14.516746  0.961639
1  2597.0   140  1.154043  293678  11.805755  1.252314
2  2615.0   135  1.158217  283712  12.701493  1.254676
3  2047.0    23  0.859648  281336  45.136364  1.090870
4  1816.0   152  0.823617  309928  42.211921  0.970658
<class 'pandas.core.frame.DataFrame'>
Int64Index: 62044 entries, 0 to 62978
Data columns (total 6 columns):
入会时间       62044 non-null float64
飞行次数       62044 non-null int64
平均每公里票价    62044 non-null float64
总里程        62044 non-null int64
时间间隔差值     62044 non-null float64
平均折扣率      62044 non-null float64
dtypes: float64(4), int64(2)
memory usage: 3.3 MB
None

数据标准化　　

为不同指标数量级不同所带来的影响，对数据进行标准差标准化。

filter_zscore_data = (filter_data - filter_data.mean(axis=0))/(filter_data.std(axis=0))
filter_zscore_data[0:5]

利用K-Means聚类算法对客户数据进行客户分群

对于K-Means方法，k的取值是一个难点，因为是无监督的聚类分析问题，所以不寻在绝对正确的值，需要进行研究试探。这里采用计算SSE的方法，尝试找到最好的K数值。

def distEclud(vecA, vecB):
    """
    计算两个向量的欧式距离的平方，并返回
    """
    return np.sum(np.power(vecA - vecB, 2))
 
def test_Kmeans_nclusters(data_train):
    """
    计算不同的k值时，SSE的大小变化
    """
#     print(data_train)
    data_train = data_train.values
#     print(data_train)
    nums=range(2,10)
    SSE = []
    for num in nums:
        sse = 0
        kmodel = KMeans(n_clusters=num, n_jobs=4)
        kmodel.fit(data_train)
        # 簇中心
        cluster_ceter_list = kmodel.cluster_centers_
#         print("1.ceter_list:",cluster_ceter_list)
        # 个样本属于的簇序号列表
        cluster_list = kmodel.labels_.tolist()
#         print("2.cluster_list:",len(cluster_list),cluster_list[-20:])
        for index in  range(len(data)):#计算残差平方和
            cluster_num = cluster_list[index]
            
            sse += distEclud(data_train[index, :], cluster_ceter_list[cluster_num])
        print("簇数是",num , "时； SSE是", sse)
#         print("3.dt_index:",data_train[index, :])
#         print("4.c_c_l:",cluster_ceter_list[cluster_num])
        SSE.append(sse)
    return nums, SSE
 
nums, SSE = test_Kmeans_nclusters(filter_zscore_data)

簇数是 2 时； SSE是 296587.67961
簇数是 3 时； SSE是 245317.603158
簇数是 4 时； SSE是 209300.127424
簇数是 5 时； SSE是 183885.854183
簇数是 6 时； SSE是 167465.312745
簇数是 7 时； SSE是 151869.231702
簇数是 8 时； SSE是 142922.664126
簇数是 9 时； SSE是 135004.037996

　　

#画图，通过观察SSE与k的取值尝试找出合适的k值
# 中文和负号的正常显示
plt.rcParams['font.sans-serif'] = 'STHeiti'#mac字体替换
plt.rcParams['font.size'] = 12.0
plt.rcParams['axes.unicode_minus'] = False
# 使用ggplot的绘图风格
plt.style.use('ggplot')
## 绘图观测SSE与簇个数的关系
fig=plt.figure(figsize=(10, 10))
ax=fig.add_subplot(1,1,1)
ax.plot(nums,SSE,marker="+")
ax.set_xlabel("n_clusters", fontsize=18)
ax.set_ylabel("SSE", fontsize=18)
fig.suptitle("KMeans", fontsize=20)
plt.show()

 

通过观察，并未发现明显的转折点，因此尝试选取k为4，5，6的聚类，看能否得到合适的客户聚类：

kmodel = KMeans(n_clusters=4, n_jobs=4)
kmodel.fit(filter_zscore_data)
# 简单打印结果
r1 = pd.Series(kmodel.labels_).value_counts() #统计各个类别的数目
r2 = pd.DataFrame(kmodel.cluster_centers_) #找出聚类中心
# print(r1,r2)
# 所有簇中心坐标值中最大值和最小值
max = r2.values.max()
min = r2.values.min()
# print(max,min)
r = pd.concat([r2, r1], axis = 1) #横向连接（0是纵向），得到聚类中心对应的类别下的数目
r.columns = list(filter_zscore_data.columns) + [u'类别数目'] #重命名表头
# print(r) 
# 绘图
fig=plt.figure(figsize=(10, 8))
ax = fig.add_subplot(111, polar=True)
center_num = r.values
feature = ["入会时间", "飞行次数", "平均每公里票价", "总里程", "时间间隔差值", "平均折扣率"]
N =len(feature)
for i, v in enumerate(center_num):
    print(i,v,"#")
    # 设置雷达图的角度，用于平分切开一个圆面
    angles=np.linspace(0, 2*np.pi, N, endpoint=False)
    # 为了使雷达图一圈封闭起来，需要下面的步骤
    center = np.concatenate((v[:-1],[v[0]]))#-1：倒数第二个。把v拼接最后一个数
    angles=np.concatenate((angles,[angles[0]]))
    # 绘制折线图
    ax.plot(angles, center, 'o-', linewidth=2, label = "第%d簇人群,%d人"% (i+1,v[-1]))
    # 填充颜色
    ax.fill(angles, center, alpha=0.25)
    # 添加每个特征的标签
    ax.set_thetagrids(angles * 180/np.pi, feature, fontsize=15)
    # 设置雷达图的范围
    ax.set_ylim(min-0.1, max+0.1)
    # 添加标题
    plt.title('客户群特征分析图', fontsize=20)
    # 添加网格线
    ax.grid(True)
    # 设置图例
    plt.legend(loc='upper right', bbox_to_anchor=(1.3,1.0),ncol=1,fancybox=True,shadow=True)
    
# 显示图形
plt.show()

 

类似的，k为5，6时：

客户价值分析

 根据客户群体特征雷达图，

• 当k取值4时，每个人群包含的信息比较复杂，且特征不明显
• 当k取值5时，分析的结果比较合理，分出的五种类型人群都有自己的特点又不相互重复
• 当k取值6时，各种人群也都有自己的特点，但是第4簇人群完全在第5簇人群特征中包含了，有点冗余的意思

客户价值排名：重要保持客户(5)>重要发展客户(4)>重要挽留客户(3)>一般客户(1)，第(2)群体是低价值客户。

综上，当k取值为5时，得到最好的聚类效果，将所有的客户分成5个人群，再进一步分析可以得到以下结论：

1. 第一簇人群，5443人， 总里程和飞行次数都是最多的，而且平均每公里票价也较高，是需要保持对象
2. 第二簇人群，22188人，群体数量最大，但各方面数据都极低，乘坐次数很少、乘坐里程很小、很长时间没有乘坐公司航班，属于低价值客户。
3. 第三簇人群，14733人，该数量较大，最大的特点就是入会的时间较长，属于老客户按理说平均折扣率应该较高才对，但是观察窗口的平均折扣率较低，但乘坐频率变小，总里程也不高，分析可能是流失的客户，属于重要挽留客户； 

4. 第四簇人群，10957人，最大的特点是时间间隔差值最大，分析可能是“季节型客户”，一年中在某个时间段需要多次乘坐飞机进行旅行，其他的时间则出行的不多，这类客户我们需要在保持的前提下，进行一定的发展； 

5. 第五簇人群，8723人，乘坐次数很多，乘坐里程很大，所乘航班折扣率较高，应该是属于乘坐高等舱的商务人员，属于重要保持客户。也是需要重点发展的对象，另外应该积极采取相关的优惠 政策是他们的乘坐次数增加

模型应用

• 对于数量极少的客户群5，进行一对一精准营销。
• 对于数量极少的客户群4，实行里程数兑换机票。
• 对于数量较大的客户群3，提供会员升级提醒服务。
• 积极和非航空类企业合作，顾客在合作企业消费也可获得本航空公司奖励，增加客户与公司的联系。

综上，结果符合市场的二八法则的，价值不大的第二三簇的客户数最多，而价值较大的第四五簇的人数较少。

完整代码及数据请到git主页下载！
https://github.com/nashgame/DataScience/tree/master/notebook