Python股票历史数据的获取

获取股票数据的接口很多，免费的接口有新浪、网易、雅虎的API接口，收费的就是证券公司及相应的公司提供的接口。
收费试用的接口一般提供的数据只是最近一年或三年的，限制比较多，除非money足够多。
所以本文主要讨论的是免费数据的获取及处理。

国内提供股票数据的接口如sinajs，money.163.com，yahoo，它们提供的API接口不同，每家提供的数据大同小异，可以选择一家的数据来处理。

目前，国内有一个开源的财经数据获取包，封装了上述的接口，不需关系数据源从哪去，它会优先从最快的源来取数据。使用起来非常方便。它是TuShare，具体的安装使用见链接。

本文基于TuShare的数据获取基础上开发，介绍如何获取A股所有股票的历史K线数据。
一、获取A股上市公司列表
import tushare as ts
import pandas as pd
def download_stock_basic_info():

    try:
       df = ts.get_stock_basics()
       #直接保存到csv
       print 'choose csv'
       df.to_csv('stock_basic_list.csv');
       print 'download csv finish'
股票列表中包括当前A股的2756只股票的基本信息，包括：
code,代码
name,名称
industry,所属行业
area,地区
pe,市盈率
outstanding,流通股本
totals,总股本(万)
totalAssets,总资产(万)
liquidAssets,流动资产
fixedAssets,固定资产
reserved,公积金
reservedPerShare,每股公积金
eps,每股收益
bvps,每股净资
pb,市净率
timeToMarket,上市日期
二、获取单只股票的历史K线

获取的日K线数据包括：

date : 交易日期 (index)
open : 开盘价（前复权，默认）
high : 最高价（前复权，默认）
close : 收盘价（前复权，默认）
low : 最低价（前复权，默认）
open_nfq : 开盘价（不复权）
high_nfq : 最高价（不复权）
close_nfq : 收盘价（不复权）
low_nfq : 最低价（不复权）
open_hfq : 开盘价（后复权）
high_hfq : 最高价（后复权）
close_hfq : 收盘价（后复权）
low_hfq : 最低价（后复权）
volume : 成交量
amount : 成交金额

下载股票代码为code的股票历史K线，默认为上市日期到今天的K线数据，支持递增下载，如本地已下载股票60000的数据到2015-6-19，再次运行则会从6.20开始下载，追加到本地csv文件中。

# 默认为上市日期到今天的K线数据
# 可指定开始、结束日期：格式为"2015-06-28"
def download_stock_kline(code, date_start='', date_end=datetime.date.today()):

    code = util.getSixDigitalStockCode(code) # 将股票代码格式化为6位数字

    try:
       fileName = 'h_kline_' str(code) '.csv'

       writeMode = 'w'
       if os.path.exists(cm.DownloadDir fileName):
           #print (">>exist:" code)
           df = pd.DataFrame.from_csv(path=cm.DownloadDir fileName)

           se = df.head(1).index #取已有文件的最近日期
           dateNew = se[0] datetime.timedelta(1)
           date_start = dateNew.strftime("%Y-%m-%d")
           #print date_start
           writeMode = 'a'

       if date_start == '':
           se = get_stock_info(code)
           date_start = se['timeToMarket'] 
           date = datetime.datetime.strptime(str(date_start), "%Y%m%d")
           date_start = date.strftime('%Y-%m-%d')
       date_end = date_end.strftime('%Y-%m-%d')  

       # 已经是最新的数据
       if date_start >= date_end:
           df = pd.read_csv(cm.DownloadDir fileName)
           return df

       print 'download ' str(code) ' k-line >>>begin (', date_start u' 到 ' date_end ')'
       df_qfq = ts.get_h_data(str(code), start=date_start, end=date_end) # 前复权
       df_nfq = ts.get_h_data(str(code), start=date_start, end=date_end) # 不复权
       df_hfq = ts.get_h_data(str(code), start=date_start, end=date_end) # 后复权

       if df_qfq is None or df_nfq is None or df_hfq is None:
           return None

       df_qfq['open_no_fq'] = df_nfq['open']
       df_qfq['high_no_fq'] = df_nfq['high']
       df_qfq['close_no_fq'] = df_nfq['close']
       df_qfq['low_no_fq'] = df_nfq['low']
       df_qfq['open_hfq']=df_hfq['open']
       df_qfq['high_hfq']=df_hfq['high']
       df_qfq['close_hfq']=df_hfq['close']
       df_qfq['low_hfq']=df_hfq['low']

       if writeMode == 'w':
           df_qfq.to_csv(cm.DownloadDir fileName)
       else:

           df_old = pd.DataFrame.from_csv(cm.DownloadDir fileName)

           # 按日期由远及近
           df_old = df_old.reindex(df_old.index[::-1])
           df_qfq = df_qfq.reindex(df_qfq.index[::-1])

           df_new = df_old.append(df_qfq)
           #print df_new

           # 按日期由近及远
           df_new = df_new.reindex(df_new.index[::-1])
           df_new.to_csv(cm.DownloadDir fileName)
           #df_qfq = df_new

       print ' download ' str(code)   ' k-line finish'
       return pd.read_csv(cm.DownloadDir fileName)

    except Exception as e:
       print str(e)        


    return None
##  private methods  ##
#######################

# 获取个股的基本信息：股票名称，行业，地域，PE等，详细如下
#    code,代码
#    name,名称
#    industry,所属行业
#    area,地区
#    pe,市盈率
#    outstanding,流通股本
#    totals,总股本(万)
#    totalAssets,总资产(万)
#    liquidAssets,流动资产
#    fixedAssets,固定资产
#    reserved,公积金
#    reservedPerShare,每股公积金
#    eps,每股收益
#    bvps,每股净资
#    pb,市净率
#    timeToMarket,上市日期
# 返回值类型：Series
def get_stock_info(code):
    try:
       sql = "select * from %s where code='%s'" % (STOCK_BASIC_TABLE, code)
       df = pd.read_sql_query(sql, engine)
       se = df.ix[0]
    except Exception as e:
       print str(e)
    return se
三、获取所有股票的历史K线

# 获取所有股票的历史K线
def download_all_stock_history_k_line():
    print 'download all stock k-line'
    try:
       df = pd.DataFrame.from_csv(cm.DownloadDir cm.TABLE_STOCKS_BASIC '.csv')
       pool = ThreadPool(processes=10)
       pool.map(download_stock_kline, df.index)
       pool.close()
       pool.join()  

    except Exception as e:
       print str(e)
    print 'download all stock k-line'
Map来自函数语言Lisp，map函数能够按序映射出另一个函数。

urls = ['http://www.yahoo.com', 'http://www.reddit.com']
results = map(urllib2.urlopen, urls)

有两个能够支持通过map函数来完成并行的库：一个是multiprocessing，另一个是鲜为人知但功能强大的子文件：multiprocessing.dummy。
Dummy就是多进程模块的克隆文件。唯一不同的是，多进程模块使用的是进程，而dummy则使用线程（当然，它有所有Python常见的限制）。

通过指定processes的个数来调用多线程。

附：文中用到的其他函数及变量，定义如下：
TABLE_STOCKS_BASIC = 'stock_basic_list'
DownloadDir = os.path.pardir '/stockdata/' # os.path.pardir: 上级目录

# 补全股票代码(6位股票代码)
# input: int or string
# output: string
def getSixDigitalStockCode(code):
    strZero = ''
    for i in range(len(str(code)), 6):
       strZero = '0'
    return strZero str(code)