在Python实践中，我们往往遇到排序问题，比如在对搜索结果打分的排序（没有排序就没有Google等搜索引擎的存在），当然，这样的例子数不胜数。《数据结构》也会花大量篇幅讲解排序。之前一段时间，由于需要，我复习了一下排序算法，并用Python实现了各种排序算法，放在这里作为参考。
最简单的排序有三种：插入排序，选择排序和冒泡排序。这三种排序比较简单，它们的平均时间复杂度均为O(n^2)，在这里对原理就不加赘述了。贴出来源代码。
插入排序：
1 def insertion_sort(sort_list): 2 iter_len = len(sort_list) 3 if iter_len < 2: 4 return sort_list 5 for i in range(1, iter_len): 6 key = sort_list[i] 7 j = i - 1 8 while j>=0 and sort_list[j]>key: 9 sort_list[j+1] = sort_list[j] 10 j -= 1 11 sort_list[j+1] = key 12 return sort_list
冒泡排序：
1 def bubble_sort(sort_list): 2 iter_len = len(sort_list) 3 if iter_len < 2: 4 return sort_list 5 for i in range(iter_len-1): 6 for j in range(iter_len-i-1): 7 if sort_list[j] > sort_list[j+1]: 8 sort_list[j], sort_list[j+1] = sort_list[j+1], sort_list[j] 9 return sort_list
选择排序：
1 def selection_sort(sort_list): 2 iter_len = len(sort_list) 3 if iter_len < 2: 4 return sort_list 5 for i in range(iter_len-1): 6 smallest = sort_list[i] 7 location = i 8 for j in range(i, iter_len): 9 if sort_list[j] < smallest: 10 smallest = sort_list[j] 11 location = j 12 if i != location: 13 sort_list[i], sort_list[location] = sort_list[location], sort_list[i] 14 return sort_list
这里我们可以看到这样的句子：
sort_list[i], sort_list[location] = sort_list[location], sort_list[i]
不了解Python的同学可能会觉得奇怪，没错，这是交换两个数的做法，通常在其他语言中如果要交换a与b的值，常常需要一个中间变量temp，首先把a赋给temp，然后把b赋给a，最后再把temp赋给b。但是在python中你就可以这么写：a, b = b, a，其实这是因为赋值符号的左右两边都是元组（这里需要强调的是，在python中，元组其实是由逗号“,”来界定的，而不是括号）。
平均时间复杂度为O(nlogn)的算法有：归并排序，堆排序和快速排序。
归并排序。对于一个子序列，分成两份，比较两份的第一个元素，小者弹出，然后重复这个过程。对于待排序列，以中间值分成左右两个序列，然后对于各子序列再递归调用。源代码如下，由于有工具函数，所以写成了callable的类：
1 class merge_sort(object): 2 def _merge(self, alist, p, q, r): 3 left = alist[p:q+1] 4 right = alist[q+1:r+1] 5 for i in range(p, r+1): 6 if len(left)>0 and len(right)>0: 7 if left[0]<=right[0]: 8 alist[i] = left.pop(0) 9 else: 10 alist[i] = right.pop(0) 11 elif len(right)==0: 12 alist[i] = left.pop(0) 13 elif len(left)==0: 14 alist[i] = right.pop(0) 15 16 def _merge_sort(self, alist, p, r): 17 if p<r: 18 q = int((p+r)/2) 19 self._merge_sort(alist, p, q) 20 self._merge_sort(alist, q+1, r) 21 self._merge(alist, p, q, r) 22 23 def __call__(self, sort_list): 24 self._merge_sort(sort_list, 0, len(sort_list)-1) 25 return sort_list
堆排序，是建立在数据结构——堆上的。关于堆的基本概念、以及堆的存储方式这里不作介绍。这里用一个列表来存储堆（和用数组存储类似），对于处在i位置的元素，2*i+1位置上的是其左孩子，2*i+2是其右孩子，类似得可以得出该元素的父元素。
首先我们写一个函数，对于某个子树，从根节点开始，如果其值小于子节点的值，就交换其值。用此方法来递归其子树。接着，我们对于堆的所有非叶节点，自下而上调用先前所述的函数，得到一个树，对于每个节点（非叶节点），它都大于其子节点。（其实这是建立最大堆的过程）在完成之后，将列表的头元素和尾元素调换顺序，这样列表的最后一位就是最大的数，接着在对列表的0到n-1部分再调用以上建立最大堆的过程。最后得到堆排序完成的列表。以下是源代码：
1 class heap_sort(object): 2 def _left(self, i): 3 return 2*i+1 4 def _right(self, i): 5 return 2*i+2 6 def _parent(self, i): 7 if i%2==1: 8 return int(i/2) 9 else: 10 return i/2-1 11 12 def _max_heapify(self, alist, i, heap_size=None): 13 length = len(alist) 14 15 if heap_size is None: 16 heap_size = length 17 18 l = self._left(i) 19 r = self._right(i) 20 21 if lalist[i]: 22 largest = l 23 else: 24 largest = i 25 if ralist[largest]: 26 largest = r 27 28 if largest!=i: 29 alist[i], alist[largest] = alist[largest], alist[i] 30 self._max_heapify(alist, largest, heap_size) 31 32 def _build_max_heap(self, alist): 33 roop_end = int(len(alist)/2) 34 for i in range(0, roop_end)[::-1]: 35 self._max_heapify(alist, i) 36 37 def __call__(self, sort_list): 38 self._build_max_heap(sort_list) 39 heap_size = len(sort_list) 40 for i in range(1, len(sort_list))[::-1]: 41 sort_list[0], sort_list[i] = sort_list[i], sort_list[0] 42 heap_size -= 1 43 self._max_heapify(sort_list, 0, heap_size) 44 45 return sort_list
最后一种要说明的交换排序算法（以上所有算法都为交换排序，原因是都需要通过两两比较交换顺序）自然就是经典的快速排序。
先来讲解一下原理。首先要用到的是分区工具函数（partition），对于给定的列表（数组），我们首先选择基准元素（这里我选择最后一个元素），通过比较，最后使得该元素的位置，使得这个运行结束的新列表（就地运行）所有在基准元素左边的数都小于基准元素，而右边的数都大于它。然后我们对于待排的列表，用分区函数求得位置，将列表分为左右两个列表（理想情况下），然后对其递归调用分区函数，直到子序列的长度小于等于1。
下面是快速排序的源代码：
1 class quick_sort(object): 2 def _partition(self, alist, p, r): 3 i = p-1 4 x = alist[r] 5 for j in range(p, r): 6 if alist[j]<=x: 7 i += 1 8 alist[i], alist[j] = alist[j], alist[i] 9 alist[i+1], alist[r] = alist[r], alist[i+1] 10 return i+1 11 12 def _quicksort(self, alist, p, r): 13 if p<r: 14 q = self._partition(alist, p, r) 15 self._quicksort(alist, p, q-1) 16 self._quicksort(alist, q+1, r) 17 18 def __call__(self, sort_list): 19 self._quicksort(sort_list, 0, len(sort_list)-1) 20 return sort_list
细心的朋友在这里可能会发现一个问题，如果待排序列正好是顺序的时候，整个的递归将会达到最大递归深度（序列的长度）。而实际上在操作的时候，当列表长度大于1000（理论值）的时候，程序会中断，报超出最大递归深度的错误（maximum recursion depth exceeded）。在查过资料后我们知道，Python在默认情况下，最大递归深度为1000（理论值，其实真实情况下，只有995左右，各个系统这个值的大小也不同）。这个问题有两种解决方案，1）重新设置最大递归深度，采用以下方法设置：
import sys
sys.setrecursionlimit(99999)
2）第二种方法就是采用另外一个版本的分区函数，称为随机化分区函数。由于之前我们的选择都是子序列的最后一个数，因此对于特殊情况的健壮性就差了许多。现在我们随机从子序列选择基准元素，这样可以减少对特殊情况的差错率。新的randomize partition函数如下：
1 def _randomized_partition(self, alist, p, r): 2 i = random.randint(p, r) 3 alist[i], alist[r] = alist[r], alist[i] 4 return self._partition(alist, p, r)
完整的randomize_quick_sort的代码如下（这里我直接继承之前的quick_sort类）：
1 import random 2 class randomized_quick_sort(quick_sort): 3 def _randomized_partition(self, alist, p, r): 4 i = random.randint(p, r) 5 alist[i], alist[r] = alist[r], alist[i] 6 return self._partition(alist, p, r) 7 8 def _quicksort(self, alist, p, r): 9 if p<r: 10 q = self._randomized_partition(alist, p, r) 11 self._quicksort(alist, p, q-1) 12 self._quicksort(alist, q+1, r)
关于快速排序的讨论还没有结束。我们都知道，Python是一门很优雅的语言，而Python写出来的代码是相当简洁而可读性极强的。这里就介绍快排的另一种写法，只需要三行就能够搞定，但是又不失阅读性。（当然，要看懂是需要一定的Python基础的）代码如下：
def quick_sort_2(sort_list):
if len(sort_list)<=1:
return sort_list
return quick_sort_2([lt for lt in sort_list[1:] if lt<sort_list[0]]) +
sort_list[0:1] +
quick_sort_2([ge for ge in sort_list[1:] if ge>=sort_list[0]])
怎么样看懂了吧，这段代码出自《Python cookbook 第二版》，这种写法展示出了列表推导的强大表现力。
对于比较排序算法，我们知道，可以把所有可能出现的情况画成二叉树（决策树模型），对于n个长度的列表，其决策树的高度为h，叶子节点就是这个列表乱序的全部可能性为n!，而我们知道，这个二叉树的叶子节点不会超过2^h，所以有2^h>=n！，取对数，可以知道，h>=logn!，这个是近似于O(nlogn)。也就是说比较排序算法的最好性能就是O(nlgn)。
那有没有线性时间，也就是时间复杂度为O(n)的算法呢？答案是肯定的。不过由于排序在实际应用中算法其实是非常复杂的。这里只是讨论在一些特殊情形下的线性排序算法。特殊情形下的线性排序算法主要有计数排序，桶排序和基数排序。这里只简单说一下计数排序。
计数排序是建立在对待排序列这样的假设下：假设待排序列都是正整数。首先，声明一个新序列list2，序列的长度为待排序列中的最大数。遍历待排序列，对每个数，设其大小为i，list2[i]++，这相当于计数大小为i的数出现的次数。然后，申请一个list，长度等于待排序列的长度（这个是输出序列，由此可以看出计数排序不是就地排序算法），倒序遍历待排序列（倒排的原因是为了保持排序的稳定性，及大小相同的两个数在排完序后位置不会调换），假设当前数大小为i，list[list2[i]-1] = i，同时list2[i]自减1（这是因为这个大小的数已经输出一个，所以大小要自减）。于是，计数排序的源代码如下。
1 class counting_sort(object): 2 def _counting_sort(self, alist, k): 3 alist3 = [0 for i in range(k)] 4 alist2 = [0 for i in range(len(alist))] 5 for j in alist: 6 alist3[j] += 1 7 for i in range(1, k): 8 alist3[i] = alist3[i-1] + alist3[i] 9 for l in alist[::-1]: 10 alist2[alist3[l]-1] = l 11 alist3[l] -= 1 12 return alist2 13 14 def __call__(self, sort_list, k=None): 15 if k is None: 16 import heapq 17 k = heapq.nlargest(1, sort_list)[0] + 1 18 return self._counting_sort(sort_list, k)
各种排序算法介绍完（以上的代码都通过了我写的单元测试），我们再回到Python这个主题上来。其实Python从最早的版本开始，多次更换内置的排序算法。从开始使用C库提供的qsort例程（这个方法有相当多的问题），到后来自己开始实现自己的算法，包括2.3版本以前的抽样排序和折半插入排序的混合体，以及最新的适应性的排序算法，代码也由C语言的800行到1200行，以至于更多。从这些我们可以知道，在实际生产环境中，使用经典的排序算法是不切实际的，它们仅仅能做学习研究之用。而在实践中，更推荐的做法应该遵循以下两点：
当需要排序的时候，尽量设法使用内建Python列表的sort方法。
当需要搜索的时候，尽量设法使用内建的字典。
我写了测试函数，来比较内置的sort方法相比于以上方法的优越性。测试序列长度为5000，每个函数测试3次取平均值，可以得到以下的测试结果：
可以看出，Python内置函数是有很大的优势的。因此在实际应用时，我们应该尽量使用内置的sort方法。
由此，我们引出另外一个问题。怎么样判断一个序列中是否有重复元素，如果有返回True，没有返回False。有人会说，这不很简单么，直接写两个嵌套的迭代，遍历就是了。代码写下来应该是这样。
1 def normal_find_same(alist): 2 length = len(alist) 3 for i in range(length): 4 for j in range(i+1, length): 5 if alist[i] == alist[j]: 6 return True 7 return False
这种方法的代价是非常大的（平均时间复杂度是O(n^2)，当列表中没有重复元素的时候会达到最坏情况），由之前的经验，我们可以想到，利用内置sort方法极快的经验，我们可以这么做：首先将列表排序，然后遍历一遍，看是否有重复元素。包括完整的测试代码如下：
1 import time 2 import random 3 4 def record_time(func, alist): 5 start = time.time() 6 func(alist) 7 end = time.time() 8 9 return end - start 10 11 def quick_find_same(alist): 12 alist.sort() 13 length = len(alist) 14 for i in range(length-1): 15 if alist[i] == alist[i+1]: 16 return True 17 return False 18 19 if __name__ == "__main__": 20 methods = (normal_find_same, quick_find_same) 21 alist = range(5000) 22 random.shuffle(alist) 23 24 for m in methods: 25 print 'The method %s spends %s' % (m.__name__, record_time(m, alist)) 26
运行以后我的数据是，对于5000长度，没有重复元素的列表，普通方法需要花费大约1.205秒，而快速查找法花费只有0.003秒。这就是排序在实际应用中的一个例子。