2数据结构中的算法

算法

算法是解决特定问题求解步骤的描述，再计算机中表现为指令的有限序列，并且每条指令表示一个或多个操作。

数据结构和算法关系

数据结构和算法就像梁山伯与祝英台，罗密欧与朱丽叶，少了一个主角，光讲另一个主角的心路旅程就没法看了。

本文的算法只是为了帮助理解好数据结构，不会详谈算法的细节。

算法的特性

五项基本：输入、输出、有穷性、确定性和可行性。

1.输入：算法具有零个或多个输入。

2.输出：算法至少有一个或多个输出。输出形式可以是打印或返回值

3.有穷性：指算法在执行有限的步骤后，自动结束而不会出现无限循环，并且每一个步骤在可接受的时间内完成。

　　注：有穷的理解并非纯数学意义上的，而是实际应用当中合理的、可以接受的“有边界”。比如，写了一个算法，计算机需要算个20年，一定会结束，数学意义上是有穷，但算法的意义就不存在了。

4.确定性：算法的每一步骤都具有确定的含义，不会出现二义性。

5.可行性：算法的每一步都必须是可行的，也就是说，每一步都能够通过执行有限次数完成。

算法设计的要求

1.正确性

算法的正确性是指算法至少应该具有输入、输出、和加工处理无歧义性、能正确反映问题的需求、能够得到问题的正确答案。

正确性的层次：

• 算法程序没有语法错误。
• 算法程序对于合法的输入数据能够产生满足要求的输出结果。
• 算法程序对于非法的输入数据能够得到满足规格说明的结果。
• 算法程序对于精心选择的，甚至刁难的测试数据都有满足要求的输出结果。

2.可读性

算法设计的另一目的是为了便于阅读、理解和交流。

可读性高有助于人们理解算法，晦涩难懂的算法往往隐含错误，不易被发现，并且难于调试和修改。

3.健壮性

当输入数据不合法时，算法也能做出相关处理，而不是产生异常或莫名其妙的结果。

4.时间效率高和存储量低

时间效率指的是算法的执行时间，执行时间越短，算法效率越高。、

存储量需求指的是算法在执行过程中需要的最大存储空间，只要指算法程序运行时所占用的内存或者外部硬盘存储空间。

算法效率的度量方法

1.事后统计方法

这种方法主要时通过设计好的测试程序和数据，利用计算机计时器对不同算法编制的程序的运行时间进行比较，从而确定算法效率的高低。

缺点：因为缺陷比较明显，一般不用

• 必须依据算法事先编制好程序，这通常需要花费大量的时间和精力。如果编制出来本身就是糟糕的算法，那就竹篮打水一场空了。
• 时间的比较依赖计算机硬件和软件等环境因素，有时会掩盖算法本身的优劣。就算同一台机器，CPU使用率和内存占用情况不一样，也会造成细微的差异
• 算法的测试数据设计困难，并且程序的运行时间往往还与测试数据的规模有很大关系，效率高的算法在小的测试数据面前往往得不到体现。

2.事前分析估量方法

在计算机程序编制前，依据统计方法对算法进行估算。

程序编写影响因素：

• 算法采用的策略、方法。
• 编译产生的代码质量。
• 问题的输入规模。
• 机器执行指令的速度。

一个程序的运行时间，依赖于算法的好坏和问题的输入规模。

问题的输入规模：输入量的多少。

第一种算法，执行了1+（n+1) + n + 1 = 2n+3次

第二种算法，执行了 1+1+1 = 3次

例子延伸：

不难看出，这里计算100²次。

在分析程序的运行时间时，最重要的时把程序看成是独立于程序设计语言的算法或一系列步骤。

分析一个算法时间时，重要的是把基础操作的数量与输入规模关联起来，即基本操作的数量必须表示成输入规模的函数。如图：

图中三种算法随着n值的越来越大，时间效率上的差异也就越来越大。

函数的渐近增长

输入规模n在没有限制的情况下，给定两个函数f(n)和g(n)，如果存在一个整数N，使得对于所有的n>N, f(n)总是比g(n)大，那么，我们说f(n)的增长渐近快于g(n)。

当n = 1时， 算法A效率比不上算法B（次数比算法B多1次）。当n>2时，算法A就开始优于算法B了，随着n的增加，算法A比算法B越来越好（执行的次数比B要少）。于是我们可以得出结论，算法A总体上要好于算法B。

1.随着n的增大，后面的+3和+1已经影响不到最终算法变化了，如算法A‘和算法B’，所以，我们可以忽略这些加法常数。

2.与高次项相乘的常数并不重要，如下图：

3.最高次项的指数大的，函数随着n的增长，结果也会变得增长特别快，如下图：

 4.判断一个算法效率时，函数中的常数和其它次要项常常可以忽略，而更应该关注主项（最高阶项）的阶数。

如下图：算法G其实已经很趋近与算法I

注：由上所述，判断一个算法好不好，只通过少量的数据是不能做出准确判断的。

结论：某个算法，随着n的增大，它会越来越优于另一个算法，或者越来越差与另一个算法。

算法时间复杂度

 定义：在进行算法分析时，语句总的执行次数T(n)时关于问题规模n的函数，进而分析T(n)随n的变化情况并确定T(n)的数量级。算法的时间复杂度，也就是算法的时间量度，记作：T(n) = O(f(n))。它表示随问题规模n的增大，算法执行时间的增长率和f(n)的增长率相同，称作算法的渐近时间复杂度，简称为时间复杂度。其中f(n)时问题规模n的某个函数。

大写O()来体现算法时间复杂度的记法，我们称之为大O记法。

一般情况下，随着n的增大，T(n)增长最慢的算法为最优算法。

由此算法时间复杂度定义可知，我们的三个求和算法的时间复杂度分别为O(n), O(1), O(n²)。我们分别给它们取了非官方名称， O(1)叫常数阶、O(n)叫线性阶、O(n²)叫平方阶。

推导大O阶方法

• 1.用常数1取代运行时间中的所有加法常数
• 2.在修改后的运行次数函数中，只保留最高阶项。
• 3.如果最高阶项存在且不是1，则去除与这个项相乘的常数

得到的结果就是大O阶。

事实上，分析一个算法的时间复杂度，没有这么简单的。

常数阶

顺序结构的时间复杂度。时间复杂度O(1),如下图：

这个算法运行次数函数时f(n) = 3。根据大O结推导法，第一步把常数项改成1。它没有最高阶项，所以这个算法时间复杂度为O(1)。

f(n) = 12, 12和3的差异与n的多少无关，执行时间恒定算法，同样时O(1)

所以，我们称之为具有O(1)的时间复杂度，叫做常数阶。

线性阶

分析算法的复杂度，关键就是要分析循环结构的运行情况。如下：

int i;
for (i = 0; i < n; i++)
{
    /* 时间复杂度为O(1)的程序步骤序列 */
}

因为循环体中的代码须要执行n次，这种循环的时间复杂度为O(n)。

对数阶

由于每次count乘以2之后，距离n更近一分。也就是说，有多少个2相乘后大于n，则会退出循环。由2^x=n得到 x=log₂n。所以这个循环的时间复杂度为O(logn)。

平方阶

内循环如线性阶的分析，时间复杂度为O(n)。而对于外层的循环，不过时内部这个时间复杂度为O(n)的语句，再循环n次，所以这段代码的时间复杂度为O(n²)。如果外循环次数改为了m，时间复杂度就变为O(m * n)。

由此可以总结出，循环的时间复杂度等于循环体的复杂度乘以该循环运行的次数。

由于当i=0时，内循环执行了n次， 当i=1时，执行了n-1次，。。。。当i=n-1时，执行了1次。

所以总执行次数为： n+(n-1)+.....+1 = n(n+1)/2  即 n²/2 + n/2

根据推导大O阶方法，第一条，没有加法常数不考虑，第二条，只保留最高阶项，因此保留n²/2，第三条，去除这个项的常数，也就是去除1/2， 最终这段代码的时间复杂度为O(n²)。

注：理解大O推导不算难，难的时对数列的一些相关运算，更多时考察数学知识和能力。

同理

它的执行次数f(n) = 1+n+n²+n(n+1)/2 = 3n²/2 + 3n/2+1,时间复杂度也是O(n²)。

常见的时间复杂度

常用的时间复杂度所耗费的时间从小到大依次时：

O(1)<O(logn)<O(n)<O(nlogn)<O(n²)<O(n³)<O(2ⁿ)<O(n!)<O(nⁿ)

指数阶以及阶乘阶除非是很小的n值，哪怕n只是100，都是噩梦般的运行时间，所以基本不用

最坏情况和平均情况

最坏情况运行时间是一种保证，那就是运行时间将不会再坏了。再应用中，这是一种最重要的需求，通常，除非特别指定，我们提到的运行时间都是最坏情况的运行时间。

如：我们查找一个由n个随机数字数组的某个数字，最好的情况是第一个数字，那么算法时间复杂度是O(1)，但也可能这个数字再最后一个位置上，那么时间复杂度就是O(n)，这是最坏的一种情况了。

平均运行时间是所有情况中最有意义的，因为它是期望的运行时间。

我们运行一段程序代码时，是希望看到平均运行时间的。可现实中平均运行时间很难通过分析得到，一般都是通过运行一定数量的实验数据后估算出来的。

对算法的分析，一种方法时计算所有情况的平均值，这种时间复杂度的计算方法成为平均时间复杂度。

另一种方法时计算最坏情况下的时间复杂度，这种方法称为最坏时间复杂度。一般没有特殊说明的情况下，都是指最坏时间复杂度。

算法空间复杂度

算法的空间复杂度通过计算算法所需的存储空间实现，算法空间复杂度的计算公式记作：S(n) = O(f(n))，其中，n为问题的规模，f(n)为语句关于n所占存储空间的函数。

通常，我们使用“时间复杂度”来指运行时间的需求，使用“空间复杂度”指空间需求。当不用限定词地使用“复杂度”时，通常都是指时间复杂度。