在硬件资源昂贵的时代,编程人员非常注重程序的性能,以期望用尽可能少的硬件资源完成尽可能多的事情。随着科技的发展,
摩尔定律的魔力使得硬件资源已越来越便宜,速度也越来越快,似乎性能已不是编程人员所需关注的事情了。然而在一个竞争
与发展的时代,软件的功能越来越复杂,用户的操作体验越来越重要,而且竞争越来越激烈,谁能以更优势的价格,更好的操
作体验,完成更多更复杂的事情,谁就将在激烈竞争中胜出。因而软件的性能优化必将一直是软件领域所要关注的内容之一。
虽然软件的性能优化贯穿了设计与编码的整个过程,本文也将从设计与编码两个层次对性能优化进行分析。本文还将从CPU、内
存、磁盘、网络四个方面描述性能问题分析的过程。
2.设计出来的性能
1)系统架构
控制流与数据流?减少不必要的模块
2)程序结构
多线程程序
锁的粒度、各种锁/信号量的性能对比
共享内存通信
降低灵活性以获取高性能。
减少不必要的重复判断(SHTTP/HTTP)
3)接口设计
好的接口给予使用者充分的灵活性
4)数据结构与算法
Linux内存管理,数量小时使用链表
3.编码的艺术
1)内存访问与文件
减少new/delete或malloc/free操作减少换页
减少文件打开与关闭操作
减少文件读写次数(减少系统调用)
2)减少不必要的运算
消除重复运算
循环中的运算
最忙的循环放在里面
3)语言及库函数特性的利用
if与case语句
构造与析构
宏与内联函数
迟缓型计算
减少临时变量
缓存字符串的长度
不必要的memset
4)硬件特性的利用
字节对齐
移位与乘除2
性能热点用汇编实现
4.性能分析工具-callgrind
valgrind系列工具因为免费,所以在linux系统上面最常见。callgrind是valgrind工具里面的一员,它的主要功能是模拟cpu的cache,能够计算多
级cache的有效、失效次数,以及每个函数的调用耗时统计。
callgrind的实现机理(基于外部中断)决定了它有不少缺点。比如,会导致程序严重变慢、不支持高度优化的程序、耗时统计的结果误差较大等,
更多的外部工具有oprofile,gprof,tprof,Rational Quantify and Intel VTune
5.编译器参数的优化
大家要记住的是,编译器绝对比想象的要强大的多。编写编译器的人大都是十年、几十年代码编写经验的科学家!你能简单想到的,他们都已经想
到过了。普通的编译器,可以支持大部分已知的优化策略以及多媒体指令。至于哪个编译器更好,大部分人的观点是:intel。Intel毕竟是最优秀的
cpu提供者,他们的编译器考虑了很多cpu的特性,跑的更快。但目前intel编译器有一些比较弱智的地方,即它只识别自己的cpu,不是自己的cpu,
就认为是最差的i386-i686机器,从而不能在amd等平台上面支持sse功能。我们在linux上面写代码,一般更加喜欢流行的编译器,比如gcc。
Gcc的优点是它更新快,开源,bug修改迅速。正因为他更新快,所以它能够支持部分C03的规范。
5.1 gcc支持的优化技术
1) 函数内联
函数调用的过程是:压入参数到堆栈、保护现场、调用函数代码、恢复现场。当一个函数被大量调用的时候,函数调用的开销特别巨大。函数内
联是指把这些开销都去除,而直接调用代码。函数内联的不好之处是难以调试,因为函数实际上已经不存在了。
2) 常量预先计算
a = b + 1000 * 8
对于这段代码,程序会预先计算b + 1000 * 8,从而变成:
a = b+ 8000
3) 相同子串提取
a=(b+1)*(b+1)
这里,b+1需要计算2次,可以只用计算一次:
tmp=b+1
a=tmp*tmp
4) 生存周期分析
这是一个比较高级的技术。假设有代码:
a=b+1
c=a+1
在执行的时候,因为第二句依赖第一句,所以2句是线性执行。
但编译器其实可以知道,c就是等于b+2,所以代码变成:
a=b+1
c=b+2
这样,这2句就没有任何关系来了,执行的时候,cpu可以并行执行它们。
5) 清除跳转
看如下代码:
int func()
{
int ret = 0;
if(xxx)
ret=5;
else if(yyy)
ret=6;
return ret;
}
当条件xxx满足的时候,程序还会跳到下面执行,但其实是没有必要的。编译器会把它变成:
int func()
{
if(xxx)
return 5;
else if(yyy)
return 6;
}
6) 循环展开
循环由几个部分组成:计数器赋值、计算器比较、跳转。每次循环,后面2步都是必须的消耗。把循环内的代码拷贝多份,可以大大减少
循环的次数,节约后面2步的耗时。参考:
for(int counter = 0; counter < 4; count++)
xxx;
可以变成:
xxx;
xxx;
xxx;
xxx;
编译器不仅仅可以展开普通循环,它还能展开递归函数。原理是一样的,递归其实是一个不定长的借用了堆栈的循环。
7) 循环内常量移除
for(int idx=0;idx<100;idx++)
a[idx]=a[idx]*b*b;
因为b*b在循环体内的值固定(常量),所以代码可以变成:
tmp=b*b;
for(int idx=0;idx<100;idx++)
a[idx]=a[idx]*tmp;
8) 并行计算
大家都知道,现代cpu支持超流水线技术,同时可以执行多条语句。多条语句能否同时执行的限制是不能互相依赖。编译器会自动帮我们把
看起来单线程执行的代码,变成并行计算,参考:
d=a+b;
e=a+d+f;
可以变成:
tmp=a+f;
d=a+b;
e=d+tmp;
9) 表达式简化
当年笔者在学习《离散数学》和《数字电路》的时候,总被眼花缭乱的布尔运算简化题目难倒。gcc终于让我松了一口气。参考:
!a && !b
这句需要3步执行,但变成:
!(a || b)
只需要2步执行。
5.2 gcc重要优化选项
1) 内联
-finline-small-functions
内联比较小的函数。-O2选项可以打开。
-findirect-inlining
间接内联,可以内联多层次的函数调用。-O2选项可以打开。
-finline-functions
内联所有可以内联的函数。-O3选项可以打开。
-finline-limit=N
可以进行内联的函数的最小代码长度。注意,这里是伪代码,不是真实代码长度。伪代码是编译器经过处理后的代码。带inline等标志的函数,默认
300行代码即可内联,不带的默认50行代码。和这个相关的选项是max-inline-insns-single和max-inline-insns-auto。
max-inline-insns-recursive-auto
内联递归函数时,函数的最大代码长度。
large-function-insns、large-function-growth、large-unit-insns等
函数内联的副作用是它导致代码变多,程序变长。这里的几个参数可以控制代码的总长度,避免编译后出现巨大的程序,影响性能和浪费资源。
2) -fomit-frame-pointer
不采用标准的ebp来记录堆栈指针,节省了一个寄存器,并且代码会更短。但据说在某些机器上面会导致debug模式出错。实际测试表明,在gcc4.2.4以
下,O2和O3都无法打开这个选项。
3) -fwhole-program
把代码当做一个最终交付的程序来编译,即明确指定了不是编译库。这个时候,编译器可以使用更多的static变量,来加快程序速度。
4) mmx/ssex/avx
多媒体指令,主要支持向量计算。一般来说,-march=i686、-mmx、-msse、-msse2是目前机器都支持的指令。
除了基本的多媒体支持外,gcc编译器还支持-ftree-vectorize,这个选项告诉编译器自动进行向量化,也是-O3支持的选项。
多说几句。在平常的使用中,多媒体指令不是很常见(除非游戏)。如果你有几个位表(bitset),它们需要进行各种位操作的话,多媒体指令还是挺有效果滴。
5.3 gcc大杀器-profile driven optimize
这是比较晚才出现的技术。其基本原理是:根据实际运行情况,缩短hot路径的长度。编译器通过加入各种计数器来监控程序的运行,然后根据计算出来
的实际访问路径情况,来分析hot路径,并且缩短其长度。根据gcc开发者的说法,这种技术可以提高20-30%的运行效率。
其使用方式为:
编译代码,加上-fprofile-generate选项
到正式环境一段时间
当程序退出后,会产生一个分析文件
利用这个分析文件,加上-fprofile-use,重新编译一次程序
举个例子来说:
a=b*5;
如果编译发现b经常等于10,那么它可以把代码变成:
a=50;
if(b != 10)
a=b*5;
从而在大多数情况下,避免了乘法消耗。
5.4 gcc支持的优化属性(__attribute__)
aligned
可以设置对齐到64字节,和cpu的cache line看齐
fastcall
如果函数调用的前面2个参数是整数类型的话,这个选项可以用寄存器来传递参数,而不是用常规的堆栈
pure
函数是纯粹的函数,任何时刻,同样的输入,都会有同样的输出。可以很方便依据概率来优化它。
5.5 gcc其他优化技术
#pragma pack()
对齐到一个字节,节省内存
__builtin_expect
直接告诉编译器表达式最可能的结果,方便优化
编译带debug信息的小文件
以下代码能够大大减少编译后程序大小,同时保留debug信息。其原理是外链一个带debug的版本。
g++ tst.cpp -g -O2 -pipe
copy a.out a.gdb
strip --strip-debug a.out
objcopy --add-gnu-debuglink=a.gdb a.out
6.算法是核心
算法是程序的核心,一个程序的好坏,大部分是看起算法的好坏。对于一般的程序员来讲,我们无法改变系统和库的调用,只能根据
规则来使用它们,我们可以改变的是我们自己核心代码的算法。
算法能够十倍甚至百倍的提高程序性能。如快排和冒泡排序,在上千万规模的时候,后者比前者慢几千倍。
通常情况下,有如下一些领域的算法:
A)常见数据结构和算法
B)输入输出
C)内存操作
D)字符串操作
E)加密解密、压缩解压
F)数学函数
总上所述:性能问题通常体现在四个方面:CPU、内存、磁盘、网络几个方面。解决方法可以是修改代码甚至程序结构以更充分的利用现有资源,
也可以是增加相应的硬件以增加资源供给。