摘要

本文简要介绍如何基于gprof或Valgrind的性能分析数据, 使用gprof2dot和Graphviz制作Fortran程序的调用图, 以便对Fortran程序进行调试和优化.

背景

程序逻辑或者工作流是程序设计中很重要的部分, 与程序的算法实现及效率紧密相关. 通过分析程序运行中函数的调用顺序和次数等, 可以发现程序中可能存在的设计缺陷和性能瓶颈. 调用图(call graph)是一种展示程序工作流的手段, 包括静态和运行时两种, 前者侧重调用逻辑, 后者侧重实际工作环境中的时间效率.

之前写代码时一直不是很重视设计这个阶段, 最多用心灵导图稍微画一画需求, 也不是非常严格. 这导致过一段时间回看代码, 会对某些地方为什么要那么写产生疑问, 要想很久才能回忆起来, 很费时间. 这对于个人小型项目问题还好, 对中型或大型项目就会造成很大的困难. 在一顿无望的结果测试后, 最近我重新回到组里GAP3的开发里. 尽管理解工作流程, 但对于GAP3的GW计算如何调用它的各种例程, 仍然没有非常清晰的图象. 于是我希望能用调用图来把程序运行逻辑可视化, 帮助自己理清思路. 网上一顿搜索后, 发现可以用gprof和Valgrind来做性能分析, 用gprof2dot和dot来处理分析数据并作图.

这篇文章就是自学的一些总结. 以下所有操作都是在Linux (Fedora 27)下完成, 用到的主要工具是

  • Fortran编译器与链接器: 这里使用Intel 2018 Update 1的ifort
  • gprof: 用于分析编译器产生的性能分析文件
  • Valgrind: 在Valgrind笔记(一)——Memcheck初探一文中提到了使用Valgrind的memcheck工具检测内存使用状况, 实际上它还提供了callgrind工具来进行函数调用的运行时分析.
  • gprof2dot: 将gprofcallgrind分析获得的信息转化成一个以DOT语言)描述的有向图(directed graph)对象. 可以通过pip安装.
  • dot: 利用Graphviz将DOT有向图对象渲染成图片, 属于Graphviz发行版的一部分.

一个接口调用的例子

先从一个简单的例子出发, 把调用图制作的逻辑弄清楚. 下面是一段简单的做整数与浮点数加法的Fortran代码

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
! filename: hw.f90
module tools
interface add
module procedure add_int
module procedure add_double
end interface add

contains

function add_int(i, j)
integer, intent(in) :: i
integer, intent(in) :: j
integer :: add_int

add_int = i +j
end function add_int

function add_double(i, j)
real(8), intent(in) :: i
real(8), intent(in) :: j
real(8) :: add_double

add_double = i +j
end function add_double
end module

program hw

use tools

integer :: i
real(8) :: x
character(len=20) :: str = "Hello World!"

write(*, "(A20)") str
i = add(1, 2)
x = add(1.1d0, 2.1d0)
write(*, "(I2)") i
write(*, "(F6.3)") x

stop

end program hw

在这里, 主程序中调用的add函数实际上是一个接口, 当接受两个整数时重载为add_int, 接受两个双精度浮点数是重载为add_double. 下面分别用gprof和valgrind为后端, 进行性能分析和调用图的制作.

使用gprof

首先, 要使用gprof, 需要在程序编译时添加-p-pg选项

1
2
ifort -p -g -c hw.f90 -o hw.o
ifort -o test.out hw.o -p

这里尽量采用先编译到目标文件, 再链接到可执行文件的方式. 然后运行test.out

1
./test.out

产生gmon.out文件. 用gprof读取这一文件并将标准输出重定向

1
gprof test.out > gprof_test.txt

gprof_test.txt中包含了运行test.out过程中各函数的调用次数, 程序在每个函数及其子函数中的停留时间等.

接下来, 使用gprof2dot处理gprof_test.out

1
cat gprof_test.out | gprof2dot -f prof -o digraph.dot

digraph.out用一个digraph数据类型描述了一个有向图. 用dot处理该文件并产生

1
cat digraph.dot | dot -Tpng -o hw_gprof.png

得到下图. 可以看到MAIN中各调用了一次add_intadd_double. 每个方块中第一个百分数是在该函数及其子函数的运行时间占程序总时间的比例, 第二个数是仅在该函数内的时间的比例. 这里全都是100%, 是因为计算时间太短了, gprof_test.out里的时间都是0.00.

单次加法调用时, gprof产生的hw.f90调用图
单次加法调用时, gprof产生的hw.f90调用图

试着将加法次数增大到九千万次, 就可以看到明显的不同. 双精度耗时比整型的还是要多一些.

加法各九千万次时的gprof调用图
加法各九千万次时的gprof调用图

使用callgrind

若用Valgrind来做生成性能分析, 只需使用valgrind调用欲测试函数, 同时指明callgrind工具, 而不需要对编译做特别的改动

1
valgrind --tool=callgrind ./test.out

运行结束后会产生名为callgrind.out.xxx的文件, 其中xxx是运行程序进程的PID. 使用gprof2dot分析之

1
cat callgrind.out.xxx | gprof2dot -f callgrind -o digraph.dot

生成png的命令与前面gprof的相同. 当只调用一次加法时调用图如下, 出现很多复杂的库函数调用, 猜测应该跟valgrind本身有关, 反而看不到add_intadd_double. 这时并不表示这两个函数未被调用, 而是因为占用时间太少, 被gprof2dot剪裁掉了.

单次加法调用时, callgrind产生的hw.f90调用图
单次加法调用时, callgrind产生的hw.f90调用图

提高到九千万次调用后的分析结果看上去正常一些. 同样的, 这也不是说那些库函数未被调用, 而是在这种情况下主要耗时都在加法上, 库函数调用耗时少而被gprof2dot去掉了. 这些都是视觉表现上的考虑.

加法各九千万次时的callgrind调用图
加法各九千万次时的callgrind调用图

比较两种工具所得的调用图, 发现Valgrind能给出包含被调用函数所在库的名称. 在九千万次加法的例子里, 使用Valgrind做性能分析所花的时间比gprof要多得多, 因此还是决定用gprof来做GAP3的分析. 上面用的所有程序和Makefile打包在这里了.

GAP3的调用图

-O3下编译串行程序, 用gprof做运行时分析, 在真空层为9 Bohr的单层六方BN中测试. 库仑截断的开关打开, 以检查工作流是否跟自己预想的相同. 最后得到调用图如下所示.

O3下GAP3中GW功能的调用图
O3下GAP3中GW功能的调用图

可以得到的比较直接的结论是

  1. 花费时间最多的上层例程是: 介电矩阵计算calceps(63.70%), 交换自能即Fock算符calcselfx(26.05%), 关联自能calcselfc(2.63%)
  2. 花费时间最多的底层例程是calcminm(90.28%), 用于计算KS波函数积与MPB的重叠矩阵元$M^i_{nm}({\bf k, q})$. 原则上计算量是$\mathcal{O}(N_{\chi} N N_e N_v N^2_k)$, 其中$N_{\chi}$是MPB数量, $N$是APW+LO基组数, 价态数量$N_v$, 电子总数$N_e$, BZ中k布点数$N_k$

另外发现的一个问题是, 在开启库仑截断后, 所有的库仑势计算都应该用coul_barc_cutoff例程, 但依然有9次coul_barc调用, 因此库仑势计算比关联自能更多一点. coul_setvm0calcmwm也需要用带cutoff后缀的. 因此这样的调用图也能帮助解决一些流程控制上的bug.

总结

在这篇文章中, 笔者分别用gprof和callgrind对一个简单的Fortran程序制作了调用图, 并通过调用图分析了GAP3程序中的性能瓶颈, 发现了库仑截断开启时的流程控制问题.

参考

valgrind的callgrind工具进行多线程性能分析

Comments