内存映射文件访问非常慢

Question

我正在使用976 GB内存的Linux机器上写入930GB文件（预分配）。

该应用程序是用C ++编写的，我正在使用Boost Interprocess对文件进行内存映射。 在开始代码之前，我先设置堆栈大小：

ulimit -s无限

一个星期前写作非常快，但是今天运行缓慢。 我不认为代码已更改，但是我可能不小心更改了环境中的某些内容（它是一个AWS实例）。

应用程序（“ write_data”）似乎并未使用所有可用内存。 “顶部”显示：

Tasks: 559 total,   1 running, 558 sleeping,   0 stopped,   0 zombie
Cpu(s):  0.0%us,  0.0%sy,  0.0%ni, 98.5%id,  1.5%wa,  0.0%hi,  0.0%si,  0.0%st
Mem:  1007321952k total, 149232000k used, 858089952k free,   286496k buffers
Swap:        0k total,        0k used,        0k free, 142275392k cached

   PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND                                                                  
  4904 root      20   0 2708m  37m  27m S  1.0  0.0   1:47.00 dockerd                                                                  
 56931 my_user   20   0  930g  29g  29g D  1.0  3.1  12:38.95 write_data                                                          
 57179 root      20   0     0    0    0 D  1.0  0.0   0:25.55 kworker/u257:1                                                           
 57512 my_user   20   0 15752 2664 1944 R  1.0  0.0   0:00.06 top

我以为常驻大小（RES）应该包括内存映射数据，所以它不应该> 930 GB（文件大小）吗？

有人可以建议诊断问题的方法吗？

Answer 1

通常不急于填充内存映射。 如果有其他程序将文件强制进入页面缓存，则从一开始就可以看到良好的性能，否则，将在文件被分页时看到较差的性能。

如果您有足够的RAM将整个文件保存在内存中，则可能需要向操作系统提示它应该预取文件，从而减少由页面错误触发的小批量读取的数量，从而代替了大批量读取。 通过传递POSIX_MADV_WILLNEED作为advice ，可以使用posix_madvise API提供此提示，指示它应该预取整个文件。