繁体   English   中英

查找内存使用情况、CPU 使用率、运行 python 脚本的执行时间

[英]Finding Memory Usage, CPU utilization, Execution time for running a python script

我正在使用 python,并假设我有一些代码如下

例子.py

import os, psutil
import MySQLdb as mdb

conn = mdb.connect(user='root', passwd='redhat', db='File_Data', host='localhost', charset="utf8")
file_path = "/home/local/user/Module/File_processing/part-file.txt"
p = psutil.Process(os.getpid())
cursor = conn.cursor()

for line in file_open:
    result = line.split('\t')
    query = "insert into PerformaceReport (campaignID, keywordID, keyword, avgPosition)"
    query += " VALUES (%s,%s,'%s',%s)%(result[0],result[1],result[2],result[3])"
    cursor.execute( query )
conn.commit()

print p.get_cpu_times()
print p.get_memory_percent()

上面的代码从文本文件中读取数据并保存到数据库并且它工作正常

我正在使用命令python path/to/the/example.py运行文件

现在我要做的是查找/捕获以下三个值/信息

  1. python脚本( example.py )读取数据并将数据保存到数据库所花费的总execution time
  2. python脚本( example.py )运行(执行)时的CPU utilization
  3. python脚本( example.py )运行(执行)时的Memory usage

我已经在谷歌上搜索了很多,在这里这里这里找到了一些信息,每个解释都有不同的方法,我真的很困惑,无法理解当脚本example.py运行时如何捕获上述三个值的方法,所以问所以

任何人都可以为我提供一个适合/捕获我上面提到的需要的上述值的工作示例(代码),以便我可以进一步扩展我的进一步需求

已编辑

过程遵循

1 . 用于查找执行时间

使用如下命令运行 example.py 文件

  python -m cProfile -o file.profile example.py 

2 . 用于查找 CPU 使用率

在 example.py 运行后在终端中执行top命令

结果:

   PID USER      PR  NI  VIRT  RES  SHR S %CPU %MEM    TIME+  COMMAND
  1354 root      20   0  138m  17m 7200 S  2.0  0.6   2:40.50 Xorg                                             
  2672 shivakri  20   0  581m  19m  12m S  1.3  0.6   0:07.60 gnome-terminal                                   
  2587 shivakri  20   0  987m 168m  33m S  1.0  5.6   5:25.26 firefox                                          
  2780 shivakri  20   0 1233m  51m  16m S  1.0  1.7   0:16.51 gedit                                            
  2163 shivakri  20   0  821m 135m  43m S  0.7  4.5   4:58.74 chrome                                           
  1938 shivakri  20   0  567m  15m  11m S  0.3  0.5   0:06.64 metacity  
  ........
  ........

现在在上面的结果中,我如何/在哪里可以找到 CPU/内存利用率值,是否需要从包含gnome-terminal的行中获取值%CPU %MEM (因为我们通过终端运行文件?)

Aslo top用于查找正在运行的总 CPU 利用率进程,但是我们只需要在 example.py 脚本执行/运行时找到它的 CPU 利用率,我的意思是我们运行文件时使用了多少 CPU、内存(例子.py)

最后,当我运行 python 脚本 (example.py) 时,我的意图是执行时间、运行脚本所采用的 CPU 利用率以及用于运行脚本的内存等值必须被记录/存储在某个位置(进入到文本文件)或其他东西

用于时间分析

  1. cd进入包含example.py的目录(我们称之为exampledir )。
  2. 运行python -m cProfile -o example.profile example.py
  3. 下载 RunSnake并在任何地方解压
  4. cd进入你解压 RunSnake 的目录
  5. 运行python runsnake.py exampledir/example.profile

用于 CPU 分析

  1. 使用psutil
    1. 使用myProcess = psutil.Process(os.getpid())创建一个新的psutil.Process
    2. 根据需要调用myProcess.get_memory_info()myProcess.get_ext_memory_info()myProcess.get_memory_percent()

用于内存分析

  1. 使用easy_installpip安装 meliae
  2. 将以下代码行添加到example.py的顶部:

from meliae import scanner # [[source](http://www.vrplumber.com/programming/runsnakerun/)]
scanner.dump_all_objects( filename ) # you can pass a file-handle if you prefer

  1. 运行runsnakemem fpath ,其中fpath是您在上面的代码中使用的文件的路径。

这应该会为您提供一个类似于 RunSnakeRun 所获得的可视化内存分析器。

希望这可以帮助

如果有人仍在搜索有关此要求的任何内容,这里是一篇内容丰富的博客文章:

监控正在运行的 Python 程序的内存使用情况

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM