使用适当且快速的数据结构在python对象中收集字典帧

Question

我正在使用一个API，该API每秒提供128个信号（和信号质量值）作为dict中的一个dict。 我想将它们收集到1（或更多）秒的窗口中。

我的本机方法是使用相同的dict结构并将值追加到列表中（例如： 在Python中将值追加到字典中 ）。

参见示例：

# the API provides data like this
def getFrame(i):
    return {"X":
                {"value" : i,
                 "quality": i*2},
             "AF3":
                {"value" : i*3,
                 "quality": i*4}
             }


# object to collect single frames
class WindowDto(object):
    def __init__(self, windowSize, header):
        self.header = header
        self.windowSize = windowSize
        self.data = {}
        for key in self.header:
            self.data[key] = {"value": [], "quality": []}

    def addFrame(self, frame):
        for key, val in frame.iteritems():
            field = self.data[key]
            field["value"].append(val["value"])
            field["quality"].append(val["quality"])


# the keys of a frame are known
header = ["X", "AF3"]
# the max frame count is also known, but not used yet
maxFrameCount = 8        

dto = WindowDto(maxFrameCount, header)
for i in range(8):
    dto.addFrame(getFrame(i))

print(dto.data)
# {'X': {'quality': [0, 2, 4, 6, 8, 10, 12, 14], 'value': [0, 1, 2, 3, 4, 5, 6, 7]}, 
#  'AF3': {'quality': [0, 4, 8, 12, 16, 20, 24, 28], 'value': [0, 3, 6, 9, 12, 15, 18, 21]}}

我假设addFrame()方法是一个潜在的瓶颈，因为我必须遍历整个结构。 我正在寻找一种执行add操作的更智能方法。 有什么建议怎么做？

我还可以自由更改值的存储方式（例如在数组中？）以提高性能。 我知道标题值和窗口对象的最大大小。 这些值稍后将作为列表进行处理（例如sum(data["X"]["values"]) ），但是访问由WindowDto包裹。

Answer 1

您是否进行了任何性能分析，也许您的服务器已经足够好了！

import cProfile
cProfile.run('for i in range(128):dto.addFrame(getFrame(i))')
         899 function calls in 0.001 seconds
cProfile.run('for i in range(128**2):dto.addFrame(getFrame(i))')
         114691 function calls in 0.046 seconds