繁体   English   中英

使用不同长度的pandas数据帧计算滚动窗口的加权和

[英]Compute weighted sums on rolling window with pandas dataframes of different length

我有一个大型数据帧> 5000000行,我正在执行滚动计算。

df = pd.DataFrame(np.randn(10000,1), columns = ['rand'])
sum_abs = df.rolling(5).sum()

我想做同样的计算,但加上一个加权和。

df2 = pd.DataFrame(pd.Series([1,2,3,4,5]), name ='weight'))
df3 = df.mul(df2.set_index(df.index)).rolling(5).sum()

但是,我得到一个长度不匹配的预期轴有5个元素错误。 我知道我可以做一些像[a *b for a, b in zip(L, weight)]东西,如果我将所有内容转换为列表但我想尽可能保留在数据框中。 有没有办法乘以不同大小的帧或我需要重复数字集合我乘以的数据集的长度?

简单的方法是这样做

w = np.arange(1, 6)
df.rolling(5).apply(lambda x: (x * w).sum())

使用strides不太容易的方法

from numpy.lib.stride_tricks import as_strided as strided 

v = df.values
n, m = v.shape
s1, s2 = v.strides
k = 5
w = np.arange(1, 6).reshape(1, 1, k)
pd.DataFrame(
    (strided(v, (n - k + 1, m, k), (s1, s2, s1)) * w).sum(-1),
    df.index[k - 1:], df.columns)

天真的时间测试

在此输入图像描述

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM