[英]how to implement multiprocessing for function that takes 6 parameters with different types and sizes
我有一个将5个或更多参数作为输入的函数,这些参数具有不同的类型和大小,在这种情况下如何应用多重处理。
假设在这个虚拟样本中
功能:
def func(arr1,arr2,arr3,mtx1,mtx2,st):
# the function will output three arrays that has the same size as the arr1
result1 = np.zeros((len(arr1), 1))
result2 = np.zeros((len(arr1), 1))
result3 = np.zeros((len(arr1), 1))
# the function will make iteration through the 0 to the length of the arr1
for i, _ in enumerate(arr1):
# it does a lot of computations using the #th number of arr1, arr2, arr3, but takes the whole matrices mtx1 amd mtx2
# some details of the calculation based on the setting of the string
return result1, result2, result3
主要功能是定义所有参数,然后输入到该功能。
如果name ==' main ':
arr1 = np.array([100,200,300])
arr2 = np.array([400,500,600])
arr3 = np.array([700,800,900])
mtx1 = np.array([[1,2,3,4,5],[6,7,8,9,10],[11,12,13,14,15]])
mtx2 = np.random.rand(10,10)
st = 'string'
results = func(arr1, arr2, arr3, mtx1, mtx2, str)
我尝试按照其他人的建议使用“池”和地图,例如:
p = Pool()
results = p.map(func, arr1, arr2, arr3, mtx1, mtx2, st)
p.close()
p.join()
这将产生错误:
map()接受3到4个位置参数,但给出了8个
我在网上发现的大多数多处理示例都使用与函数输入相同的数组大小,并且该函数仅执行非常简单的数学计算。 但这不是我的情况,我该如何解决这个问题?
谢谢!
您对map
的使用有些偏离。 第二个参数应该是iterable
-即元组或列表。 像这样:
results = p.map(func, (arr1, arr2, arr3, mtx1, mtx2, st))
对于同一功能的多次调用,您可以尝试使用starmap: https ://docs.python.org/dev/library/multiprocessing.html#multiprocessing.pool.Pool.starmap
预期星图的参数是可迭代的,将为您的函数解压缩。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.