如何在 scipy.optimize 函数上强制执行更大的步骤？

Question

我有一个 function compare_images(k, a, b)比较两个二维数组a和b

在函数内部，我将带有sigma=k的gaussian_filter应用于a我的想法是估计我必须对图像a进行多少平滑才能使其与图像b相似

问题是我的 function compare_images只会在k变化超过0.5时返回不同的值，如果我执行fmin(compare_images, init_guess, (a, b)它通常会卡在init_guess值上。

我认为问题是fmin （和minimize ）往往从非常小的步骤开始，在我的例子中，它将为compare_images重现完全相同的返回值，因此该方法认为它已经找到了最小值。 它只会尝试几次。

有没有办法强制fmin或任何其他最小化 function 从scipy采取更大的步骤？ 或者有什么方法更适合我的需要吗？

编辑：我找到了一个临时解决方案。 首先，按照建议，我使用xtol=0.5和更高版本作为fmin的参数。 即便如此，我仍然遇到了一些问题，有几次fmin会返回init_guess 。 然后我创建了一个简单的循环，这样如果fmin == init_guess ，我会生成另一个随机init_guess并再次尝试。

当然，它很慢，但现在我让它运行了。 为我的所有数据运行它需要 20 小时左右，但我不需要再做一次。

无论如何，为了更好地为那些仍然有兴趣寻找更好解决方案的人解释问题：

• 我有 2 张图像A和B ，其中包含一些科学数据。
• A看起来像一些具有可变值的点（它是一个矩阵，其中每个值点代表事件发生的位置及其强度）
• B看起来像一个平滑的热图（它是观察到的出现密度）
• B看起来就像你对A应用了一个带有一点半随机噪声的高斯滤波器。
• 我们通过对A应用具有常数sigma的高斯滤波器来近似B 这个sigma是视觉选择的，但只适用于特定的 class 图像。
• 我试图为每个图像获得一个最佳的sigma ，所以后来我可以找到sigma和每幅图像中显示的事件的 class 的一些关系。

无论如何，感谢您的帮助！

Answer 1

快速检查：您可能真的指的是fmin(compare_images, init_guess, (a,b)) ？

如果gaussian_filter行为如您所说，则您的函数是分段常数，这意味着依赖于导数（即大多数）的优化器已失效。 您可以尝试全局优化器，如anneal ，或在k的合理范围内进行蛮力搜索。

然而，正如你所描述的问题，一般只会有一个明确的，全球最小compare_images如果b是的平滑版本的a 。 如果您想确定使两个图像最相似的a的平滑量，则您的方法是有意义的。

如果问题是“图像的相似程度”，那么我认为逐像素比较（可能带有一点平滑）是要走的路。 根据我们所谈论的图像，可能需要先对齐图像（例如比较照片）。 请澄清:-)

编辑：另一个想法，这可能有助于：重写compare_images，使其平滑过计算两个版本的a -一个用标准差= floor(k)和一个与ceil(k)即循环k到下一个较低/较高INT） . 然后计算a_smooth = a_floor*(1-kfrac)+a_ceil*kfrac ，其中kfrac是k的小数部分。 这样，比较函数就变得连续 wrt k 。

祝你好运！

Answer 2

盆地跳跃可能会做得更好一些，因为当它卡在高原上时，无论如何它都有很大的机会继续。

我在这个示例函数中发现它在低温下表现得相当好：

>>> opt.basinhopping(lambda (x,y): int(0.1*x**2 + 0.1*y**2), (5,-5), T=.1)
    nfev: 409
     fun: 0
       x: array([ 1.73267813, -2.54527514])
 message: ['requested number of basinhopping iterations completed successfully']
    njev: 102
     nit: 100

Answer 3

我意识到这是一个老问题，但我找不到很多关于类似主题的讨论。 我面临着与scipy.optimize.least_squares类似的问题。 我发现xtol对我没有多大好处。 它似乎根本没有改变步长。 差异很大的是diff_step 。 这设置了根据公式step_size = x_i*diff_step对雅可比行列式进行数值估计时采用的步长，其中x_i是每个自变量。 您正在使用fmin因此您没有计算雅可比行列式，但是如果您使用另一个 scipy 函数（例如minimize来解决同一问题，这可能会对您有所帮助。

Answer 4

我遇到了同样的问题，并让它与“TNC”方法一起工作。

  res = minimize(f, [1] * 2, method = 'TNC', bounds=[(0,15)] * 2, jac = '2-point', options={'disp': True, 'finite_diff_rel_step': 0.1, 'xtol': 0.1, 'accuracy': 0.1, 'eps': 0.1})

'finite_diff_rel_step' 和将 'jac' 设置为 {'2-point', '3-point', 'cs'} 之间的组合对雅可比计算步骤起到了作用，而 'accuracy' 对一步的大小。 我认为不需要“xtol”和“eps”，我只是添加它们以防万一。

在这个例子中，我有 2 个变量被初始化为 1 并且边界为 [0,15] 因为我正在近似 beta 分布的参数，但它也应该适用于你的情况。