MATLAB-如何实施此优化？

Question

我正在关注一段文本，希望在MATLAB中实现部分代码，但是我不知道该怎么做。 目的是优化一组值，以便根据某些输入更好地预测输出。

这是函数：

我已经实现了L功能。 虽然我知道'd'意味着很小的变化，但是我不确定如何在MATLAB中实现这一点。 我需要指定此值吗？ 如果是这样，变化只能朝一个方向发展吗？

作为背景资料， 请参见以下文章： http : //www.ee.kth.se/php/modules/publications/reports/2006/IR-EE-SB_2006_026.pdf第4页具有此特定公式。

Answer 1

看来您正在实现牛顿方法来优化多维函数http://en.wikipedia.org/wiki/Newton的s_method_in_optimization，尽管您的公式与该链接中给出的公式不同。 无论如何，方括号中的项是Hessian的逆，它本身是成本函数L的二阶偏导数的矩阵。最后一项是梯度，它是成本函数L的一阶偏导数的向量。要将渐变和Hessian都实现为单独的函数，这可能并不容易。 然后，您可以只使用Matlab中的反斜杠运算符，而不必使用Hessian的逆和乘以梯度的方法： inv(A)*x等效于A\\x 。