我需要编写一个计算机程序来查找两个函数对于给定参数是否具有相同的最小值点，所以我想编写一个程序来查找一些示例函数，我知道哪个最小值。 所以我写了一个程序，但我总是得到一个错误'result$hessian':$ operator is invalid for atomic vectors 。 但是对 ...
我想在 PyTorch 中计算损失 wrt 模型参数的 Hessian 矩阵，但是使用torch.autograd.functional.hessian对我来说不是一个选项，因为它会重新计算模型输出和我已经从之前的调用中获得的损失。 我目前的实现如下：import torch import time ...
我试图获得输出的二阶导数 wrt 使用 Flax 构建的神经网络的输入。 网络结构如下： 我可以通过在 grad 上使用 vmap 来获得单导数： 但是，当我再次尝试这样做以获得二阶导数时： 我收到以下错误： 我尝试使用 autodiff 食谱中的 hvp 定义，但参数是函数的输入， ...
我目前正在从事一个研究项目，我需要找到$\\beta$的正确值， $\\beta$最小化函数$\\sum_i (p_i-\\avg(n_c)_i)^2$ 。 这里， $\\avg(n_c)_i$是一个数组，它是我试图将$p_i$匹配到的函数。 $p_i$依赖于$\\beta$但也有一些其他的依赖， ...
我想计算 Tensorflow 中神经网络关于所有参数（或可训练变量）的损失函数的 Hessian。 通过修改 Tensorflow 文档（ https://www.tensorflow.org/api_docs/python/tf/GradientTape ）中的示例代码，我设法计算了第一层的权重 ...
我知道在 pytorch 中有很多关于“计算 Hessian”的内容，但据我所知，我没有找到任何对我有用的东西。 因此，尽量准确地说，我想要的 Hessian 是相对于网络参数的损失梯度的雅可比行列式。 也称为关于参数的二阶导数矩阵。 我发现了一些以直观方式工作的代码，虽然不应该很快。 很明显，它 ...
我正在编写ElasticWeightConsolidation方法，为此我需要计算 Fisher 矩阵。 据我了解，Fisher Matrix 只是神经网络权重的似然的 Hessian。 有很好的功能，如torch.autograd.functional.hessian(func, inputs, ...
假设向量\\theta是神经网络中的所有参数，我想知道如何在pytorch 中计算\\theta hessian 矩阵。 假设网络如下： 我知道可以通过调用torch.autograd.grad()两次来计算二阶导数，但是 pytorch 中的参数是由net.parameters()组织的，我 ...
我们成功地使用 Karate 来自动测试 REST 和 SOAP 网络服务。 此外，我们还有一些遗留网络服务，它们基于 Hessian Web 服务协议 ( http://hessian.caucho.com/ )。 Hessian 调用也是 HTTP 请求，因此我们想将它们添加到我们的空手道测试 ...
我在 Python 中使用包 scipy.optimize.minimize，尤其是 SLSQP，因为这个算法更适合我的问题。 问题是 SLSQP 进行了近似来计算目标函数的 Hessian，而我通过分析知道它。 如何将粗麻布传递给算法？ 谢谢。 ...
我想获得以下function的Hessian： 我正在尝试使用 numdifftools package 的 Hessian function 来做到这一点。 在文档中，我找到了以下信息。 例如，如果您想要定义为 Rosenbrock function 的粗麻布，则粗麻布按以下方式计算： 在点 [ ...
我使用 nlm 来最大化 R 中的可能性。 如果任务可能花费太长时间，我想预测可能性评估的数量并中止。 nlm 返回“迭代”的次数（通常为 10-20），我认为每次迭代都涉及对 Hessian 的一次数值评估。 每次迭代的时间（Hessian？）取决于参数的数量。 所以我想知道：nlm 中每次迭 ...
我正在使用mle2来估计非线性 model 的参数，我想要估计参数估计周围的误差（标准误差）。 同样，我想使用 model 然后使用 newdata 进行预测，并且在此过程中的几个步骤中我遇到了问题（错误）。 这是数据： 首先，我必须为我的非线性 model 设置几个关于动物在温度方面的表现的固定参 ...
代码： 如果我循环超过 28 次，我的成本 function 的“总和”部分会出现除以 0 的问题，而且我还会收到一个错误，指出矩阵不能反转，因为它是奇异的。 不知道出了什么问题，遵循我的教授给出的确切算法。 该数据集是一个包含 80 个学生条目的列表，每个条目有两个考试分数，以及该学生是否被大学录 ...
我是 Julia 的新手，我正在尝试学习如何操作微积分。 如果我像下面的代码一样使用“ForwardDiff”计算函数的梯度并查看接下来的函数，我该怎么办？ 我知道如果我输入一些值，它会给我那个点的梯度值，但我只想看到函数（f1 的梯度）。 ...
你好， 我目前正在尝试在Tensorflow 1.13.1中计算梯度并使用GradientTape类，如官方文档中所述 ，但是我遇到了TypeError: Fetch argument None has invalid type <class 'NoneType'> 。 在 ...
我有一个训练有素的keras模型，我需要计算出相对于输入的输出的梯度和粗麻布。 输入X是5000x3 numpy数组，输出y是5000x1。 使用keras的梯度和tensorflow的梯度函数，梯度计算都可以正常工作，并且我得到了一个带有正确值的数组5000x3，但是使用tf.hess ...
我在文学界一直读到，诸如DFP和BFGS之类的准牛顿法在处理条件不佳的问题上的性能较差，但我不明白其原因。 我一直试图在条件不佳的二次问题上使用这些方法，并且该问题不会在p + 1迭代中收敛（这是二次问题的准牛顿方法属性之一），但要多一些。 这是为什么 ？ 谢谢您的帮助。 ...
我遇到了一个大问题，我想知道目标函数的梯度和Hessian以及一些约束。 我在这里看到了如何获得符号导数。 但是使用以下简单代码： pyomo给了我： 如何获得符号方程并进行评估？ ...