优化函数scipy.optimize

Question

我是python和统计编程的新手。 对于类分配，我们被要求实现python lasso L1回归。 这涉及使用QP求解器进行求解。

0.5 *(x^t * H * x) + f^t * H
st x > 0 (every element of x is greater than zero)

这些是块向量和矩阵。 我正在将2维数组用于向量，将4维数组用于矩阵H

def function(x):
    x = x.reshape(2, -1)
    return 0.5*np.tensordot(x,(np.tensordot(H,x,([1,3],[0,1]))),([0,1],[0,1])) + np.tensordot(f,x,([0,1],[0,1]))

initial_val = np.random.randn(2 * (k+1)).reshape((2,k+1))

bnds = (0,None)
theta = scipy.optimize.minimize(function, initial_val, method="SLSQP", bounds=bnds)

但是我仍然在theta.x向量中得到负值。 谁能告诉我我要去哪里错了？

Answer 1

您需要提供优化约束，如果优化标量函数，则需要这样：

scipy.optimize.minimize(
    function,
    initial_val,
    method="SLSQP",
    bounds=bnds,
    constraints = [{'type':'ineq', 'fun':lambda x: x}])

或用于向量函数：

constraints = [{'type':'ineq', 'fun':lambda x: x[i]} \
                   for i in range(len(initial_val))]

请注意，如果它是向量，则还需要为每个元素提供界限：

 bnds = [(0, None) for _ in range(len(initial_val))]

您可能还需要查看参考 。