关于逻辑回归和线性回归的问题

Question

我正在尝试理解逻辑回归和线性回归，并且能够理解其背后的理论（做安德鲁 ng 课程）。

我们有 X -> 给定特征 -> (m , n+1) 的矩阵，其中 m - 没有。 给定的案例和 n 个特征（不包括 x0）

我们有 y -> 要预测的标签 -> (m,1) 的矩阵

现在，当我在 python 中从头开始实现它时，我很困惑为什么我们在 sigmoid 函数中使用 theta 的转置。

我们也使用theta 转置 X进行线性回归。

我们不必在编码时在任何地方执行矩阵乘法，它的直接元素到元素编码，转置的需要是什么，或者我的理解有误，我们需要在实现过程中进行矩阵乘法。

我主要担心的是，我很困惑我们在哪里进行矩阵乘法以及我们在哪里进行逻辑和线性回归中的元素乘法

Answer 1

您对这个领域有点偏离主题，但您似乎被挂断的是x和Theta的处理。

在您描述的用例中， x是输入向量，或“特征向量”。 Theta向量是系数向量。 两者通常都表示为列向量，当然，必须具有相同的维度。

因此，要“进行预测”，您需要这两者的内积，并且输出需要是标量（根据内积的定义），因此您需要转置theta向量以正确表达该操作，这是一个两个向量的矩阵乘法。 有道理？

Answer 2

对于矩阵乘法，第一个元素中的列数必须等于第二个元素中的行数。 由于您的乘法元素之一具有一列或一行，因此由于它的简单性，它似乎不是矩阵乘法。 但它仍然是矩阵乘法

我举个例子，

设A为 (m,n) 矩阵 我们可以进行标量乘法，对于实数中某个固定的a如果我们想将A与某个向量x相乘，我们需要满足一些限制。 在这里，通常会将点积误认为矩阵乘法，但它们的用途完全不同。

因此，我们对 (m,n) 矩阵A乘以向量x是 x的条目数与 A 的列数相同。为此，在您的示例中，需要转置元素之一。