通过批量训练将字母图像训练到神经网络

Question

根据本教程 （带有NumPy的纯Python），我想构建一个简单的（用于学习目的的最简单级别）神经网络（Perceptron），该神经网络可以训练识别“ A”字母。 在本教程中，在提出的示例中，他们构建了一个可以学习“ AND”逻辑运算符的网络。 在这种情况下，我们有一些输入（4 * 3矩阵）和一个输出（4 * 1矩阵）：

每次我们用输入矩阵减去输出矩阵，然后计算误差和更新率等等。

现在，我想提供一个图像作为输入，在这种情况下，我的输出是什么？ 如何定义图像为“ A”字母？ 一种解决方案是将“ 1”定义为“ A”字母，将“ 0”定义为“ non-A”，但是，如果我的输出是标量，那么如何使用隐藏层减去它并计算误差并更新权重？ 本教程使用“全批次”训练，并将整个输入矩阵与权重矩阵相乘。 我想用这种方法。 最终目标是设计一种神经网络，该网络可以识别最简单形式的“ A”字母。 我不知道该怎么做。

Answer 1

拳头：很好，您尝试通过从头编程对神经网络进行理解，而不是从一些复杂的库开始。 让我尝试清除问题：您在这里的理解：

每次我们用输入矩阵减去输出矩阵，然后计算误差和更新率等等。

是不是真的正确。 在您的示例中，输入矩阵X是您提供给神经网络输入的内容。 输出Y是您希望网络对X ：第一个元素Y[0]是X的第一行的期望输出，依此类推。 我们通常将其称为“目标向量”。 现在要计算损失函数（即误差），我们将网络的输出（在链接的示例代码中为L2 ）与目标向量Y 。 在的话，我们比较了我们希望做网络（ Y ）什么它确实 （ L2 ）。 然后，我们朝更靠近Y的方向迈出一步。

现在，如果要使用图像作为输入，则应将图像中的每个像素视为一个输入变量。 以前，我们有两个输入变量：A和B，我们要为其计算项X = A∧B。

范例 ：

如果我们拍摄8 x 8像素的图像，则我们有8 * 8 = 64个输入变量。 因此，我们的输入矩阵X应该是一个65列的矩阵（图像的64个像素+ 1个输入作为偏差项，它始终为= 1），每个训练示例都有一行。 例如，如果您有26个字母中的每个字母的一张图像，则矩阵将包含26行。

输出（目标）向量Y的长度应与X相同，即在前面的示例中为26。 如果相应的输入行是A，则Y每个元素为1；如果是另一个字母，则为0。 在我们的示例中， Y[0]为1， Y[1:]为0。

现在，您可以使用与以前相同的代码：输出L2将是包含网络预测的向量，然后您可以将其与Y进行比较。

tl; dr关键思想是忘记图像是2D的，并将每个输入图像存储为矢量。