在2个神经网络的组合中使用反向传播进行权重更新

Question

每个神经网络都通过反向传播来更新其权重。 假设一个神经网络模型堆叠在另一个神经网络模型上，那么反向传播如何在这种体系结构中用于权重更新。 在单个神经网络模型中，权重的更新有何不同？

Answer 1

CNN，GAN或任何其他神经网络拓扑仍然由基本单元（网络层）组成。 “ CNN”是指一类广泛的拓扑； “ GNN”是另一大类。

反向传播的方式与通常相同：将每个图层的权重更改传播到上一层，然后除以该权重的渐变。 这是拓扑中相邻（直接连接）的层之间的操作。 这两层都是在我们作为“ CNN”聚类的子图中，还是在两个不同子图中的相邻层，都没有关系-这是直接的层到层更新。