在 Keras 中归因输入重要性

Question

有没有办法使用 Keras 找到输入的重要性？ 我有一个 CNN 架构，其中输入是一个矩阵（每一行包含不同的信息，好像每一行都是不同的特征。如果有必要，我可以更改列的行，因为我是构建矩阵的人）。 由于每一行都被视为不同的特征，我想知道是否有办法查看哪些行对 CNN 执行分类更重要。 我知道对于某些机器学习算法，例如 Trees 或 Boosting Algorithms，您可以检查算法对特征的重要性，所以我想这样做，但使用 CNN 和 Keras。 可能吗？

Answer 1

有各种可视化库，您可以在其中使用图表来检查您的输入如何相互关联。 （链接到 seaborn 文档 - https://seaborn.pydata.org/generated/seaborn.heatmap.html ）

我推荐使用 seaborn 或 Matplotlib。