Tensorflow：在 prune_low_magnitude 之后显示 model FLOPs

Question

有没有办法显示修剪后 model 的 FLOP 数量减少（带有 tensorflow_model_optimization 的 prune_low_magnitude）。 我试图比较默认值和修剪后的 model，但我没有找到修剪后的 model 的 FLOPs 更少的方法，即使 Z20F35E630DAF44DBFA4C3F68F539D 的大小减少了很多。 我用https://pypi.org/project/model-profiler进行了尝试，但我认为它并没有忽略零权重。

或者还有其他比较它们性能的好方法吗？

谢谢

Answer 1

我刚刚遇到了同样的问题。 正如您提到的，分析器不会忽略零权重，因为它使用 model 的架构。 因此，可以实现 FLOP 分析器以考虑零权重。 但是在下面的帖子中，提到了剪枝对 model 推理的加速没有帮助：
剪枝不会加速推理

我自己还没有对此进行验证，但如果是这种情况，可能需要在修剪后重新构建模型的架构。 这可能应该通过实际删除那些修剪过的零权重来完成。 在这一步之后，FLOP 计算应该会减少，并有望加速 model 推理。

如果自创建帖子以来您在此问题上取得了任何进展，我很乐意获得更新并可能获得任何提示。 我的下一步将是在修剪和验证 model 推理的 FLOPS 减少和加速之后尝试重构模型。