在TensorFlow中训练量化模型
[英]Training quantized models in TensorFlow
问题描述
我想训练一个量化网络，即在前向传递过程中使用量化权重来计算损失，然后在后向传递过程中更新底层的全精度浮点权重。
请注意，在我的情况下，“伪量化”就足够了。 这意味着权重仍可以存储为32位浮点值，只要它们表示低位宽量化值即可。
在Pete Warden的博客文章中，他指出：
我们确实支持“伪量化”运算符。 如果将这些包括在图形中预计会发生量化的点（例如在卷积之后），则在前向传递中，浮点值将四舍五入到指定的级别数（通常为256）以模拟量化的效果。
可以在TensorFlow API中找到提到的运算符。
有人可以向我指出如何使用这些功能吗？ 如果我在模型定义中的例如conv层之后调用它们，为什么要量化该层中的权重而不是该层的输出（激活）？
0 个解决方案
如何通过实验量化从 TensorFlow 的量化感知训练中获得量化权重
[英]How to get quantized weights from TensorFlow's quantization aware training with experimental quantization
训练后从 Tensorflow/models 部署推荐模型？
[英]Deploying recommendation model from Tensorflow/models after training?
使用两个张量流模型，其中一个用于推理，另一个用于训练
[英]Using two tensorflow models where one is for inference and another is for training
使用Tensorflow训练模型的输入数组形状应该是什么
[英]What should be the input array shape for training models with Tensorflow
声明:本站的技术帖子网页，遵循CC BY-SA 4.0协议，如果您需要转载，请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.