CNTK-模型的不完整训练

Question

我使用CNTK python API训练了一个三层前馈网络，以玩一个简单的基于网格的棋盘游戏。 如果使用小板（6 x 6）网格，则模型可以成功训练。 该模型在100场游戏中以100％成功的方式玩游戏。 但是，如果我将棋盘尺寸增加到21 x 21，则在100场比赛中，训练似乎会达到90％的成功率。

似乎没有增加训练时间或更改训练参数来改善模型的性能。

• 我错过了什么吗？
• CNTK是否支持使用“辍学”？
• 还有其他技巧可以改善训练吗

Answer 1

是的，支持辍学。 当前文档位于：

https://cntk.ai/pythondocs/cntk.ops.html?highlight=dropout#cntk.ops.dropout

您使用哪种激活功能？ 如果使用的是Sigmoid，请尝试ReLU。 如果使用ReLU，则可能由于流动的大梯度而在训练期间死亡。 尝试使用Leaky ReLU或Param ReLU。 工具包支持所有这些。