Tensorflow中多項式回歸訓練的nan會話輸出

Question

我是Tensorflow的新手，正在研究tensorflow教程中給出的回歸示例。 具體來說，我正在研究3號：“ polynomial_regression.py”

我很好地遵循了線性回歸示例，現在繼續進行多項式回歸。

但是，我想嘗試替換另一組數據，而不是示例中的數據。 我通過交換來做到這一點

 xs = np.asarray([3.3,4.4,5.5,6.71,6.93,4.168,9.779,6.182,7.59,2.167,
                         7.042,10.791,5.313,7.997,5.654,9.27,3.1], dtype=np.float32)
ys = np.asarray([1.7,2.76,-2.09,3.19,1.9,1.573,3.366,2.596,2.53,1.221,
                         2.827,-3.465,1.65,-2.1004,2.42,2.94,1.3], dtype=np.float32)
n_observations = xs.shape[0]

對於

n_observations = 100
xs = np.linspace(-3, 3, n_observations)
 ys = np.tan(xs) + np.random.uniform(-0.5, 0.5, n_observations)

即第二個是示例中給出的內容，我想嘗試使用新的xs，ys，n_observation進行相同的訓練。 這些是我更改的僅有幾行。 我還嘗試將數組的dtype更改為float64，但這並未更改輸出。

我得到的輸出（來自print(training_cost)只是一個重復的nan 。當我切換回原始數據時，網絡運行良好，並生成合適的函數。

謝謝您的任何想法！

Answer 1

NaN可能由許多因素引起，通常是某種形式的數值不穩定。 降低學習率或使用更穩定的優化器是不錯的嘗試。