[英]3-Layer Neural Network Getting Stuck in Local Minima
我已根据本教程在Python中编写了一个3层神经网络,用于播放Rock,Paper,剪刀,其样本数据使用-1表示岩石 , 0表示纸张 , 1表示剪刀 ,并且数组类似于在本教程中。 我的功能似乎在每次运行时都被限制在一个相对最小值中,因此我正在寻找一种补救方法。 该程序在下面。
#math module
import numpy as np
#sigmoid function converts numbers to percentages(between 0 and 1)
def nonlin(x, deriv = False):
if (deriv == True): #sigmoid derivative is just
return x*(1-x)#output * (output - 1)
return 1/(1+np.exp(-x)) #print the sigmoid function
#input data: using MOCK RPS DATA, -1:ROCK, 0:PAPER, 1:SCISSORS
input_data = np.array([[1, 1, 1],
[0, 0, 0],
[-1, -1, -1],
[-1, 1, -1]])
#also for training
output_data = np.array([[1],
[0],
[-1],
[1]])
#random numbers to not get stuck in local minima for fitness
np.random.seed(1)
#create random weights to be trained in loop
firstLayer_weights = 2*np.random.random((3, 4)) - 1 #size of matrix
secondLayer_weights = 2*np.random.random((4, 1)) - 1
for value in xrange(60000): # loops through training
#pass input through weights to output: three layers
layer0 = input_data
#layer1 takes dot product of the input and weight matrices, then maps them to sigmoid function
layer1 = nonlin(np.dot(layer0, firstLayer_weights))
#layer2 takes dot product of layer1 result and weight matrices, then maps the to sigmoid function
layer2 = nonlin(np.dot(layer1, secondLayer_weights))
#check computer predicted result against actual data
layer2_error = output_data - layer2
#if value is a factor of 10,000, so six times (out of 60,000),
#print how far off the predicted value was from the data
if value % 10000 == 0:
print "Error:" + str(np.mean(np.abs(layer2_error))) #average error
#find out how much to re-adjust weights based on how far off and how confident the estimate
layer2_change = layer2_error * nonlin(layer2, deriv = True)
#find out how layer1 led to error in layer 2, to attack root of problem
layer1_error = layer2_change.dot(secondLayer_weights.T)
#^^sends error on layer2 backwards across weights(dividing) to find original error: BACKPROPAGATION
#same thing as layer2 change, change based on accuracy and confidence
layer1_change = layer1_error * nonlin(layer1, deriv=True)
#modify weights based on multiplication of error between two layers
secondLayer_weights = secondLayer_weights + layer1.T.dot(layer2_change)
firstLayer_weights = firstLayer_weights + layer0.T.dot(layer1_change)
如您所见,此部分是涉及的数据:
input_data = np.array([[1, 1, 1],
[0, 0, 0],
[-1, -1, -1],
[-1, 1, -1]])
#also for training
output_data = np.array([[1],
[0],
[-1],
[1]])
权重在这里:
firstLayer_weights = 2*np.random.random((3, 4)) - 1 #size of matrix
secondLayer_weights = 2*np.random.random((4, 1)) - 1
似乎在前几千代之后,权重在剩下的编译过程中以最小的效率进行了校正,这使我相信它们已经达到了相对最小值,如下所示:
有什么快速有效的方法来纠正此问题?
网络的一个问题是,输出( layer2
的元素的值)只能在0到1之间变化,因为您使用的是S型非线性。 由于您的四个目标值之一是-1,最接近的可能的预测值是0,因此总会有至少25%的误差。 这里有一些建议:
对输出使用一站式编码:即具有三个输出节点( ROCK
, PAPER
和SCISSORS
,并训练网络以计算出这些输出的概率分布(通常使用softmax和交叉熵损失)。
使网络的输出层成为线性层(应用权重和偏差,但不应用非线性)。 添加另一层,或从当前输出层中消除非线性。
您可以尝试其他方法,但不太可能可靠地工作,因为实际上您是在处理分类数据,而不是连续输出:
缩放数据,以使训练数据中的所有输出都在0到1之间。
使用产生介于-1和1之间的值的非线性(例如tanh)。
每次迭代后在权重上添加一点噪音。 这样可以使您的程序脱离局部最小值并进行改进(如果可能)。 关于这一点有很多文献。 例如查看http://paper.ijcsns.org/07_book/200705/20070513.pdf 。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.