Doğrusal Olmayan Kısıtlı Programlama ile Yapay Sinir Ağlarının Eğitilmesi
Bu çalışmada, ileri beslemeli yapay sinir ağının (YSA) öğrenme sürecinde doğrusal olmayan optimizasyon metodunun (spesifik olarak genelleştirilmiş indirgenmiş gradiyentler
metodunun (GİG)) kullanılabileceği gösterilmektedir. YSA’nın eğitilme problemi, sigmoidal veya hiperbolik tanjant kısıtları olan bir doğrusal olmayan optimizasyon problemi olarak tanımlanabilir. YSA’nın eğitiminde, her bir eğitim girdi vektörünün gösterdiği beklenen çıktı değeri, eğitim setinin doğrusal olmayan programlamada, her bir kısıtını oluşturmasını sağlamaktadır. Verilen bir problemde n adet patern varsa, önerilen model n adet kısıt fonksiyonu olan bir doğrusal olmayan optimizasyon modeli ortaya çıkaracaktır. Değişken değerlerinin iteratif olarak yenilenmesi kısıtların işlenmesi esnasında gerçekleşmektedir.
Önerilen yöntem veri seti (paternler) üzerinde, YSA hata geri yayılımlı algoritmasına alternatif olarak, daha az iterasyon ve ara nöron sayısında dahi kabul edilebilir öğrenme gerçekleştirmektedir. Burada önerilen yöntemin, XOR problemine uygulamasına da çalışma içinde yer verilmektedir.
In this study, it is proposed to be able to use a nonlinear GRG (Generalized Reduced
Gradient) method to train feed forward ANNs named as. The ANN training problem is written
as a general nonlinear optimization problem with nonlinear sigmoidal or hyperbolic tangent
constraints. Constraints are made up of training data in that each expected output must be
equal to its trained value. If any given problem has n data points (i.e., pattern), the technique
decomposes the problem into n constrained nonlinear programming problem. The update of
the variables are performed by executing the constraints. As an alternative to backpropogation
algorithm, even this method resulted in acceptable outputs under the condition that less
iterations and less hidden neurons for nearly learning the ANN on trained data. Here the
problem presented for proposed method is that an application of XOR problem.