Browsing by Subject "Sequential regression"

Now showing 1 - 2 of 2

Open Access
Recurrent neural networks based online learning algorithms for distributed systems
(Institute of Electrical and Electronics Engineers, 2018) Ergen, Tolga; Şahin, S. Onur; Kozat, S. Serdar
In this paper, we investigate online parameter learning for Long Short Term Memory (LSTM) architectures in distributed networks. Here, we first introduce an LSTM based structure for regression. Then, we provide the equations of this structure in a state space form for each node in our network. Using this form, we then learn the parameters via our Distributed Particle Filtering based (DPF) training method. Our training method asymptotically converges to the optimal parameter set provided that we satisfy certain trivial requirements. While achieving this performance, our training method only causes a computational load that is similar to the efficient first order gradient based training methods. Through real life experiments, we show substantial performance gains compared to the conventional methods.
Open Access
UKSB sinir ağları ile eksik veri kümesi üzerinde sıralı bağlanım
(IEEE, 2019-04) Şahin, Safa Onur
Bu bildiride, içerisinde eksik bilgi bulunan veri kümesinin Uzun Kısa-Soluklu Bellek (UKSB) sinir ağları ile sıralı bağlanımı çalışılmıştır. UKSB sinir ağını kullanan sıralı bağlanım uygulamalarında veri kümesi genellikle eksiksiz olarak olarak kabul edilir. Ancak, eksik veri problemi sıralı veri içeren gerçek hayat uygulamalarında sıklıkla karşılaşılan bir sorundur. Bu probleme çözüm amacıyla sunulan yöntemlerde eksik veri, sıralı verideki örüntüyü yakalayacak derecede modellenememekte ve bu yüzden yüksek performans artışları görünmemektedir. Bu bildiride, eksik veri, bağlanımı gerçekleştiren UKSB ağı tabanlı sinir ağının kendisi tarafından modellenmekte ve bağlanım sırasında üretilen bu veri kullanılmaktadır. Gerçek hayat uygulamalarından elde edilmiş sırlı veri kümeleriyle yapılan deneylerde, önerilen algoritmanın geleneksel metotlar karşısında üstün performans artışına sahip olduğu gözlemlenmiştir.