Preskoči na glavno vsebino

Novosti strojnega učenja

Znanstvena založba Nova Science Publishers iz New Yorka je nedavno izdala knjigo z naslovom Advances in Machine Learning Research (Napredek v raziskavah strojnega učenja). Tretje poglavje z naslovom  Optimization for Multi-Layer Perceptron: Without the Gradient, je plod slovenske znanosti in opisuje dve novi metodi strojnega učenja. Obe sta nadgradnja zelo uveljavljene metode Backpropagation, ki je temelj delovanja nevronskih mrež, ki so ene od najbolj razširjenih naprav na področju umetne inteligence. Novi metodi pomenita velik napredek, saj odpravljata ozko grlo umetne inteligence - izboljšujeta potek in rezultat učenja.





  
Prva metod se imenuje Bipropagation in je majnša izboljšava, ki omogoča mnogo hitrejše in bolj zanesljivo učenje. Druga metoda - Metoda mejnih parov (angleško Border Pairs Method, BPM) je povsem izvirna in ima številne prednosti pred metodo Backpropagation:

  • samodejno najde primerno zgradbo nevronske mreže (MLP),
  • vedno najde rešitev,
  • za učenje uporablja le ustrezne vzorce,
  • roji vzorce, 
  • poišče kvalitetne značilke,
  • omogoča kvalitetno razšumljanje in
  • že pred pričetkom učenja  ugotovi kako zahtevni so učni vzorci.


Čas bo pokazal kako se bodo na noviteti odzvali znanstveniki in gospodarstveniki. Prvi odzivi znanstvene skupnosti so zelo dobri. Če ti je ta sestavek všečen, klikni G+ spodaj!

  

Komentarji

Priljubljene objave iz tega spletnega dnevnika

Artificial intelligence

          Artificial intelligence (AI) is a relatively young branch of science that stirs the imagination of many. Even movie directors from hollywood are not exceptions. Development in AI area is very fast and there is no indication that this will change soon. I still remember my first contact with learning devices. This happend at the end of the last millennium when I realized neural networks (NN). They have immediately attracted my attention, because such devices were not known till then.           NN are made along the lines of mammalian brain. During the learning NN extract the essence from the data. After the learning we can ask NN questions. It gives us the right answers even to questions that during learning did not participate.  NN learns autonomously and therefore may exceed the teacher's (poeple's) knowledge. Here are some important achievements of artificial intelligence: A couple of years ago the co...

Umetna inteligenca

Umetna inteligenca (UI) je razmeroma mlada veja znanosti, ki mnogim buri domišljijo. Tudi Hollywoodski režiserji niso izjema, saj skorajda ni več znanstveno-fantastičnega filma brez pametnih naprav. Razvoj na  področju UI je zelo hiter in nič ne kaže, da se bo to kmalu spremenilo.  Dobro se še spominjam svojega prvega srečanja z napravami, ki imajo sposobnost učenja. Bilo je to konec minulega tisočletja, ko sem se seznanil z nevronskimi mrežami (NM) V hipu so pritegnile mojo pozornost navkljub dejstvu, da inteligentne naprave takrat še niso bile splošno znane in so le redki verjeli v njihovo svetlo prihodnost. NM  so narejene po vzoru možganov kakršne imamo ljudje in živali. Med samostojnim učenjem so sposobne iz kopice učnih podatkov izluščiti bistvo, zato  lahko uspešno odgovarjajo tudi na vprašanja, ki jih med učenjem niso srečale. Lahko presežejo znanje svojega  učitelja ali tudi celotnega  človeštva.  Omenimo nekatere pomembne dosežke ...

A new Deep Learning Algorithm: One-Step Method

We are living in the AI era where progress is faster and faster each and every single day. Here is another one discovery in this field: One Step Method , a new machine learning algorithm which can do many things, amongst other can replace digital circuits with neurons, can find the even better construction of neural network than Border Pairs Method. More you can find in the 3rd chapter of our book:  Machine Learning: Advances in Research and Applications  from Nova Science Publishers . This new algorithm is also suitable for Deep Learning in combination with other methods like convolutional learning, bipropagation, border pairs method, autoencoder and others.