Preskoči na glavno vsebino

Novosti strojnega učenja

Znanstvena založba Nova Science Publishers iz New Yorka je nedavno izdala knjigo z naslovom Advances in Machine Learning Research (Napredek v raziskavah strojnega učenja). Tretje poglavje z naslovom  Optimization for Multi-Layer Perceptron: Without the Gradient, je plod slovenske znanosti in opisuje dve novi metodi strojnega učenja. Obe sta nadgradnja zelo uveljavljene metode Backpropagation, ki je temelj delovanja nevronskih mrež, ki so ene od najbolj razširjenih naprav na področju umetne inteligence. Novi metodi pomenita velik napredek, saj odpravljata ozko grlo umetne inteligence - izboljšujeta potek in rezultat učenja.





  
Prva metod se imenuje Bipropagation in je majnša izboljšava, ki omogoča mnogo hitrejše in bolj zanesljivo učenje. Druga metoda - Metoda mejnih parov (angleško Border Pairs Method, BPM) je povsem izvirna in ima številne prednosti pred metodo Backpropagation:

  • samodejno najde primerno zgradbo nevronske mreže (MLP),
  • vedno najde rešitev,
  • za učenje uporablja le ustrezne vzorce,
  • roji vzorce, 
  • poišče kvalitetne značilke,
  • omogoča kvalitetno razšumljanje in
  • že pred pričetkom učenja  ugotovi kako zahtevni so učni vzorci.


Čas bo pokazal kako se bodo na noviteti odzvali znanstveniki in gospodarstveniki. Prvi odzivi znanstvene skupnosti so zelo dobri. Če ti je ta sestavek všečen, klikni G+ spodaj!

  

Komentarji

Priljubljene objave iz tega spletnega dnevnika

Artificial intelligence

          Artificial intelligence (AI) is a relatively young branch of science that stirs the imagination of many. Even movie directors from hollywood are not exceptions. Development in AI area is very fast and there is no indication that this will change soon. I still remember my first contact with learning devices. This happend at the end of the last millennium when I realized neural networks (NN). They have immediately attracted my attention, because such devices were not known till then.           NN are made along the lines of mammalian brain. During the learning NN extract the essence from the data. After the learning we can ask NN questions. It gives us the right answers even to questions that during learning did not participate.  NN learns autonomously and therefore may exceed the teacher's (poeple's) knowledge. Here are some important achievements of artificial intelligence: A couple of years ago the co...

Po poteh nekega algoritma

   Ko sem med raziskovanjem za potrebe podiplomskega študija dobil idejo za nov algoritem strojnega učenja, me je prevzel notranji nemir. Zaslutil sem, da sem na sledi pomembnega odkritja in v hipu sem začutil kako se mi po žilah pretaka adrenalin. Pravijo, da je raziskovalna strast lahko večja  celo od tiste hazarderske,  ki je menda zakrivila številne zgodbe iz črne kronike. No, na vso srečo pa raziskovalna strast ni povezana s tako nizkotnimi pobudami kot hazarderska.     Ideji algoritma je nato sledil njegov razvoj, ki je trajal več kot leto in je bil prežet s številnimi vzponi in padci. Navidezne težavice so pogosto preraščale v težave, a na srečo se je vedno našla rešitev za njih. V meni sta se tako prepletala dvom in radost, dokler eksperimenti niso potrdili vseh mojih pričakovanj. Takrat so me preplavili prijetni občutki vznesenosti, ki bi jih lahko primerjali z nekakšno zaljubljenostjo. Ko si vznesen si stvarnost slikaš lepšo, k...