Preskoči na glavno vsebino

"Globoko učenje" sta besedi, ki nas bosta zaznamovali






Pred približno 60-imi leti je luč sveta uzrla znanstvena panoga, ki danes sodi med dve najbolje financirani panogi na svetu. Govorimo o razmahu umetne inteligence. Če so v dvajsetem stoletju moč mišic nadomestili motorji, se nam obeta v 21-em stoletju nekaj podobnega, ko nas bo umetna inteligenca razbremenila umskega dela. Sprva nam bo pomagala pri bolj enostavnih in monotonih opravilih, kasneje pa bo začela dohitevati umske sposobnosti ljudi. Ko nas bo dohitevala,  bo lahko med drugim začela tudi izpopolnjevati samo sebe in nas bo zato kmalu  lahko tudi presegla. To bo eden od največjih prelomov v razvoju človeštva, ko poti nazaj ne bo več. Futurologi so to prelomno točko zgodovinskega razvoja poimenovali singularnost. Razvoj znanosti bo od tukaj šel naprej samodejno, pa če bomo ljudje to hoteli ali ne. Ker bodo postale naprave  pametnejše od nas, nam bodo lahko tudi vladale. Mnogi pisci in režiserji se lotevajo te tematike in nas opozarjajo na tovrstno potencialno nevarnost. Omenimo tukaj le enega od novejših filmov tega žanra z naslovom "Ex Machina", katerega scenarij se zdi zelo realističen.

Comp image
Pa se vrnimo iz prihodnosti nazaj v sedanjost. Današnja umetna inteligenca pozna različne naprave, ki imajo takšno sposobnost, da iz kopice učnih primerov izluščijo bistvo oziroma splošno veljavna pravila. Veljavnost teh pravil se nato lahko preveri še s testnimi primeri, ki se nekoliko razlikujejo od učnih. Sposobnost iskanja pravil oziroma znanja  z eno besedo imenujemo učenje. In če se naprava uči samostojno, brez naše pomoči, lahko kmalu njeno znanje prekaša tudi naše, ljudsko znanje. Znanih je že kar nekaj takih primerov (svetovni prvak v šahu in igri Go, avto brez voznika, zmagovalec v znamenitem TV kvizu,...).



Ene izmed najbolj znanih naprav, ki se lahko učijo, so nastale po vzoru možganov in se imenujejo nevronske mreže. Njihov razvoj poteka že več kot pol stoletja in je v tem času doživljal številne vzpone in padce. Zadnja stopnja v njihovi evoluciji se imenuje globoke nevronske mreže (deep neural networks, DNN). Pridevnik "globoke" nam sporoča, da so te nevronske mreže nekoliko bolj obsežne od svojih prednic, kar jim omogoča boljše učenje in posledično tudi globlje znanje. V zadnjih tednih znanstveniki, kar tekmujejo v objavljanju svojih dosežkov, kjer z učenjem globokih nevronskih mrež dosegajo in presegajo sposobnosti ljudskih možganov. Začelo se je s prepoznavanjem fotografij, sledilo je razumevanje govora in igranje računalniških iger.

Zanimanje javnosti in potencialnih uporabnikov za globoko učenje je ta hip zelo veliko. Vodilni znanstveniki dobivajo mamljive ponudbe za vodenje razvojnih oddelkov v tehnoloških velikanih kot sta Google (Geoffrey Hinton) in FaceBook (Yann LeCun). Nekateri znanstveniki so celo mnenja, da širša javnost trenutno pričakuje preveč v prekratkem času, kar lahko privede do razočaranja in posledično do neupravičene zaustavitve investicij. Prav tako hiter razvoj dodatno spodbuja pomisleke o negativni plati umetne inteligence, ki smo jo omenili uvodoma.

Najnovejše informacije povezane z globokim učenjem lahko najdete na posvečeni spletni strani. Tudi sam sem moje raziskovalno delo usmeril na to področje. Preveril sem moj algoritem Bipropagation v globokih nevronskih mrežah. Iskazal se je bolje od Googlovega algoritma z nazivom Avtokorelacija, saj učenje opravi hitreje in natančneje. Bralec se o tem lahko prepriča tudi sam (Matlab).

Dragi bralec vesel bom tvojega všečka, kot tudi vseh drugih oblik tvoje kritike.

Komentarji

Priljubljene objave iz tega spletnega dnevnika

Bipropagation demo in TensorFlow

Bipropagation is a new Deep Learning algorithm. It is much faster and much more reliable than Backpropagation. Here is the demo from the  ResearchGate and GitHub. Inner layers of the Neural Network have not hidden anymore. Learning is done layer by layer with much fewer iterations. Please cite me in your work.


Click the G+button if you like this demo. Any comments are desirable.

A new Deep Learning Algorithm: One-Step Method

We are living in the AI era where progres is faster and faster each and every single day. Here is another one discovery in this field: One Step Method, a new machine learning algorithm which can do many things, amongst other can replace digital circuits with neurons, can find the even better construction of neural network than Border Pairs Method. More you can find in the 3rd chapter of our book: Machine Learning: Advances in Research and Applications from Nova Science Publishers.




This new algorithm is also suitable for Deep Learning in combination with other methods like convolutional learning, bipropagation, border pairs method, autoencoder and others.

Po poteh nekega algoritma

Ko sem med raziskovanjem za potrebe podiplomskega študija dobil idejo za nov algoritem strojnega učenja, me je prevzel notranji nemir. Zaslutil sem, da sem na sledi pomembnega odkritja in v hipu sem začutil kako se mi po žilah pretaka adrenalin. Pravijo, da je raziskovalna strast lahko večja  celo od tiste hazarderske,  ki je menda zakrivila številne zgodbe iz črne kronike. No, na vso srečo pa raziskovalna strast ni povezana s tako nizkotnimi pobudami kot hazarderska. Ideji algoritma je nato sledil njegov razvoj, ki je trajal več kot leto in je bil prežet s številnimi vzponi in padci. Navidezne težavice so pogosto preraščale v težave, a na srečo se je vedno našla rešitev za njih. V meni sta se tako prepletala dvom in radost, dokler eksperimenti niso potrdili vseh mojih pričakovanj. Takrat so me preplavili prijetni občutki vznesenosti, ki bi jih lahko primerjali z nekakšno zaljubljenostjo. Ko si vznesen si stvarnost slikaš lepšo, kot je v resnici in tako sem naivno pričakoval, da bo s…