Preskoči na glavno vsebino

Po poteh nekega algoritma




   Ko sem med raziskovanjem za potrebe podiplomskega študija dobil idejo za nov algoritem strojnega učenja, me je prevzel notranji nemir. Zaslutil sem, da sem na sledi pomembnega odkritja in v hipu sem začutil kako se mi po žilah pretaka adrenalin. Pravijo, da je raziskovalna strast lahko večja  celo od tiste hazarderske,  ki je menda zakrivila številne zgodbe iz črne kronike. No, na vso srečo pa raziskovalna strast ni povezana s tako nizkotnimi pobudami kot hazarderska.
    Ideji algoritma je nato sledil njegov razvoj, ki je trajal več kot leto in je bil prežet s številnimi vzponi in padci. Navidezne težavice so pogosto preraščale v težave, a na srečo se je vedno našla rešitev za njih. V meni sta se tako prepletala dvom in radost, dokler eksperimenti niso potrdili vseh mojih pričakovanj. Takrat so me preplavili prijetni občutki vznesenosti, ki bi jih lahko primerjali z nekakšno zaljubljenostjo. Ko si vznesen si stvarnost slikaš lepšo, kot je v resnici in tako sem naivno pričakoval, da bo svetovna znanstvena javnost v hipu opazila moje odkritje in ga sprejela za svojega. Kmalu sem spoznal, da se trnova pot  algoritma šele začenja. Njegova objava v znanstveni reviji ni odmevala tako, kot sem pričakoval in želel.
    Odziv znanstvene srenje je bil sprva razmerom mlačen. Šele kakšno leto pozneje, ko me je povabila k sodelovanju založniška hiša "Nova Publishers" iz New Yorka je prišlo do preboja in je algoritem postal nekoliko bolj opažen. Takrat me je opazil tudi italjanski kolega Germano Resconi, ki je v mojem algoritmu našel rešitev za njegovega, sorodnega, pa tudi kolgi drugod so me začeli citirati.


    Pred kratkim pa so algoritem opazili tudi v znanstvenem velikanu svetovnega formata, v podjetju, ki je odkrilo osebni računalnik, ki zaposluje številne nobelovce, ki prijavi zdaleč največ patentov na celem svetu, če naštejemo le nekatere IBM-ove znamenitosti. Povabili so me, da jih obiščem in jim  svoja odkritja predstavim osebno. Takšne priložnosti seveda ne gre odkloniti, z veseljem sem se odzval njihovemu vabilu. Lepo so me sprejeli in z zanimanjem prisluhnili mojemu predavanju, ki mu je sledila še zanimiva razprava. Eden od gostiteljev mi je po predavanju zaupal, da imajo le redki njihovi gostje tako številne poslušalce. Sedaj, ko je ta pomemben dogodek za menoj, urejam vtise in z zanimanjem pričakujem odmeve.

    Dragi bralec, če te zanima področje strojnega učenja, si lahko moje algoritme ogledaš tukaj. Vesel bom morebitnih komentarjev in všečkov.


Komentarji

Priljubljene objave iz tega spletnega dnevnika

Optimization for Multi Layer Perceptron: Without the Gradient

These days, the publishing house Nova Publishers published the book, entitled Advances in Machine Learning Research. In it is a chapter entitled OPTIMIZATION FOR MULTI LAYER PERCEPTRON: WITHOUT THE GRADIENT where I describe two new algorithms for neural networks learning (Bipropagation and Border Pairs Method ). Both of them are much more powerful than their predecessors - Backpropagation algorithm. The second algorithm is among other things constructive.
Abstract of the book chapter
During the last twenty years, gradient-based methods have been primarily focused on the Feed Forward Artificial Neural Network learning field. They are the derivatives of Backpropagation method with various deficiencies. Some of these include an inability to: cluster and reduce noise, quantify data quality information, redundant learning data elimination. Other potential areas for improvement have been identified; including, random initialization of values of free parameters, dynamic learning from new da…

Three new Deep Learning Algorithms at IBM Developers Unconference 2018

I have been an invited speaker at "IBM developers conference 2018" and at "IBM research lab" which is both located in Zurich (Switzerland, Europe) where I have presented three new Deep Learning Algorithms (click to view).  One of them (Border Pairs Method) has 11 advantages over the famous Backpropagation. The audience was large, the response was good and was followed by a lively debate.