Strani

sobota, 21. julij 2012

Artificial intelligence


          Artificial intelligence (AI) is a relatively young branch of science that stirs the imagination of many. Even movie directors from hollywood are not exceptions. Development in AI area is very fast and there is no indication that this will change soon. I still remember my first contact with learning devices. This happend at the end of the last millennium when I realized neural networks (NN). They have immediately attracted my attention, because such devices were not known till then.
   

      NN are made along the lines of mammalian brain. During the learning NN extract the essence from the data. After the learning we can ask NN questions. It gives us the right answers even to questions that during learning did not participate.  NN learns autonomously and therefore may exceed the teacher's (poeple's) knowledge. Here are some important achievements of artificial intelligence:


  • A couple of years ago the computer Deep Blue became the world champion of chess.



  • In the year 2011 a computer beat the two best human competitors on the US show Jeopardy.



  • Google already have a personal vehicle, which drives automatically on normal public roads and follows all traffic regulations.






  • Honda's famous robot ASIMO


  • Converting speech into written word and speech translation in a foreign language just experiencing a scientific breakthrough. After decades of effort machines have recorded and translated speech almost as good as the people.






And now a few words about my research work in the field of AI. I made my first research on the field of speech recognition. This is a complicated problem. I tried to find out, which NN would be suitable for the recognition of different speech voices (phonemes). I built a suitable NN and tought it to recognize syllables with the accuracy of about 95%.

My second research was on the field of robotics. I built a NN that moves the legs of a six-legged, ant-like robot. The robot can successfully overcome uneven ground and small steps.








One of the biggest problems on which I stumbled upon during the use of NN, was problematic learning. Like humans NN have problems with learning. The most known process of learning for the NN is  ‘‘Backpropagation’’. This learning process has some disadvantages. I dug into that and found a couple of ideas for improvement:

  • I have named my first improvement ‘‘Bipropagation’’. With it, I achieved a more than ten-times acceleration of learning. The learning is also more reliable. Bipropagation also solves very complex problems, where the Backpropagation method completely fails. It is a kind of a Deep learning. Demo App
  • The second improvement is called ‘‘Border Pairs Method’’ (BPM). This improvement first eliminates unimportant learning data. During the learning process, it finds the optimal construction of the NN and it doesn’t come to overfitting. After the learning, the NN answers correct all learning questions.

In essence, we could say, that the BPM method isn’t learning to memorize, but learning to understand. On top of that, the BPM method qualitatively allows us  removing of noise in the learning data, finding features and clustering. The BPM method combines the good qualities of the SVM method and Backpropagation.


In July 2014 a book entitled Advances in Machine Learning Research (Nova Publishers, New York) was published. It describes the mentioned algorithms (Bipropagation and BPM).

I’m looking forward to your response here or in our Artificial Intelligence community on the Google+.
الذكاء الاصطناعي

intelligence artificielle

intelligenza artificiale

人工知能

künstliche Intelligenz

искусственный интеллект

inteligencia artificial

sreda, 18. julij 2012

Umetna inteligenca

Umetna inteligenca (UI) je razmeroma mlada veja znanosti, ki mnogim buri domišljijo. Tudi Hollywoodski režiserji niso izjema, saj skorajda ni več znanstveno-fantastičnega filma brez pametnih naprav. Razvoj na  področju UI je zelo hiter in nič ne kaže, da se bo to kmalu spremenilo.

 Dobro še se spomnim svojega prvega srečanja z napravami, ki imajo sposobnost učenja. Bilo je to konec minulega tisočletja, ko sem se seznanil z nevronskimi mrežami (NM) V hipu so pritegnile mojo pozornost navkljub dejstvu, da inteligentne naprave takrat še niso bile splošno znane in so le redki verjeli v njihovo svetlo prihodnost. NM so narejene po vzoru možganov kakršne imamo ljudje in živali. Med samostojnim učenjem so sposobne iz kopice učnih podatkov izluščiti bistvo, zato lahko uspešno odgovarjajo tudi na vprašanja, ki jih med učenjem niso srečale. Lahko presežejo znanje svojega učitelja ali tudi celotnega človeštva. Omenimo nekatere pomembne dosežke s področja umetne inteligence:

  • Leta 1997 je računalnik Deep Blue (IBM) v šahu premagal takratnega svetovnega prvaka Garija Kasparova.



  • Leta 2011 je na znamenitem ameriškem TV kvizu Jeopardy računalnik Watson (IBM) premagal dva najboljša človeška tekmovalca vseh časov.

  • Podjetje Google testira osebno vozilo, ki samodejno vozi po običajnih javnih cestah in pri tem upošteva prometne predpise.

  • Robot ASIMO (Honda), narejen po človeški podobi hodi, prenaša predmete, se pogovarja in opravlja še marsikaj drugega. 




  •  Pretvorba govora v pisano besedo in prevajanje v govor v tujem jeziku pravkar doživlja znanstveni preboj. Po več deset letnem trudu je zdaj strojno zapisovanje in prevajanje govora primerljivo z ljudskim.


  • Guglova pametna očala (Google glass) nam na vsakem koraku omogočajo stik s svetovnim spletom. . 



  • AlphaGo je Google-ov računalnik, ki je premagal svetovnega prvaka v igri Go, ki je ena od najzahtevnejših miselnih iger na celem svetu. Ta igra ima več možnih potez kot je atomov v nam znanem vesolju. Tukaj ni klasičnih otvoritev in končnic kot pri šahu, ampak šteje le abstraktno strateško mišljenje. 

  

Po diplomi je bila UI moja študijska smer. Naj omenim nekaj svojih pomembnejših dosežkov, ki so
zaznamovali mojo znanstveno kariero :
  • Prvo raziskavo sem opravil na področju prepoznave govora še pred diplomo leta 1989. Iskal sem NM primerno za razpoznavo posameznih samoglasniških govornih glasov (fonemov). Dosegel sem približno 95% natančnost prepoznavanja. Ta tematika je zahtevna in je danes več kot dvajset let  kasneje še vedno aktualna.
  • Svojo drugo raziskavo sem opravil leta 2005 v sklopu magisterija. Načrtoval sem NM, ki skrbi za premikanje nog "šesteronožnega" robota. Robot je uspešno hodil tudi po neravnih tleh in premagoval manjše stopnice. Med raziskovalnim delom sem ugotovil kako zelo muhasto je lahko strojno učenje. 



  • V sklopu doktorata sem se poglobil v uveljavljen postopek strojnega učenja (Backpropagation) in odkril dva alternativna postopka, ki sem ju objavil na mednarodni znanstveni konferenci in v znanstveni reviji. Prvi postopek sem poimenoval Bipropagation (Portorož 2009). Z njim se občutno povečal hitrost in zanesljivost učenja. Drugi postopek se imenuje Metoda mejnih parov  (Celovec 2011). Ta postopek izloči nepomembne učne podatke,  med učenjem najde optimalno zgradbo NM in omogoča razšumljanje.
  • Na poziv znastvene založbe Nova Punblishers iz New Yorka sem napisal poglavje v knjigi z naslovom Advances in Machine Learning Research. V njej sta predstavljena oba moja algoritma za učenje nevronskih mrež MLP.   
 Umetna inteligenca prodira tudi v slovensko višje in visoko šolstvo. V študijskem letu 2012/2013 je obogatila višješolski strokovni učni program Bionika, ki se izvaja na višji strokovni šoli Ptuj. V letu 2013/2014 pa je UI oplemenitila tudi program Bionika v tehniki, Visoke šole na Ptuju.

Vabljeni v skupnost "Artificial intelligence" na portalu Google+. Prispevki v skupnost so napisani poljudno in so primerni za vse ljubitelje umetne inteligence ter znanstvenih novičk.


Spoštovani bralec vabim te, da komentiraš  in všečkaš (+1) ta blog.