Inteligentni sistemi II

1. Inteligentni sistemi II

3. IBM Deep Blue 1997, May 6

5. IBM Watson 2011 February 16, Jeopardy

10. Lična karta predmeta • Студијски програми: ИНФОРМАТИКА • Врста и ниво студија:Дипломске академске студије, други ниво • Назив предмета: ИНТЕЛИГЕНТНИ СИСТЕМИ 2 • Наставник (Презиме, средње слово, име): Цвјетковић М. Владимир • Асистент Вишња Симић • Статус предмета: Изборни заједнички за све модуле дипломских академских студија Информатике • Број ЕСПБ: 8

11. Lična karta predmeta • Услов: Уписан одговарајући семестар, положен предмет Интелигентни системи 1 • Циљ предмета • Упознавање са концептима концептима вештачке интелигенције као и областима и техникама њихове конкретне примене. • Исход предмета • Студенти су оспособљени да идентификују проблеме вештачке интелигенције и примене разматране парадигме у њиховом решавању.

12. Lična karta predmeta • Садржај предмета • Основи вештачке интелигенције. Основни појмови и дефиниције. Историја. • Интелигентни агенти. Структура. Окружење. • Решавање проблема. Простор проблема. Претраживање простора проблема. Неинформисане и информисане методе претраживања. • Знање и расуђивање. Агенти који делују логички. Закључивање у предикатској логици првог реда. Представљање знања.

13. Lična karta predmeta • Расуђивање у условима неодређености. Пробабилистички приступ. Фази логика и друге логике. • Учење. Учење запажањем. Вештачке неуронске мреже. Бајесове мреже • Примене вештачке интелигенције. Игре. Обрада природног језика. Роботика. • Закључна разматрања.  • Имплементација алгоритама обрађених кроз теоријску наставу коришћењем програмских језика LISP и JAVA.

14. Lična karta predmeta • Литература • Russel Norvig, Peter Stuart, Artificial Intelligence: A Modern Approach, CET • Број часова активне наставе • Предавања: 2 • Вежбе: 2 • Други облици наставе: 1 • Остали часови 3 • Студијски истраживачки рад: 0 • Методе извођења наставе • Проблемски-оријентисана настава, студентска припрема семинара, практична обука, консултације. • Оцена знања (максимални број поена 100) • Предиспитне обавезе • поена • Завршни испит • поена • активност у току предавања • 6 • усмени испит • 30 • колоквијум-и • 34 • семинар-и • 30

15. Knjiga (nema je u prodaji)

16. Lična karta predmeta • Методе извођења наставе • Проблемски-оријентисана настава, студентска припрема семинара, практична обука, консултације. • Оцена знања (максимални број поена 100) • Предиспитне обавезе • активност у току предавања 4 • колоквијум-и36 • семинар-и30 • Завршни испит • усмени испит30

17. Artificial Intelligence – AI Veštačka inteligencija se bavi proučavanjem agenata koji u datom okruženju mogu da opažaju i da postupaju shodno donetim odlukama

18. 1 Uvod • Homo sapiens – razuman čovek • AI se bavi razumnim entitetima • Jedan od zadataka AI je proučavanje i izgradnja inteligentnih sistema • Zadaci AI su teški, ali za razliku od “ekvivalentnih” zadataka fizike na pr. (otkrivanje fundamentalnih zakona sveta i materije) mogućnosti za eksperimentisanje u domenu AI su daleko veće – Primer smo mi sami – ljudi, kao inteligentni sistemi • AI je zvanično nastala 1956 godine od kada potiče i sam naziv

19. Istorija • Problematika kojom se bavi AI datira još od pre više od 2000 godina • Nastanak - pronalazak savremenih digitalnih računara (1950) otvara ogromne perspektive za praktičan rad u ovoj oblasti • Neke od oblasti koje obuhvata AI danas su opažanje, logičko zaključivanje, šah, dokazivanje teorema, sastavljanje teksta, dijagnoza bolesti i dr. • Dostignuća AI u ovim oblastima se mogu koristiti u raznim drugim oblastima i obrnuto, pa se može reći da AI predstavlja univerzalno polje – oblast.

20. Definicije AI

21. Kriterijum inteligentnog ponašanja veštačkog sistema: Turing Test predlog • Procesiranje / obrada prirodnog, govornog jezika za uspešno komuniciranje veštačkog sistema sa ljudskim bićem • Predstavljanje i trajno čuvanje znanja potrebnog za verbalnu komunikaciju kao i odgovarajućih podataka koji predstavljaju sadržaj komunikacije u oba smera • Automatsko rezonovanje koje koristi predstavljeno znanje kao i podatke koji predstavljaju sadržaj verbalne komunikacije za odgovor na pitanja i dobijanje novih zaključaka • Mašinsko učenje za prilagođavanje novim okolnostima, kao i za otkrivanje i primenu unapred definisanih šablona ponašanja • Kompjutersko viđenje za opažanje objekata u okolini od značaja • Robotika za kretanje agenta kroz fizičko okruženje

22. Ljudsko mišljenje: Modelovanje sa aspekta kognitivnog – saznajnog pristupa • Postoje dva osnovna načina kako se u principu mogu utvrditi procesi koji se dešavaju pri prešavanju problema: • Introspekcija ili izveštaj eksperta koji rešava neki problem • Eksperiment u kome se se to utvrđuje na objektivan način • Ako program AI na osnovu toga rešava neki problem slično čoveku, sa sličnim rezultatima, onda se može reći da program na neki način imitira ljudsko mišljenje

23. GPS, the "General Problem Solver“ili po “naški” Opšti “rešavač” problema • Newell and Simon, 1961 su osim testiranja rešavanja problema, takođe poredili kako njihov program rešava problem, koje postupke koristi u odnosu na postupke ljudi koji rešavaju isti problem -reasoning trace • Drugačiji pristup je imao Wang (I960) koji je obraćao pažnju samo na rezultate rada programa, a ne i na postupke kako dolazi do rezultata • cognitive science spaja modele AI sa rezultatima eksperimenata iz psihologije o ljudima i životinjama

24. Logično mišljenje: principi pristupa baziranog na mišljenju • Grčki filozof Aristotel je formulisao pravila zaključivanja – logičkog mišljenja pod nazivom silogizmi • Logički zaključak se izvodi iz premisa: • Sokrat je čovek • Ljudi su smrtni • Zaključak: • Sokrat je smrtan • Aristotelovi zakoni logičkog mišljenja su podstakli nastanak i razvoj logike

25. Razumno ponašanje: pristup sa aspekta razumnog agenta • Razumno delovanje je delovanje kojim se ostvaruju zadati ciljevi na osnovu ubeđenja – znanja o nečemu – o problemu koji se rešava • Agent je samo sredstvo koje izvršava postupke – operacije koje proizilaze iz dobijenih zaključaka i koji vode ostvarenju zadatog cilja • Naglasak je na donošenju ispravnih odluka - zaključaka a manje na imitiranju misaonih procesa koi bi se odvijali kod čoveka koji bi rešavao takav problem

26. Osnove veštačke inteligencije • Filozofija(rođenje Platona 428 p.n.e. – do danas) • Najbolje određenje Evropske filozofske tradicije je da se sastoji od ogromnog niza referenci na Platonova dela • Značaj Platona je toliki da Alfred North Whitehead o Platonu navodi sledeće: • Oblasti kojima se Platon bavio obuhvataju politiku, matematiku, fiziku, astronomiju i nekoliko grana filozofije • Platon, njegov učitelj Sokrat i njegov učenik Aristotel, postavili su osnove čitave zapadne misli i kulture

27. Osnove veštačke inteligencije • Filozof Hubert Dreyfus (1979, p. 67) kaže da je AI nastala 450 p.n.e. Kada je Platon napisao dijalog u kome Socrat razgovara sa Euthyphro-om, i između ostalog daje opis prvog algoritma • Rene Descartes (1596-1650) definiše jasnu razliku uma i materije kroz definiciju pojma slobodne volje, nekada tako važnog pojma o kome se danas gotovo i ne razmišlja • Slobodna volja: Ako se um rukovodi isključivo fizičkim zakonima, onda slobodna volja nije ništa više od “odluke” kamena da se u slobodnom padu kreće ka centru Zemlje.

28. Osnove veštačke inteligencije • Descartes je takođe zastupao shvatanje dualizma. Tvrdio je da je deo uma (duša ili duh) van delovanja prirodnih zakona. • Sa druge strane, osećao je da životinje ne poseduju takvo svojstvo dualnosti, pa se mogu smatrati jednom vrstom mašina. • Alternativno shvatanje dualizmu je materijalistički pogled koji tvrdi da je čitav svet uključujući mozak i um određen u potpunosti fizičkim zakonima • Wilhelm Leibniz (1646-1716) prvi materijalista, sagradio je mehanički uređaj za “mišljenje”

29. Osnove veštačke inteligencije • Takođe je moguće da se usvoji i srednji stav (možda najbolji) u kome se prihvata da um ima fizičku osnovu, ali se negira da se može u potpunosti objasniti tom istom fizičkom osnovom, tj. fizičkim procesima. • Mentalni procesi i svest su deo fizičkog sveta, ali su suštinski nesaznatljivi i samim tim su izvan mogućnosti racionalnog shvatanja • Neki filozofi su kritički nastrojeni prema ideji da je um u stvari fizički uređaj koji funkcioniše samo na osnovu znanja koje sadrži

30. Osnove veštačke inteligencije • Jedan od osnivača pokreta empirizma, Francis Bacon(1561-1626)u svom delu Novum Organum, iznosi tvrđenje pod direktnim uticajem John Locke-a (1632-1704): “Nema razumevanja nečega dok to prethodno nije prošlo kroz čula • David Hume (1711-1776) U delu A Treatise of Human Nature (Diskusija o ljudskoj prirodi) govori o principu indukcije: • Opšta pravila se formiraju ponavljanjem veza između elemenata zakljčivanja- princip od posebnog ga opštem bottom up, sinteza

31. Osnove veštačke inteligencije • Bertrand Russell (1872-1970) je uveo pojam logičkog pozitivizma. Ova doktrina tvrdi da se čitavo znanje može okarakterisati ujedinjavanjem teorija što dovodi do rečima izraženog opažanja koje odgovara objektivnim podacima dobijenih sa senzora. • Confirmaciona teorija Rudolf-a Carnap-a i Carl-a Hempel-a, pokušala je da ustanovi prirodu veze između verbalno izraženog opažanja i opštih teorija sa ciljem razumevanja kako se dolazi do znanja polazeći od iskustva.

33. Osnove veštačke inteligencije • Veza između znanja i postupanja (akcije) je izražena u Aristotelovoj knjizi Nicomachean Ethics (Book III. 3, 1112b): • Naše namere se rukovode sredstvima a ne ciljevima. Lekar se ne rukovodi time da li će lečiti ili ne već kako, govornik da li će ubediti li ne već kako, državnik da li će sprovesti red i zakon ili ne već kako • Cilj se uvek prepostavlja, podrazumeva, razmišlja se o sredstvima kako doći do cilja, kako ga ostvariti, što rezultuje u nizu sredstava i postupaka, pri čemu se do početka – prvog sredstva ili postupka dolazi na kraju procesa analize • Ako se dođe do nemogućeg uslova ili akcije, odustaje se, ako ne, krajnji cilj je izvodljiv

34. Newell & Simon GPS program 1972): • Newell i Simon u svom GPS programu implementiraju pomenuti Aristotelov pristup (sa nekim manjim izmenama) nekih 2300 godina kasnije, o čemu pišu, 1972: • Osnovni metodi GPS-a zajedno otelotvoruju heuristiku analize sredstvo - cilj. Za analizu sredstvo – cilj tipičan je niz sredstava do kojih se dolazi logičkom analizom, ali koji veoma lako može postati sasvim besmislen usled mešanja suštinskog i formalnog reznovanja i značaja. • Tipičan primer je sledeći formalno logičan ali besmislen redosled zaključivanja:

35. I want to take my son to nursery school. What's the difference between what I have and what I want? One of distance. What changes distance? My automobile. My automobile won't work What is needed to make it work? A new battery. • What has new batteries? An auto repair shop. I want the repair shop to put in a new battery; but the shop doesn't know I need one. What is the difficulty? One of communication. What allows communication? A telephone . . . and so on. • Ovakav postupak može biti efikasan, ali vrlo lako može dovesti do neupotrebljivih besmislenih rešenja ako se dodatno ne ograniči

36. Matematika 800 n.e. – do danas • Filozofi su postavili najvažnije odrednice i ideje AI, ali da bi se došlo do upotrebljivih koncepata, bilo je neophodno da se izvrši matematička formalizacija u tri glavne oblasti: • Računanje, logika i verovatnoća • al-Khowarazmi, arapski matematičar preko čijih dela je u Evropu došla arapska matematika, je tvorac prvog algoritma za specifikaciju procesa računanja – osnovnih matematičkih operacija • Logika potiče od Aristotela, ali je to bio samo filozofski pojam a ne matematički, sve do XIX veka

37. Mathematics (c. 800-present) • George Boole (1815-1864) engleski matematičar, je uveo formalni jezik za logičko zaključivanje 1847. • 1879, Gottlob Frege (1848-1925) je tvorac logike koja osim nekih notacionih promena – u označavanju, predstavlja logiku prvog reda koja se danas koristi kao osnovni način predstavljanja znanja • Alfred Tarski (1902-1983) je uveo teoriju referenciranja koja pokazuje kako uspostaviti veze između logičkih pojmova – objekata, i objekata iz stvarnog - realnog sveta

38. Matematičar David Hilbert (1862-1943), je 1900, predstavio listu od 23 problema kojima će se matematičari baviti skoro čitavim narednim stolećem. • Konačni problem postavlja pitanje postojanja algoritma za određivanje istinitosti bilo kog logičkog iskaza koji sadrži prirodne brojeve, čuveni Entscheidungsproblem, ili problem odlučivanja – postojanje suštinskih, fundamentalnih ograničenja za efikasne procedure dokazivanja • Kurt Godel (1906-1978) je pokazao da postoje efikasne procedure za dokazivanje bilo kog tačnog iskaza u logici prvog reda – predikatski račun

39. Predikatski račun – logika prvog reda ne obuhvata princip matematičke indukcije koji je potreban za rad sa prirodnim brojevima • 1931, Godel je pokazao da realna ograničenja postoje. • Njegova teorema nekompletnosti pokazuje da u bilo kom jeziku koji je dovoljno izražajan da opiše svojstva prirodnih brojeva, postoje tačna tvrđenja koja se ne mogu dokazati: istinitost se ne može dokazati ni jednim algoritmom. • Ovaj fundamentalni rezultat pokazuje da postoje neke funkcije sa integer-ima koje se ne mogu predstaviti algoritmom, tj. ne mogu da se izračunaju

40. Alan Turing (1912-1954) je pokušao da odredi koje funkcije mogu da se izračunaju, što je problematično jer se pojmovi izračunavanje ili efikasna procedura ne mogu formalno definisati. • Church-Turingova teza, koja tvrdi da Turing-ova mašina (Turing, 1936) može da izračuna bilo koju izračunljivu funkciju, je generalno prihvaćena kao dovoljna definicija. • Turing je pokazao da postoje neke funkcije koje ni jedna Turing-ova mašina ne može da izračuna. • Nijedna mašina u opštem slučaju ne može da odredi da li će neki program vratiti odgovor za dati ulaz – ulazne podatke ili će raditi zauvek.

41. Osim pojmova undecidability – nemogućnost dokazivanja i noncomputability – nemogućnost izračunavanja, postoji takođe veoma važan pojam intractability – težak za kontrolu - izračunavanje • Klasa problema koja se naziva intractable, karakteriše se time da vreme potrebno za izračunavanje – rešavanje problema raste eksponencijalno sa povećavanjem dimenzije ulaznih podataka • Cobham, 1964 & Edmonds, 1965 su ukazali na razliku između polynomial and exponential porasta složenosti – eksponencijalni rast znači da se čak i za umereno veliki broj ulaznih podataka ne može doći do rezultata u razumnom vremenu • Od praktičnog značaja su samo problemi i programi sa polynomial složenošću

42. Sledeći važan koncept u teoriji složenosti je redukcija, koji se pojavio 1960s (Dantzig, 1960; Edmonds, 1962). • Reducija je opšta transformacija iz jedne klase problema u drugu, tako da se rešenja u prvoj klasi problema mogu naći redukovanjem na probleme u drugoj klasi i rešavanjem tako redukovanih problema u drugoj klasi • NP-completeness, Steven Cook (1971) and Richard Karp (1972), su pokazali postojanje velike klase problema kombinatorne pretrage i problema zaključivanja, koji su NP complete – kompletni tako da se bilo koja klasa problema koja se može svesti – redukovati na NP complete, može smatrati da je intractable – teška za izračunavanje • Iako još nije dokazano da su NP-complete problems nužno intractable, neki teoretičari smatraju suprotno

43. P (polynomial) su problemi čije se rešenje može prikazati algoritmom P složenosti – prihvatljiva složenost kod koje je broj algoritamskih koraka polinomijalna funkcija reda ulaznih podataka • NP (Non deterministic Polynomial) je klasa problema gde je poznato rešenje eksponencijalne složenosti - neprihvatljivo, ali se ne može dokazati da ne postoji rešenje prihvatljive – polinomijalne složenosti • Eksponencijalna složenost rešenja je neprihvatljiva zbog uvek ograničenih resursa računara – konačna memorija i brzina rada koji su uvek nedovoljni za rešenja eksponencijalne složenosti

44. Entuzijazam u početku primene digitalnih računara na probleme AI se ubrzo susreo sa teškoćama rešavanja realnih problema za čije uspešno rešavanje postojeći računarski resursi nisu bili dovoljni a takođe su nedostajali i odgovarajuće strategije, metodologije, postupci rešavanja problema • Gerolamo Cardano (1501-1576) je prvi uveo ideju verovatnoće opisujući je preko mogućih ishoda hazardnih igara • Pre toga, ishodi hazardnih igara su smatrani voljom natprirodnih bića • Verovatnoća brzo postaje od velikog značaja za egzaktne nauke omogućavajući da se tretiraju nesigurna merenja i podaci • Pierre Fermat (1601-1665), Blaise Pascal (1623-1662), James Bernoulli (1654-1705), Pierre Laplace (1749-1827), i drugi su doprineli razvoju verovatnoće i uvođenju novih statističkih metoda

45. Od Bernoulli - a potiče alernativni pogled na verovatnoću kao subjektivna mera verovanja umesto objektivnog odnosa – količnika mogućnosti • Subjektivna mera verovanja se menja – ažurira kako se dobijaju novi podaci. • Thomas Bayes (1702-1761) je predložio pravilo za ažuriranje subjektivne verovatnoće na osnovu novih podataka (objavljeno posthumno 1763). • Bayes – ovo pravilo, i oblast Bayesian analysis, predstavljaju osnovu za savremeni pristup kod rezonovanja u sistemima AI kada je prisustna nesigurnost – neizvesnost

46. Teorija odlučivanja čiji su osnivači John Von Neumann i Oskar Morgenstern (1944), kombinuje teoriju verovatnoće sa teorijom korisnosti (koja obezbeđuje formalni kompletan okvir za specifikaciju prioriteta inteligentnih agenata) u jednu opštu teoriju koja omogućava razlikovanje dobrih – povoljnih postupaka od loših postupaka u smislu akcija – postupaka koji vode do željenih rezultata

47. Psihologija (1879 – do danas) • Za savremenu naučnu psihologiju se može reći da je nastala sa radovima Nemačkog fizičara Hermann – a von Helmholtz - a (1821-1894) i njegovog studenta Wilhelm – a Wundt - a (1832-1920). Helmholtz je primenio naučni metod na ispitivanje ljudskog vida i njegova knjiga Priručnik za fiziološku optiku se čak i danas opisuje kao jedna od najvažnijih rasprava o fizici i fiziologiji ljudskog vida do danas. • Wundt je otvorio prvu laboratoriju za eksperimentalnu psihologiju na Univerzitetu u Leipzig-u gde ispitivao misaoni proces u kontrolisanim uslovima

48. John Watson (1878-1958) and Edward Lee Thorndike (1874-1949) - behaviorist – i su se pobunili protiv subjektivizma, odbijajući bilo koju teoriju sa mentalnim procesima bez pouzdanih dokaza. • Behaviorist – i su insistirali na proučavanju samo objektivnih mera opažanja ili stimulusa kod životinja i rezultujućih odgovora – odziva. • Pojmovi kao što su znanje, uverenja, ciljevi, zaključivanje, se smatraju nenaučnom narodnom psihologijom. • Behaviorism je dosta otkrio o pacovima i golubovima, ali daleko manje o ljudima

49. Cognitive psychology sa viđenjem da mozak poseduje i obrađuje podatke / informacije se prvi put javlja u radovima William James-a (1842-1910). • 1943 Kenneth Craik je objavio “Prirodu objašnjenja”, gde se pominje nedostajuća mentalna veza između stimulus-a i odziva. Craik tvrdi da uverenja, ciljevi, zaključivanje mogu biti naučne komponente teorije ljudskog ponašanja, isto kao što su pritisak i temperatura kada se radi o gasovima uprkos njihovoj molekularnoj strukturi koju ne karakteriše ni pritisak ni temperatura. • Craik je naveo tri ključne karakteristike agenta koji se bazira na znanju

50. (1) Stimulus - ulazni podatak se mora prevesti u internu reprezentaciju • (2) Interna reprezentacija se obrađuje kognitivnim procesom što rezultuje u novoj internoj reprezentaciji • (3) Rezultujuća interna reprezentacija se prevodi u odgovarajuću akciju agenta • Objašnjenje za ovakav design agenta je da ako agent poseduje određeni model dela realnog sveta kao i svojih mogućih akcija, onda može da isproba razne alternative, zaključi koja je od njih najbolja i da reaguje na buduće situacije na najbolji način