1 / 12

LENIV É UČENIE

LENIV É UČENIE. doc. Ing. Kristína Machová, CSc. k ristina. m achova @tuke.sk people.tuke.sk/kristina.machova/. O SNOVA:. Extenzionálna reprezentácia Reprezentácia a použitie Indukcia reprezentácie Algoritmus kNN Metriky podobnosti. EXTENZIONÁLNA REPREZENTÁCIA.

dacian
Download Presentation

LENIV É UČENIE

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript


  1. LENIVÉ UČENIE doc. Ing. Kristína Machová, CSc. kristina.machova@tuke.sk people.tuke.sk/kristina.machova/

  2. OSNOVA: • Extenzionálna reprezentácia • Reprezentácia a použitie • Indukcia reprezentácie • Algoritmus kNN • Metriky podobnosti

  3. EXTENZIONÁLNA REPREZENTÁCIA • Lenivé učenie učí extenzionálnu reprezentáciu • Flexibilná reprezentácia znalostí • Pojem je reprezentovaný množinou • trénovacích príkladov • Predstavuje takzvané funkcionálne učenie • Tnp = f(Ttp1, ... , TtpN) • Nezáleží na počte tried • Klasifikácia môže byť dvojtriedna aj multitriedna • Poznámka: • Tnp… trieda nového príkladu (klasifikovaného) • Ttpi... trieda i-téhotrénovacieho príkladu

  4. EXTENZIONÁLNA REPREZENTÁCIA V kontexte reprezentačných schém • REPREZENTÁCIE • Extenzionálna (vymenovaním objektov) • Intenzionálna (zovšeobecnením) I + interpreter = E • Učenie logickej reprezentácie s učiteľom • Logické konjunkcie a produkčné pravidlá • Rozhodovacie stromy a zoznamy klasi- • Učenie s prvkami kvantitatívneho ususdzovaniafikačná • Prahové pojmy a etalónyúloha • Pravdepodobnostné pojmy • Učenie bez učiteľa • Zhluky • Učenie odmenou a trestom – sekvenčná úloha

  5. REPREZENTÁCIA A POUŽITIE • Reprezentácia: Množina trénovacích príkladov spolu s informáciou o triede príkladu • Použitie: • Nový TP je klasifikovaný do triedy, ktorá sa • najčastejšie vyskytuje v jeho okolí. • Okolie príkladu je reprezentované najbližšími • susedmi. • Blízkosť je chápaná v zmysle podobnosti.

  6. NEINKREMENTÁLNA INDUKCIA • kNN – k Nearest Neighbours • Navrhnutý Mitchelom v roku 1997 • Klasifikátor uchováva v pamäti všetky • trénovacie príklady • Umožňuje multitriednu klasifikáciu • Zvláda zašumené domény

  7. ALGORITMUS kNN Klasifikácia prebieha v troch krokoch. • V cykle sa vyberie i-tý trénovací príklad z TM. • Novému príkladu sa priradí kategória k najbližších TP • Ak sú klasifikované všetky príklady, potom koniec. • Najbližší susedia sú určovaní v zmysle maximálnej • podobnosti, resp. minimálnej vzdialenosti. • V najjednoduchšom prípade (1NN) je TP priradená • kategória jedného najbližšieho suseda. • V prípade nejednoznačnosti priradenia sa rekurzívne • realizuje (k-1)NN kým nie je dosiahnutý úspech, • alebo k=1.

  8. ALGORITMUS kNN • Výpočtová náročnosť je daná počtom určovaných • podobností klasifikovaného TP k ostatným z TM. • Pamäťová náročnosť je podmienená nutnosťou • uchovávať všetky TP v pamäti. • Výskyt irelevantných atribútov (všetky sa podieľajú • na výpočte vzdialenosti) môže ovplyvniť presnosť • klasifikácie.

  9. METRIKY PODOBNOSTI Slúžia na výpočet vzdialenosti, resp. podobnosti dvoch TP, (reprezentovaných vektormi s numerickými hodnotami). Najčastejšie používané: • Kosínusová metrika podobnosti • Kosínusová metrika vzdialenosti

  10. METRIKY PODOBNOSTI Ďalšie často používané: • Euklidova metrika (metrika L2) • Druhá mocnina Euklidovej metriky

  11. METRIKY PODOBNOSTI Ďalšie metriky: • Manhattanova metrika (cityblock metrika, metrika L1) • Čebyševova metrika (maximová metrika, L∞ metrika)

  12. METRIKY PODOBNOSTI Ďalšie metriky: • Minkovského metrika (metrika L) – kde pre λ=2 • dostaneme Euklidovu a pre λ=∞Čebiševovu metriku • Canberra metrika

More Related