1 / 18

Università degli studi di Padova Facoltà di Ingegneria Gestiona le

Università degli studi di Padova Facoltà di Ingegneria Gestiona le Dipartimento di tecnica e gestione dei sistemi industriali. Strumenti software per gestire i BIG DATA. Laureando: Pedassou Yao Edem Relatore: Bonollo Giuliano. Anno Accademico 2011-2012. Sommario.

dong
Download Presentation

Università degli studi di Padova Facoltà di Ingegneria Gestiona le

An Image/Link below is provided (as is) to download presentation Download Policy: Content on the Website is provided to you AS IS for your information and personal use and may not be sold / licensed / shared on other websites without getting consent from its author. Content is provided to you AS IS for your information and personal use only. Download presentation by click this link. While downloading, if for some reason you are not able to download a presentation, the publisher may have deleted the file from their server. During download, if you can't get a presentation, the file might be deleted by the publisher.

E N D

Presentation Transcript

  1. Università degli studi di Padova Facoltà di Ingegneria Gestionale Dipartimento di tecnica e gestione dei sistemi industriali Strumenti software per gestire i BIG DATA Laureando: PedassouYaoEdem Relatore: Bonollo Giuliano Anno Accademico 2011-2012

  2. Sommario • Definizione di big data • Descrizione dei processi in campo big data e i relativi problemi e criticità • Le tecnologie : Apache hadoop • Applicazioni • Prospettive e conclusioni

  3. E’ un insieme di dati talmente grande che è praticamente impossibile utilizzarli con gli strumenti tradizionali. • Definizione doppiamente inadeguata per la dimensione dei dati via via crescente e il valore di sfida che racchiude il big data

  4. PROCESSI E CRITICITÀ

  5. Dati di acquisizione e di recording • Sorgenti di generazione dei dati • Definizione dei filtri dei dati • Generazione automatica del metadata giusto • Provenienza dei dati • Estrazione dell’informazione e il data cleaning • Informazioni non inizialmente in formato strutturato pronte per l’analisi

  6. L’integrazione, l’aggregazione e la rapresentazione dei dati Ricerca di automatizazione dell’analisi dei dati rendendo l’analisi comprensibile in modo computazionale e poi risolvibile con la robotica • Elaborazione delle query, modellazione e analisi dei dati • Scaling di query complesse • Mancanza di coordianamento tra i sistemi di dati strutturati e non strutturati • Interpretazione dei dati • L’analisi deve essere reso facile al decisore • Si deve soddisfare la richiesta di precisione del decisore

  7. Le sfide • Eteregeneità • La scala • La tempestività • La privacy • La collaborazione umana

  8. Tecnologie • apache hadoop • linguaggio R • Cascading • Scribe • ElasticSearch • Apache Hbase • Apache Cassandra • MongoDB • Apache CouchDB

  9. Cos’è ? • MapReduce • Hadoop Distributed file system (HDFS) È un framework Open Source per applicazioni distribuite data-intensive • HDFS: È un software che : • memorizza i file attraverso un insieme di server in un cluster. • Rileva e compensa i problemi di hardware, di disco e guasti di server • Tolera e compensa i fallimenti del cluster

  10. MapReduce : Sistema di elaborazione parallela dei dati

  11. Fare fronte a un problema di esplosione di dati che nessun sistema preesistente era in grado di risolvere • Capace di archiviare qualsiasi tipi di dati • Prevedere uno stoccaggio a costo basso • Offre un nuovo repository dove tutti dati strutturali e complessi possono essere facilmente combinati • Scalabilità e affidabilità per l’elaborazione di algoritmi arbitrari • Compatibile con i sistemi preesistenti (database, log generator…) • Permette al DBA di ottimizzare il database • Fornire agli utenti meno tecnici informazioni sui dati (analisti..) • Guida ad una struttura incentrata sui dati

  12. Applicazioni • Applicazioni analitiche • Basate su Attributi • Attribuiscono un credito a una serie di attività (Partner di società) • Basate su predizione o previsione • Usano le tecniche statistiche e di data Mining per processi decisionali in svariati scenari di mercato • (valutazione rischi, gestione del rendimento) • Basate su approfondimento • Usano le stese tecniche della precedente ma per rilevare Comportamenti insoliti • (uso della carta di credito)

  13. Applicazioni settoriali • Finanza • Impatto su i costi, rischi, ricavi e conformità • Miglioramento dell’anlisi del profilo di clienti determinazione dell’eggibilità del capital azionario (mutui, assicurazione,credito) • Individuazione delle frodi e prevenzione di eventi futuri di frodi • Permette l’analisi del commercio

  14. Industria Manifatturiera Gestione dei servizi piu efficiente e più efficace grazie alla proliferazione dei sensori e all’ analisi di feed di dati di gran dimensione • Le Operazioni • Miglioramento del processo di post-vendita di manutenzione • Con l’aggiunta di sensori per attrezzature per fornire livello crescenti di dati sulle operazioni di manutenzione dell’apparecchiatura • Aumento della qualità complessiva del prodotto

  15. Sanità • Migliorare la qualità dei servizi sanitari e ridurre il numero di ospedalizzazioni. • Sviluppo dei farmaci : uso dei dati per fornire medicinali efficace e in tempo breve • Scambio di informazioni sulla salute

  16. Conclusioni • Nuove tecnologie come hadoop sono impiegate per affrontare le sfide di big data e fino ad oggi ci riescono abbastanza bene • Finché i Cloud Computing, l’internet ed altri generatori di dati ci sarano, i problemi dei big data sarano di attualità : • La tecnologia deve affrontare il dilemma di risolvere crescita esponenziale e continua di dati con risorse a capacità limitate e con esigenza degli utenti ancora piu accentuata • Siamoancora in fase sperimentale e di ricerca: permangono vari punti dubbi riguardo alle tecnologie, alle possibili “Killer application”, ad un utilizzo basico a livello di utenti.

  17. GRAZIE PER L’ATTENZIONE

More Related