Aspekte eine echten Informationstheorie

1. Information Aspekte eine echtenInformationstheorie Dr. Rolf Haenni Zentrum für den wissenschaftlichen NachwuchsUniversität Konstanz Inhalt: Einführung Informationsalgebren Unsicherheit Schlussbemerkungen

2. 1. Einführung Die Welt ist voller Information

3. Widersprüchliche Information Unpräzise Information Unsichere Information Sichere Information Inhaltsleere Information Präzise Information Konsistente Information Der Mensch findet sich in einer solchen Informationsspähre gut zurecht, auch wenn Information oft widersprüchlich, unpräzis, oder unsicher ist Im Gegensatz dazu beruht die heutige Informatik oft auf der Annahme, dass Information konsistent, präzis und sicher ist

4. Bemerkungen: • Um die Informatik auf eine saubere theoretische Grundlage zu stellen, braucht es eine echte Informationstheorie • Eine solche gibt es bis heute nur Ansatzweise • Das berühmteste Beispiel ist die Informationstheorie von Shannon •  untersucht nur den Gehalt einer Information • Wesentlich allgemeiner sind die Informationsalgebren und Informationssysteme im Sinne von J. Kohlas und P.P. Shenoy (Springer 2003)

5. 2. Informationsalgebren • Information kann als Oberbegriff für Aussagen, Hinweise, Wissen, Beobachtungen, Fakten, … verstanden werden • Aus einer abstrakten Sicht bezeichnen wir eine Information oder ein Informationsstück (piece of information) mit •  “Atome” für eine echte Informationstheorie • bezeichnet die Menge aller möglichen Informationen • Das Ziel dieser Theorie ist es, die Natur (Aufbau, Struktur, Gesetze, Eigenschaften, usw.) von solchen abstrakten Informations-Objekten zu untersuchen

6. Jede Information bezieht sich auf eine bestimmte Frage-stellung, die sogenannte Domäne • bezeichnet die Menge der Informationen mit • beantwortet die mit zusammenhängenden Fragen ganz oder teilweise • bezeichnet die Menge aller möglichen Domänen • Es kann vorkommen, dass eine Domäne in einer anderen Domäne enthalten ist: • Die grösste Domäne, die sowohl in wie auch in enthalten ist, wird mit bezeichnet • Die kleinste Domäne, die sowohl wie auch enthält, wird mit bezeichnet

7. Mathematisch ausgedrückt ist ein Verbund (lattice) • Beispiel: Menge der Teilmengen von

8. Marginalisation: •  eine Information mit Domäne wird auf eine neue Domäne projeziert, wobei eine neue Information entsteht Die zwei wichtigsten Operationen für Informationen sind die Kombination und die Marginalisation: • Kombination: •  zwei Information und werden kombiniert, wobei eine neue Information entsteht •  enthält mehr Information als , dann und nur dann wenn

9. Gegeben:  verschiedene Informationen auf verschiedenen Domänen Gesucht:  die Gesamtinformation marginalisiert auf eine Domäne , für die ein besonderes Interesse besteht Das Inferenz-Problem lässt sich wie folgt formulieren: Mathematische Beschreibung einer der wesentlichen Aufgaben bzw. Fähigkeiten des menschlichen Geistes

10. F Fakten: Wissen: Gesucht: Lösung: Beispiel 1:

11. Reise nachAfrika A Raucher R Krebs K Bronchitis B Tuberkulose T Schattenauf X-Ray S Husten H Gesucht: Beispiel 2: Lösungen:

12. (A1): Kommutative Halbgruppe: (A2): Konsistenz der Domäne: (A3): Stabilität der Marginalisation: (A3): Transitivität der Marginalisation: Axiome:

13. Axiome: (fort.) (A5): Partielle Distributivität: , (A6): Idempotenz: (A7): Leere Information: Falls die oben genannten Axiome erfüllt sind, spricht man von Informationsalgebren, und das Inferenz-Problem kann dann mit lokaler Berechnung gelöst werden

14. E A B C D F G H Lokale Berechnung:

15. 3. Unsicherheit • Information ist oft mit einer bestimmten Unsicherheit behaftet • Um Unsicherheit zu modellieren, stellt die Mathematik die Wahrscheinlichkeitstheorie zu Verfügung • Eine unsichere Information kann wie folgt beschrieben werden: –  Menge von verschiedenen Interpretationen–  Wahrscheinlichkeitsverteilung über –  Abbildung von nach

16. „X ist schuldig“ „X ist unschuldig“ „X ist schuldig oder unschuldig“  leere Information • Es kann gezeigt werden, dass eine unsichere Information selbst wieder eine Information ist, und dass dabei die Axiome der Informationsalgebra erfüllt sind • Beispiel: Zeuge vor Gericht mit Alibi für Angeklagten X

17. 4. Schlussbemerkungen • Informationsalgebren bilden einen vielversprechenden Ansatz für eine echte Informationstheorie • Eine solche ist wichtig, um – das Phänomen Information besser zu verstehen – eine Antwort auf die Frage “Was ist Information” zu geben – die Informatik im Sinne einer Informationswissenschaft auf eine saubere theoretische Grundlage zu stellen – Berechnungsmethoden von allgemeiner Gültigkeit zu entwickeln