Dozenten:
Prof. Dr. Ralf Möller, PD Dr. Özgür Özcep, Dr. Mattis Hartwig

Praktikumsbetreuung:
Magnus Bender

Das Modul Intelligente Agenten (CS4514-KP12) besteht aus einer Vorlesung (CS4514-V, 6 SWS) sowie einem Projektpraktikum Information Retrieval Agents (CS4514-P, 2 SWS).

Beschreibung der Vorlesung und des Projektpraktikums:

• Bei der Vorlesung gliedert sich der Inhalt in drei Teile:
  1. Agents, Mechanisms, and Collaboration
  2. Perception of Agents (Language and Vision)
  3. Actions of Agents (Planning, Causality, and Reinforcement Learning)
• Die Vorlesung wird auf Englisch gehalten.
• Im Projektpraktikum nutzen Studierende gängige (open source) Programmiersprachen und Werkzeuge des Data Science, um die in der Vorlesung vermittelten Abstraktionen, Konzepte und Resultate in der praktischen Modellbildung und Verarbeitung von großen Datensätzen umzusetzen.

Vorbereitendes Material:

Es hat sich herausgestellt, dass nicht alle die notwendigen Vorkenntnisse aus dem Bachelor-Programm für das Modul mitbringen. Wir haben für Sie daher Material zusammengestellt, das ihnen hilft, mögliche Lücken zu beseitigen. Das Passwort für die Videos lautet: IA-WiSe-2021

• Grundlagen der Stochastik (pdf, pptx, mp4)
• Grundlagen des Lernens mit partiellen Daten: Expectation Maximization (EM) (pdf, pptx, mp4)
• Grundlagen des Information Retrievals, Dimensionsreduktion mit linearer Algebra (pdf, pptx, mp4)

Nützliche Informationsquellen könnten für Sie generell auch die folgenden Vorlesungen sein:

• Algorithmen und Datenstrukturen
• Einführung in Datenbanksysteme
• Einführung in Web und Data Science
• Informationssysteme 
• Logikprogrammierung
• Non-Standard-Datenbanken und Data-Mining

Inhalt:

Vorlesungsteil: Agents, Mechanisms, and Collaboration

• Intelligent agents and artificial intelligence (pdf,  pptx)
• Epistemic logic intro  (pdf, pptx)
• Knowledge and seeing (pdf, pptx)
• Knowledge and time (pdf, pptx)
• Dynamic epistemic logic 1 (pdf, pptx)
• Dynamic epistemic logic 2 (pdf, pptx)
• Doxastic Logic I (pdf, pptx)
• Justification Logic  (pdf, pptx)
• Knowledge Based programs (pdf, pptx)
• Game theory and social choice (pdf, pptx)
• Excursion Fourier Analysis I (pdf , pptx)
• Excursion Fourier Analysis II (Proof of Arrows Theorem) (pdf, pptx)
  
• Mechanism design, algorithmic mechanism design (pdf, pptx) 
• Agent collaboration, rules of encounter (pdf, pptx)
  

Vorlesungsteil: Perception of Agents (Language and Vision)

• Information retrieval and web-mining agents (pdf, pptx)
  
• Probabilistic dimension reduction, latent content descriptions, topic models, LDA (pdf, pptx)
• Representation learning for sequential structures, embedding spaces, word2vec, CBOW, skip-gram, hierarchical softmax, negative sampling (pdf, pptx)
  
• Multi-relational latent semantic analysis (pdf, pptx)
• Language models (1d-CNNs, RNNs, LSTMs, ELMo, Transformers, BERT, GPT-3, T5, and beyond), natural language inference and query answering, reinforcement learning (InstructGPT), in-context learning, ChatGPT (pdf, pptx)
  
• LaMDA, Grounding, embedding knowledge graphs into language models, GNNs (pdf, pptx)
  
• Vision and Language (2D-CNNs: AlexNet, ResNet / Transfer Learning / ViLBERT / CLIP) (pdf, pptx)
• Generative vision models (DALL-E and beyond) (pdf, pptx) VQ-VAE/d-VAE, DALL-E's transformer
• Summary: Agents and Perception (pdf, pptx)

Vorlesungsteil: Actions of Agents (Planning, Causality, and Reinforcement Learning)

• Intro (pdf)
• Planning and acting with deterministic models (pdf)
• Planning and acting with refinement methods (pdf)
• Planning and acting with temporal models (pdf)
• Planning and acting with nondeterministic models (pdf)
• Standard decision making (pdf)
• Planning and acting with probabilistic models (pdf)
• Advanced decision making and reinforcement learning (pdf)
• Human-aware planning (pdf)
• Intro causality (pdf)
• Causal planning (pdf)

Weiterführende Vorlesungen:

• Statistical Relational AI
• Probabilistic Differential Programming (CS5050 KP04)

Zeit und Ort:

Agents, Mechanisms, and Collaboration
Mittwochs, 14:00 - 15:30 Uhr, IFIS Seminarraum 2035, Vorlesung mit integrierten Übungen
Beginn: 19.10.2022

Agent Perception (Language and Vision)
Donnerstags, 14:15 - 15:45 Uhr, IFIS Seminarraum 2035: Vorlesung mit integrierten Übungen
Beginn: 20.10.2022

Agent Planning, Causality, and Reinforcement Learning
Freitags, 10:15 - 11:45 Uhr, IFIS Besprechungsraum 2032: Vorlesung mit integrierten Übungen
Beginn: 21.10.2022

Projektpraktikum
Freitags, 12:15 - 13:45 Uhr, IFIS Seminarraum 2035
Beginn: 21.10.2022

Voraussetzungen:

Zulassungsvoraussetzungen zum Modul: keine

Zulassungsvoraussetzungen zur Prüfung: siehe Moodle

Die Kompetenzen der folgenden Module sind für dieses Modul nützlich (keine harte Zulassungsvoraussetzung):

• Algorithmen und Datenstrukturen (CS1001)
• Einführung in die Logik (CS1002)
• Datenbanken (CS2700)
• Informationssysteme (CS4130)
• Lineare Algebra und Diskrete Strukturen I + II (MA1000, MA1500)
• Nonstandard-Datenbanekn und Data Mining (CS3130-KP08)
• Stochastik 1 (MA2510) bzw. Grundlagen der Statistik (PY1800)

Zielgruppe:

• Master Entrepreneurship in digitalen Technologien 2020 (Vertiefungsmodul), Technologiefach Informatik, Beliebiges Fachsemester
• Master Informatik 2019 (Wahlpflicht), Kanonische Vertiefung Data Science und KI, 1. oder 2. Fachsemester
• Master IT-Sicherheit 2019 (Vertiefungsmodul), Vertiefung Informatik, 1. oder 2. Fachsemester
• Master Informatik 2019 (Wahlpflicht), Vertiefungsmodule, Beliebiges Fachsemester
• Zertifikatsstudium Künstliche Intelligenz (Pflicht), Künstliche Intelligenz, 1. Fachsemester

Qualifikationsziele / Kompetenzen:

• Wissen: Studierende können die Agentenabstraktion erläutern und Informationsgewinnung im Web (web mining) als rationales Verhalten erläutern. Sie können Details der Architektur von Mining-Agenten (Ziele, Nützlichkeitswerte, Umgebungen) erläutern. Der Begriff des kooperativen und nicht-kooperativen Agenten kann durch die Studierenden im Rahmen von Entscheidungsproblemen diskutiert werden. Um Agenten mit Fähigkeiten zum Umgang mit Unsicherheiten bei der Informationsrecherche in Realweltszenarien auszustatten, können Studierende die wesentlichen Repräsentationswerkzeuge aufzeigen (z.B. Bayessche Netzwerke) und Algorithmen für Berechnungsprobleme für statische und dynamische Szenarien erläutern. Techniken zur automatischen Berechnung von verwendeten Repräsentationen und Modellen können erklärt werden. Damit Agenten mit Entscheidungs-findungskompetenz ausgestattet werden können (zum Beispiel, um festzulegen, wo weiter im Web gesucht werden soll) sind Studierende in der Lage, Entscheidungsfindungsprozesse für einfache und sequentielle Kontexte zu beschreiben und zu gestalten, so dass Szenarien beherrscht werden können, in denen die Agenten vollen oder auch nur partiellen Zugriff auf den Zustand ihres umgebenden Systems haben und den Wert von möglicherweise akquirierbaren Informationen für festgelegte Aufgaben abschätzen müssen. Studierende verfügen über Wissen zur Erläuterung der klassischen und der neueren Techniken zur zielgerichteten Anreicherung von unstrukturierten Daten mit symbolischen Beschreibungen (Multimediadaten-Interpretation, Annotation).
• Fertigkeiten: Die Studierenden sind in der Lage, für den Aufbau von Web-Recherche-Systemen geeignete Repräsentations- und Kooperationsformen für Teilprozesse bzw. Agenten auszuwählen. Auf der Basis von multimodalen Daten können die Studierenden Mining-Systeme aufbauen, um explizit gegebene Dateneinheiten (Textdokumente, relationale Daten, Bilder, Videos) auszuwerten, so dass für bestimmte Anfragekontexte nicht nur die Einheiten einfach zurückgegeben werden (oder Zeiger hierauf), sondern eine symbolische, zusammenfassende Beschreibung generiert wird (und ggf. zur sog. Annotation der Einheiten hinzugefügt wird). Insbesondere können die Studierenden auf der Basis von multimodalen Daten Mining-Systeme aufbauen, um explizit gegebene Dateneinheiten (Textdokumente, relationale Daten, Bilder, Videos) auszuwerten, so dass für bestimmte Anfragekontexte nicht nur die Einheiten einfach zurückgegeben werden (oder Zeiger hierauf), sondern eine symbolische, zusammenfassende Beschreibung generiert wird (und ggf. zur sog. Annotation der Einheiten hinzugefügt wird). Die Fertigkeiten der Studierenden umfassen auch die wettbewerbsorientierte Gestaltung von Systemen mit autonomen, von verschiedene Parteien konstruierbaren Agenten, so dass über deren Zusammenspiel ein Mehrwert erzeugt werden kann (Interaktion bzw. Kooperation von Web-Mining-Agenten). Koordinierungsprobleme und Entscheidungsprobleme in einem Multiagenten-Szenario können durch die Studierenden über den Gleichgewichts- und den Mechanismus-Begriff behandelt werden.
• Sozialkompetenz und Selbständigkeit: Studierende arbeiten in Gruppen, um Übungsaufgaben und kleine Projekte zu bearbeiten und ihre Lösungen in einem Kurzvortrag zu präsentieren. Selbständiges praktisches Arbeiten der Studierenden wird auch im zugehörenden Projektpraktikum durch die Entwicklung eines größeren Projekts mit aktuellen Programmiersprachen und Werkzeugen aus dem Bereich des Data Science gefördert.

Moodle:

Weitere Informationen sowie Materialien zur Vorlesung und Praktikum sind im Moodle zu finden.

Für den Zugriff müssen Sie sich selbst in den Kurs einschreiben.

Literatur:

• M. Hall, I. Witten and E. Frank: Data Mining: Practical Machine Learning Tools and Techniques - Morgan Kaufmann, 2011
• D. Koller, N. Friedman: Probabilistic Graphical Models: Principles and Techniques - MIT Press, 2009
• K. Murphy: Machine Learning: A Probabilistic Perspective - MIT Press, 2012
• S. Russel, P. Norvig: Artificial Intelligence: A Modern Approach - Pearson Education, 2010
• Y. Shoham, K. Leyton-Brown: Multiagent-Systems: Algorithmic, Game-Theoretic, and Logical Foundations - Cambridge University Press, 2009
• Konferenz- und Journal-Artikel zu speziellen Themen der Veranstaltung werden in der Vorlesung bekanntgegeben