Dr. Andreas Arnold

Allgemeine Infos Dr. Arnold

Allgemeine Informationen rund um die Kurse von Dr. A. Arnold

Fachwissenschaftliches Seminar Informatik

Künstliche Intelligenz hat sich von einem akademischen Forschungsfeld zu einer zentralen Technologie für komplexe industrielle Anwendungen entwickelt.

Der erste Teil des Seminars widmet sich den methodischen Grundlagen und modernen Architekturen. Ausgehend vom Überwachten Lernen und der Funktionsweise Neuronaler Netze werden die Technologien analysiert, die den aktuellen Stand der Technik definieren: Ein zentraler Schwerpunkt liegt auf Transformer-Architekturen, welche die Basis für Large Language Models bilden. Darüber hinaus wird die Entwicklung von autonomen KI-Agenten beleuchtet, konkret unter Verwendung des Model Context Protocol (MCP).

Der zweite Teil fokussiert auf die Anwendung dieser Methoden in der industriellen Praxis. Anhand ausgewählter Anwendungsfelder wird untersucht, wie algorithmische Konzepte zur Problemlösung eingesetzt werden. Das betrachtete Spektrum reicht dabei von Predictive Maintenance über die Cybersicherheit bis hin zur Anomalieerkennung im Finanz- und Versicherungswesen. Ergänzend werden Ansätze im Ingenieurwesen betrachtet, bei denen datengetriebene Modelle mit physikalischen Gesetzmäßigkeiten kombiniert werden.

Lernziel

Die Studierenden erwerben ein tiefgehendes Verständnis für den Aufbau moderner KI-Systeme. Sie lernen, die Eignung spezifischer Algorithmen für unterschiedliche Problemklassen zu bewerten und theoretische Modelle in konkrete industrielle Anwendungen umzusetzen.

Grundlagen Künstliche Intelligenz und deren Anwendung in der IT-Sicherheit

Künstliche Intelligenz (KI) verändert die IT-Sicherheitslandschaft grundlegend – sowohl auf Angreifer- als auch auf Verteidigerseite. Besonders Große Sprachmodelle (LLMs) wie ChatGPT spielen dabei eine entscheidende Rolle als Enabler für neue Angriffsmethoden, aber auch für leistungsfähige Abwehrmechanismen. Diese Vorlesung vermittelt die Grundlagen der KI, erklärt die Mechanismen moderner Cyberangriffe und zeigt, wie LLMs für sowohl offensive als auch defensive Zwecke genutzt werden können.


Inhalt der Vorlesung im Überblick

Kapitel 1: Grundlagen der KI und Großer Sprachmodelle

Zunächst werden die grundlegenden Konzepte des Maschinellen Lernens behandelt, darunter lineare und logistische Regression, neuronale Netze und die Funktionsweise Großer Sprachmodelle. Ihr Potenzial und ihre Grenzen im Kontext der IT-Sicherheit stehen dabei im Fokus.

Kapitel 2: Grundlagen der IT-Sicherheit

Hier geht es um die zentralen Schutzziele der Informationssicherheit, Netzwerkkommunikation, Passwörter, Authentifizierung sowie die Phasen eines Hacking-Angriffs (Cyber Kill Chain). Dieses Wissen bildet die Basis für das Verständnis moderner Angriffstechniken.

Kapitel 3: Angriffe unter Verwendung eines Großen Sprachmodells

KI-gestützte Angriffe eröffnen neue Möglichkeiten für Passwort-Cracking, OSINT-Recherche, Phishing, Port-Scans sowie Schwachstellen-Exploits (SQL-Injection, XSS, Buffer Overflows). LLMs ermöglichen Angreifern eine schnellere und gezieltere Durchführung dieser Angriffe.

Kapitel 4: Abwehr von Angriffen unter Verwendung eines Großen Sprachmodells

Gegenmaßnahmen umfassen die automatisierte Code-Überprüfung, die Erkennung von Angriffen in Log-Dateien und der Einsatz von KI-gestützten Honeypots, die Angreifer täuschen und identifizieren können.

Kapitel 5: Angriffe auf Große Sprachmodelle

Auch LLMs selbst sind verwundbar. In diesem Kapitel werden Prompt Injection, Model Poisoning, Supply-Chain-Angriffe und weitere Schwachstellen untersucht, um Sicherheitsrisiken beim Einsatz von KI besser zu verstehen.

 

KI als Enabler in der IT-Sicherheit

Große Sprachmodelle haben das Potenzial, sowohl Cyberangriffe zu automatisieren und zu verbessern als auch effektive Verteidigungsstrategien zu entwickeln. Das Gleichgewicht zwischen Offensive und Defensive ist ein zentraler Punkt der Vorlesung: Wer die Angriffsseite versteht, kann bessere Schutzmechanismen aufbauen. Die Studierenden sollen dazu befähigt werden, KI nicht nur als Werkzeug, sondern auch als kritischen Sicherheitsfaktor zu begreifen und sicher einzusetzen.