Im Forschungsprojekt CySAF werden zentrale Prozesse der IT-Sicherheitsbewertung im Kontext kritischer Infrastrukturen durch KI in Form großer Sprachmodelle (LLMs) unterstützt. 

Die Tätigkeit umfasst Forschungs- und Entwicklungsarbeiten zur Erklärbarkeit (XAI) LLM-gestützter Bewertungsverfahren, insbesondere die Mitwirkung an der Konzeption sowie die Implementierung und Evaluation transparenter KI-Algorithmen zur Verknüpfung von Sicherheitsanforderungen (z. B. BSI-Grundschutz) mit IT-Infrastruktur-Daten (Arbeitspaket 5) einschließlich Verfahren zur messbaren Überprüfung modellbasierter Urteile (u. a. perturbationsbasierte und spieltheoretische Attributionsverfahren). Die Umsetzung erfolgt vorrangig in Python und schließt die Integration in die bestehende Verarbeitungskette (u. a. Graphdatenbank- und GraphRAG-Anbindung des semantischen Datenmodells) ein. Im weiteren Projektverlauf kommt die Mitwirkung an der Kopplung der entwickelten Module zu einer kohärenten Systemarchitektur (Arbeitspaket 7) einschließlich Tests und Validierung hinzu. Das Erstellen von Konzepten und Modellen berücksichtigt zwingend den EU-AI Act. Die Ergebnisse werden wissenschaftlich aufbereitet und publiziert.

Es werden folgende Kenntnisse und Fähigkeiten vorausgesetzt

• Wissenschaftlicher Hochschulabschluss (Master) in Informatik oder einer verwandten Fachrichtung, 
• praktische Erfahrung im Bereich KI sowie mit transparenten KI-Ansätzen (XAI), 
• Erfahrung in der KI-Validierung,
• sehr gute Python-Kenntnisse sowie Kenntnisse in einer weiteren Programmiersprache,
• fundiertes Wissen über KI, insbesondere große Sprachmodelle (LLMs), sowie Kompetenzen über die Grenzen von KI,
• gute Kenntnisse im Bereich der Softwareentwicklung (u. a. Git, Docker, UNIX-Umgebungen),
• Grundlagen sowie erweiterte praktische Kenntnisse hinsichtlich der Anwendbarkeit von XAI,
• Integration von XAI-Verfahren in LLM-basierte Systeme,
• Bereitschaft zur wissenschaftlichen Veröffentlichung, zur Wissenschaftskommunikation und zum Transfer,
• Mitwirkung an Veröffentlichung und Mitwirken an Fachbeiträgen und öffentlichen Auftritten,
• sehr gute Kenntnisse in Deutsch und Englisch.

Wir erwarten von Ihnen

• analytische Denkweise, strukturierte Problemlösungsfähigkeit,
• Bereitschaft zur Einarbeitung in die Anforderungen Kritischer Infrastrukturen,
• hohes Maß an Teamfähigkeit, Konfliktmanagementfähigkeiten und Kommunikationskompetenzen,
• Reisebereitschaft.

Wir bieten Ihnen

• ein interessantes und anspruchsvolles Tätigkeitsfeld,
• flexible und familienfreundliche Arbeitszeiten im Rahmen der geltenden Dienstvereinbarung,
• persönliche und fachliche Entwicklungsmöglichkeiten durch gezielte Fort- und Weiterbildung,
• attraktive Sozialleistungen (betriebliche Altersvorsorge, Jahressonderzahlung, vermögenswirksame Leistungen),
• ein betriebliches Gesundheitsmanagement mit Angeboten zur betrieblichen Gesundheitsförderung sowie
• die Möglichkeit zur Nutzung eines Jobtickets.