Praktikum: Sicherheit in KI-gesteuerter Softwareentwicklung

Beschreibung
Während die Industrie zu immer ausgefeilteren KI-Entwicklungsmethoden übergeht, um den Softwareentwicklungszyklus zu beschleunigen, entstehen neue Sicherheitsherausforderungen. Wenn spezialisierte Agenten autonom Design-, Architektur- und Implementierungsentscheidungen treffen, können sie Schwachstellen einführen, wie subtile Logikfehler, übersehene Angriffsflächen oder sicherheitsrelevante Anti-Pattern, die sich im gesamten Codebestand ausbreiten. Gleichzeitig bleibt die Frage offen, wie Sicherheitspraktiken effektiv in einen agentengesteuerten Lebenszyklus integriert werden können.

Ziele
Dieses Praktikum untersucht beide Dimensionen: die Bedrohungen zu erfassen, die entstehen, wenn Agenten zur Softwareentwicklung beitragen, und zu identifizieren, wie Sicherheit in diesem neuen Paradigma sinnvoll adressiert werden kann. Es wird auf der ELCAi-Methode angewendet, einem ELCA-Ansatz für agentenbasierte Softwareentwicklung.

Folgende Aktivitäten sind vorgesehen:
•    Literaturrecherche & Kontextanalyse: Bestehende Forschung zu sicheren Softwareentwicklungslebenszyklen und KI-unterstützter Entwicklung untersuchen, um Bekanntes und Lücken zu identifizieren.
•    Bedrohungsmodellierung: Bedrohungen spezifisch für agentengesteuerte Entwicklung identifizieren und klassifizieren: verwundbare Codegenerierung, fehlerhafte Architekturentscheidungen, Manipulation von Eingaben (Prompts) und kaskadierende Fehler bei Agentenübergaben.
•    Mapping der Sicherheitsintegration: Analysieren, wie traditionelle Sicherheitspraktiken angepasst werden können, um wirksam zu bleiben, wenn Agenten beteiligt sind, und identifizieren, wo menschliche Aufsicht weiterhin kritisch ist.
•    Experimentieren & Validierung: Identifizierte Bedrohungen testen und vorgeschlagene Gegenmaßnahmen durch konkrete Szenarien validieren, mit Proof-of-Concept-Implementierungen in einer kontrollierten Umgebung.
•    Abschließende Präsentation & Wissenstransfer: Bericht und interne Präsentation mit Ergebnissen, Bedrohungstaxonomie und umsetzbaren Empfehlungen liefern.

Unser Angebot
•    Ein dynamisches Arbeits- und Kollaborationsumfeld mit einem hochmotivierten multikulturellen und internationalen Team an verschiedenen Standorten
•    Die Chance, an einem der strategisch wichtigsten und schnelllebigsten Themen der Branche zu arbeiten.
•    Monatliche After-Work-Veranstaltungen an den Standorten
•    Gute Work-Life-Balance (2 Tage pro Woche Homeoffice)

Erforderliche Fähigkeiten
•    Fundierte Kenntnisse in Cybersicherheit (Authentifizierung, Zugriffskontrolle und Autorisierung, Bedrohungsmodellierung, Security by Design usw.)
•    Allgemeines Verständnis, wie KI-Systeme funktionieren, idealerweise mit Erfahrung in großen Sprachmodellen und agentenbasierten Architekturen 
•    Einige Kenntnisse im Schreiben und Lesen von Code, insbesondere im Hinblick auf Sicherheitspraktiken