KI-Berater — LLM-Architektur - 2-monatiger Auftrag zu 40 %, verlängerbar

Über den Job

Auftragskontext

Die Bank verfügt über ein bereits auf ihrer internen Infrastruktur betriebenes Sprachmodell (LLM). Sie sucht einen KI-Berater, der den Ist-Zustand bewertet, die Zielarchitektur definiert und die notwendigen Weiterentwicklungen zur Absicherung und Bereitstellung innerhalb der Bank umsetzt.

Der Auftrag kombiniert Beratung, Architektur und Implementierung in Zusammenarbeit mit den internen Teams und dem Offshore-IT-Team in Asien.

Verantwortlichkeiten

• Bestandsaufnahme des Modells, der On-Premise-Infrastruktur sowie der aktuellen Zugriffs- und Nutzungsmöglichkeiten.
• Identifikation von Risiken, technischen Abweichungen und Absicherungsbedarfen.
• Definition einer Architektur, die den Anforderungen des Bank-Informationssystems entspricht: Integration, Zugangskontrolle, Datenschutz, Nachvollziehbarkeit und Überwachung.
• Erstellung eines priorisierten Fahrplans für die Bereitstellung des LLM für interne Nutzer und Anwendungen.
• Umsetzung der beschlossenen Weiterentwicklungen und Begleitung der Integration ins IS.
• Koordination der Arbeiten mit dem Offshore-IT-Team in Asien sowie den Infrastruktur- und Sicherheitsansprechpartnern der Bank.
• Dokumentation der Lösung und Wissensübergabe an die für den Betrieb zuständigen Teams.

Gesuchtes Profil

• Praktische Erfahrung in der Bereitstellung und dem Betrieb von KI-Lösungen, insbesondere LLM, auf On-Premise-Infrastrukturen.
• Kompetenzen in Architektur und Integration von KI-Lösungen in bestehende Informationssysteme.
• Fundierte Kenntnisse der IT-Sicherheit: Authentifizierung, Berechtigungen, Netzwerksicherheit, Datenschutz und Protokollierung.
• Fähigkeit, sowohl Beratung, Architekturentscheidungen als auch technische Implementierung abzudecken.
• Erfahrung in der Zusammenarbeit mit internationalen oder Offshore-IT-Teams.
• Berufliches Englisch für die Kommunikation mit dem in Asien ansässigen Team.
• Erfahrung im Bankenumfeld oder in einem sicherheitskritischen Sektor ist von Vorteil.

Erwartete Ergebnisse

• Technische und sicherheitsbezogene Bestandsaufnahme der bestehenden Lösung.
• Architektur-Empfehlungen und priorisierter Aktionsplan.
• Umsetzung der vereinbarten Weiterentwicklungen zur Absicherung und internen Zugänglichmachung des Modells.
• Technische Dokumentation und Betriebshinweise.