Systemingenieur - KI-Ingenieur (100%)

Über den Job

Wir suchen einen Systemingenieur — KI-Ingenieur, der Open-Source-Modelle und das umliegende Ökosystem in Produktionsdienste integriert, die vor Ort in unseren Rechenzentren betrieben werden.

Du wirst Teil eines erfahrenen und begeisterten Teams mit großartigem Teamgeist, in dem Wissen geteilt und nicht gehortet wird. Die Dienste sind geschäftskritisch, daher teilt sich das Team eine 24/7 Bereitschaftsschicht.

Systemingenieur - KI-Ingenieur (100%)

Was du tun wirst

Du bist für deine Lösungen von Anfang bis Ende verantwortlich — vom Verständnis des Geschäftsbedarfs bis zum Betrieb in der Produktion :

• Analysiere den Bedarf mit den Stakeholdern, hinterfrage ihn und entwickle ein Design, das unseren Vorgaben entspricht — dann implementiere, teste, dokumentiere und liefere.
• Übernimm Verantwortung über den Code hinaus: Zeitpläne, Abhängigkeiten, Kommunikation mit Stakeholdern und die damit verbundenen Entscheidungen.
• Bewerte, wähle aus und setze Open-Source-Modelle ein (LLMs, Embeddings, Reranker, Sprache) und betreibe die selbstgehosteten Inferenz-Stacks dahinter (vLLM, Ollama) mit sinnvoller Quantisierung, Batch-Verarbeitung und Modell-Routing.
• Baue die Anwendungsschicht — RAG-Pipelines, Agenten, Tool-Aufrufe, strukturierte Ausgaben — und übernimm die Verantwortung für den Datenpfad dahinter: Aufnahme, Chunking, Embeddings, Vektorspeicher, Abrufqualität.
• Erstelle Evaluations-Frameworks und Benchmarks, damit Modellentscheidungen gemessen und nicht geraten werden.
• Integriere das Ökosystem rund um die Modelle: Gateways, Orchestrierungs-Frameworks, Modell-Register, Beobachtbarkeit und Tracing.
• Optimiere Latenz, Durchsatz und GPU-Auslastung; plane Kapazitäten, Scheduling und Produktionsüberwachung — und behebe Regressionen, wenn ein Modell oder eine Version geändert wird.
• Nimm an der 24/7 Bereitschaftsschicht (Pikettdienst) des Teams teil, mit Vergütung und Freizeitausgleich — und verbessere die Runbooks, Alarmierung und Automatisierung, damit ruhige Abende die Regel und nicht die Ausnahme sind.

 Was du mitbringst

• Masterabschluss in Informatik oder vergleichbar, mit praktischer Erfahrung im Umgang mit LLM-basierten Systemen.
• Erfahrung in der Systemtechnik mit Linux und Kubernetes.
• Fundierte Python-Kenntnisse; vertraut mit Produktionspraktiken (Testing, CI/CD, Code-Review).
• Starke SQL-Kenntnisse.
• Erfahrung im Selbsthosting und Betrieb von Open-Source-Modellen.
• Grundkenntnisse in Retrieval, Embeddings und Vektordatenbanken.
• Praktisch veranlagt: keine Scheu vor dem Verkabeln eines Servers oder dem Austausch einer GPU.
• Eigenständigkeit und Verantwortungsbewusstsein — du begleitest ein Thema bis zur Auslieferung und übergibst es nicht einfach weiter.
• Bereitschaft zur Teilnahme an einer 24/7 Bereitschaftsschicht und die Gelassenheit, unter Incident-Druck methodisch zu bleiben.
• Pragmatismus im Umgang mit Open-Source-Tools — du kannst ein solides Projekt von einem gehypten unterscheiden.

Schön zu haben

• GPU-Betrieb: Treiber, CUDA, MIG, Device-Plugins, Scheduling auf Kubernetes.
• Optimierung der Inferenz (TensorRT-LLM, ONNX, spekulatives Decoding, KV-Cache-Tuning).
• Leichte Anpassungstechniken (LoRA/QLoRA-Adapter auf bestehenden Open-Source-Modellen).
• Design von Speicher- und Netzwerklösungen für KI-Workloads.
• Erfahrung mit KI-Sicherheit, Schutzmechanismen und verantwortungsvollen Deployment-Praktiken.
• Beiträge zu Open-Source-KI-Projekten.

Was wir bieten

• Freundliches und dynamisches Umfeld, in dem Proaktivität und persönliches Engagement hoch geschätzt werden.
• Wettbewerbsfähiges Gehalt und Leistungssystem, sehr attraktive Pensionskassenbedingungen.
• Flexible Arbeitszeiten mit 6 Wochen Urlaub.
• Moderner und ergonomischer Arbeitsplatz.
• Verschiedene Sozialleistungen.
• Kostenloses Mobilfunkabo und Rabatte auf unsere Produkte.
• Möglichkeit, deine Fähigkeiten und Erfahrungen in einem schnelllebigen und komplexen Telekommunikationsumfeld zu erweitern.
• Ein vollständiger Open-Source-KI-Stack, der vor Ort in unseren Rechenzentren läuft — du besitzt die Hardware, nicht die Abstraktion eines Dritten.

Hast du schon immer davon geträumt, in einem vielfältigen und erfrischenden Umfeld zu arbeiten? Dann müssen wir uns unbedingt kennenlernen. Bitte bewirb dich online (wir akzeptieren nur Online-Bewerbungen mit CV, Arbeitszeugnissen, Diplomen).