About the Position

Cloud Engineer Data & AI*

Location: Karlsruhe, Baden-Württemberg, Deutschland
Employment Type: FULL_TIME

About the Role

Als Cloud Engineer liegt dein Schwerpunkt auf der Implementierung moderner Data- und AI-Infrastrukturen, wobei du GPU-Cluster orchestrierst, Datenplattformen strukturierst und Pipelines für ein effizientes Modell-Training sowie den stabilen Betrieb von Inferenz-Schnittstellen automatisierst.

Responsibilities

Orchestrieren von GPU-Clustern
Strukturieren von Datenplattformen
Automatisierung von Pipelines für Modell-Training und Inferenz-Schnittstellen
Konzeption von Datenplattformen, von der Storage-Architektur über Lakehouse-Formate bis zur Integration von Orchestrierung und Streaming-Komponenten
Einsatz von Tools wie Airflow, Spark on Kubernetes oder Ray und deren Integration
Sicherstellen zuverlässiger Data- und ML-Workflows in Produktion
Anwendung von Infrastructure-as-Code und GitOps
Einbindung von Sicherheit bei sensiblen Datenprodukten, von Network Policies bis zu Data Governance Anforderungen
Verantwortung für Monitoring, Incident-Handling und GPU-Kapazitätsplanung

Requirements

Fundierte Kubernetes-Erfahrung im produktiven Betrieb
Tiefe Kenntnisse im Umgang mit einem der großen Cloud-Provider (AWS, Azure, Google Cloud, StackIT)
Routinemäßiger Einsatz von Infrastructure-as-Code
Verständnis für Storage-Architekturen für unterschiedliche Workloads beim Aufbau von Datenplattformen
Erfahrung mit Workflow-Orchestrierung, Streaming, GPU-Scheduling, Model Serving und Lakehouse-Plattformen
Netzwerk-Härtung und Security Best Practices von Anfang an einbeziehen
Tägliche Nutzung von KI-Tools: Code-Assistenten und KI-basierte Automatisierung
Fähigkeit, komplexe technische Zusammenhänge auch nicht-technischen Ansprechpartner:innen zu vermitteln
Sehr gute Deutschkenntnisse (mind. C1) und gute Englischkenntnisse

Technologies Used

Cloud Providers: AWS, Azure, Google Cloud, StackIT
Tools: Terraform, ArgoCD, Helm, Cilium, Kyverno, Airflow, Spark, Kafka, Ray, Kueue, Databricks, Snowflake, dbt, Iceberg, S3, PostgreSQL, pgvector, MLflow, vLLM, KServe, Prometheus, Grafana, OpenTelemetry
Programming Languages: Python, Go

What We Offer

Möglichkeit, den technologischen Schwerpunkt jederzeit zu verlagern
Unterstützung jüngerer Kolleg:innen durch Mentoring als Expert:in im Bereich Engineering

About the Company

Join inovex GmbH as a Cloud Engineer specializing in Data & AI, where you'll implement modern infrastructures and automate workflows.

Cloud Engineer* Data & AI

Job description