About the Position

We are seeking a Senior Cloud Platform Engineer with extensive experience in AI and cloud technologies to join our team in Cologne, Germany.

Responsibilities

Konzeption und Entwicklung produktiver Agentic-AI-Lösungen auf Databricks und Azure, vom Prototyp bis zum skalierbaren Betrieb
Entwicklung von KI-Agenten und Multi-Agent-Workflows, die LLMs, Unternehmensdaten, APIs und interne Systeme verbinden
Umsetzung von RAG-, Tool-Calling- und Workflow-Architekturen sowie wiederverwendbarer Komponenten für Prompts, Tools, Agenten und Datenzugriffe
Integration von Azure OpenAI und weiteren Foundation Models in die Databricks-Plattform und bestehende Systemlandschaften
Aufbau von Daten- und Verarbeitungspipelines mit Python, SQL, Spark und Delta Lake
Entwicklung, Versionierung, Evaluation, Deployment und Monitoring von Modellen, Prompts und Agenten mit Databricks Mosaic AI und MLflow
Automatisierung von Prozessen mit Databricks Workflows
Gestaltung einer sicheren, skalierbaren und kosteneffizienten Azure- und Databricks-Architektur
Etablierung von CI/CD- und MLOps-Prozessen (automatisierte Tests, Deployment-Pipelines, Infrastructure as Code, Versionierung)
Aufbau von Evaluationsverfahren für KI-Anwendungen (Antwortqualität, Groundedness, Sicherheit, Latenz, Kosten, Zuverlässigkeit)
Aufbau eines nachvollziehbaren Betriebs über Unity Catalog, Secrets Management, Managed Identities, RBAC, Private Endpoints, Logging und Monitoring
Dokumentation von Architekturen, Datenflüssen, Agentenlogik, Betriebsprozessen und Security Controls zur Übergabe in den Betrieb

Mehrjährige Erfahrung als AI Engineer, ML Engineer, Data Engineer, Cloud Engineer oder in vergleichbarer Rolle
Praktische Erfahrung in der Entwicklung von LLM-Anwendungen, idealerweise mit RAG, Embeddings, Vector Search, Tool Calling oder agentenbasierten Architekturen
Sehr gute Kenntnisse in Python und SQL sowie Software-Engineering-Praktiken (Git, automatisierte Tests, Code Reviews, modulare Entwicklung)
Fundierte Databricks-Erfahrung (z. B. Spark, Delta Lake, Workflows, Unity Catalog, MLflow, Mosaic AI)
Gute Kenntnisse der Azure-Plattform, insbesondere Azure OpenAI, Managed Identities, Key Vault, Storage, Networking und Monitoring
Erfahrung in der produktiven Integration von APIs, Datenquellen und Unternehmenssystemen sowie Verständnis verteilter und ereignisgetriebener Architekturen
Praktische Erfahrung mit CI/CD, MLOps und Infrastructure as Code (z. B. GitHub Actions oder Azure DevOps, Terraform oder Bicep)
Solides Verständnis von Cloud Security, Datenschutz und AI Governance (Berechtigungskonzepte, Datenklassifizierung, sichere Modellzugriffe)
Erfahrung im Monitoring produktiver KI-Lösungen und in der systematischen Bewertung von Prompt-, Retrieval- und Agentenqualität
Fähigkeit, fachliche Anforderungen in robuste, wartbare und skalierbare Lösungen zu übersetzen
Freude an interdisziplinärer Zusammenarbeit und verständlicher Vermittlung komplexer Zusammenhänge

Erfahrung mit Agenten- und LLM-Frameworks, strukturierten Ausgaben, Guardrails und Human-in-the-Loop-Prozessen
Kenntnisse in Docker und Kubernetes sowie im Betrieb containerisierter KI-Anwendungen
Erfahrung mit Event Streaming (z. B. Azure Event Hubs, Apache Kafka)
Know-how in Kosten-, Latenz- und Skalierungsoptimierung LLM-basierter Anwendungen
Erfahrung in regulierten oder datenschutzsensiblen Umfeldern

Seniorität: Senior
Start: asap
Laufzeit: bis 31.12.2027 (Option auf Verlängerung)
Einsatzort: Köln / Remote (ca. 50 % remote, in der Regel 1–2 Tage pro Woche vor Ort im Büro Köln Rheinauhafen)
Projektsprache: Deutsch

SOLCOM GmbH is a leading company in the field of AI and cloud technologies, dedicated to delivering innovative solutions to our clients.