Senior Azure DevOps Engineer – GenAI / LLMOps
Senior Azure DevOps Engineer – GenAI / LLMOps
Senior Azure DevOps Engineer – GenAI / LLMOps
Senior Azure DevOps Engineer – GenAI / LLMOps
PROSTAFF Schweiz GmbH
Informationsdienste
Zürich
- Art der Beschäftigung: Vollzeit
- Vor Ort
Senior Azure DevOps Engineer – GenAI / LLMOps
Über diesen Job
Für unseren Kunden aus dem Finanzdienstleistungsumfeld suchen wir einen erfahrenen Azure DevOps Engineer für den Aufbau, Betrieb und die Weiterentwicklung einer unternehmensweiten Generative-AI-Plattform.
-
Aufbau und Betrieb einer skalierbaren GenAI-Plattform auf Microsoft Azure
-
Konfiguration und Verwaltung von Azure-Diensten wie API Management, AKS, Azure OpenAI, AI Search, Document Intelligence und Azure AI Foundry
-
Automatisierung der Infrastruktur mittels Terraform, Helm und GitLab
-
Aufbau und Optimierung von CI/CD-Pipelines für GenAI-Anwendungen (LLMOps)
-
Implementierung von Monitoring, Logging und Alerting mit Grafana, Prometheus und Azure Monitor
-
Integration und Betrieb Kubernetes-basierter Komponenten wie Langfuse
-
Entwicklung technischer Konzepte unter Berücksichtigung von Security-, Architektur- und Compliance-Anforderungen
-
Unterstützung der Anbindung neuer Applikationen an die GenAI-Plattform
-
Entwicklung von Komponenten für Authentisierung, Routing, Monitoring und Guardrails
-
Analyse und Behebung technischer Probleme im produktiven Betrieb
-
Mehrjährige Erfahrung als DevOps Engineer im Azure-Cloud-Umfeld
-
Fundierte Kenntnisse in Git, GitLab, Docker und Terraform
-
Tiefgehende Erfahrung mit Azure API Management, AKS, Azure Functions, Azure OpenAI, AI Search, Document Intelligence, Azure AI Foundry und Storage Accounts
-
Erfahrung mit Monitoring-, Logging- und Alerting-Lösungen wie Prometheus, Grafana oder Azure Monitor
-
Gute Kenntnisse von Infrastructure as Code und CI/CD-Automatisierung
-
Erfahrung mit GenAI, RAG, Agentic AI oder LLMOps (von Vorteil)
-
Kenntnisse von Azure Entra ID, RBAC und OAuth (von Vorteil)
-
Erfahrung mit Kubernetes, Helm und Langfuse (von Vorteil)
-
Programmierkenntnisse in Python und/oder Java (von Vorteil)
-
Erfahrung in der Konzeption und Abstimmung von Cloud-Architekturen mit Security-Teams (von Vorteil)
-
Deutsch C2 und Englisch C1 (von Vorteil)