Das Unternehmen ist ein führender Full-Service-Provider für Digitalisierungsprojekte der öffentlichen Verwaltungen in Deutschland. Mit einem Team von rund 500 engagierten Kolleginnen und Kollegen gestalten wir den digitalen Wandel der Verwaltung und unterstützen unsere Kunden mit Fachkompetenz, Beratung und innovativen Lösungen. In der Rolle des KI Plattform Engineers sind Sie verantwortlich für den Aufbau und Betrieb von RAG-Chat-Lösungen sowie für die Skalierung der LLM-Plattform unter Verwendung von Technologien wie vLLM, GPUs und Kubernetes/OpenShift. Zu Ihren täglichen Aufgaben gehört die Konzeption und der Betrieb von Vektor- und NoSQL-Datenbanken sowie der Aufbau von Daten- und Analysepipelines, die Ingestion, Transformation und Anreicherung umfassen. Des Weiteren entwickeln Sie eine zentrale API für Chatbots, Browser-Erweiterungen, IDEs und Office-Anwendungen. Sie arbeiten in einem dynamischen Team, das Wert auf Zusammenarbeit und Innovation legt. Das Unternehmen bietet Ihnen die Möglichkeit, Ihre Fähigkeiten in einem spannenden Arbeitsumfeld weiterzuentwickeln und aktiv zur digitalen Transformation beizutragen.

Der ideale Kandidat bringt mehrjährige Projekterfahrung im Bereich Künstliche Intelligenz mit und hat sehr gute Kenntnisse in Python, die in produktiven KI- und Plattformprojekten angewendet wurden. Erfahrung als KI Platform Engineer oder MLOps Engineer ist ebenfalls erforderlich. Sie sollten mit dem On-Premise-Betrieb von KI- und LLM-Systemen vertraut sein und Kenntnisse in RAG-Architekturen, Vektor-Datenbanken sowie LLM-Serving (z. B. vLLM) besitzen. Zudem sind Kenntnisse in Kubernetes und Red Hat OpenShift von Vorteil. Ein hohes Maß an Eigenverantwortung, Teamfähigkeit und die Fähigkeit zur Kommunikation auf Deutsch auf C1-Niveau sind ebenfalls wichtig. Wir suchen jemanden, der proaktiv denkt und bereit ist, sich in einem sich schnell verändernden Umfeld weiterzuentwickeln.