In der Rolle als LLM Engineer sind Sie verantwortlich für die Entwicklung von Lösungen zur Integration und Optimierung von Sprachmodellen in einer innovativen Plattform. Sie bleiben stets über aktuelle Entwicklungen in der KI-Forschung informiert und unterstützen das Team bei der Bewertung der Modellqualität sowie der Effizienz. Zu Ihren Aufgaben gehört es, Trends und Fortschritte in der NLP- und KI-Forschung zu beobachten, um Innovationen aus dem Bereich der Large Language Models in das Produkt zu integrieren. Sie stellen sicher, dass LLMs im Zusammenspiel mit der Plattform produktiv bei Kunden eingesetzt werden können, sei es durch die Implementierung neuester Inferenzframeworks oder modernster Promptingtechniken. Zudem experimentieren Sie mit neuen Modellen und Architekturen, um die Leistungsfähigkeit des Chatbots zu steigern. Sie unterstützen das Team und die Kunden dabei, LLMs hinsichtlich Antwortqualität, Latenzen und Kosten zu evaluieren, indem Sie fundierte Analysen liefern und wertvolle Insights beisteuern, um optimale Entscheidungen zu treffen. Das Arbeitsumfeld ist geprägt von Innovation und Kreativität, und Sie haben die Möglichkeit, aktiv zur Digitalisierung und Transformation der Kommunikationslandschaft beizutragen.

Der ideale Kandidat bringt sehr gute Programmierkenntnisse mit und scheut sich nicht, sich mit DevOps-Themen auseinanderzusetzen. Sie leben Best Practices und haben bereits erfolgreich an Softwareprojekten gearbeitet. Teamarbeit und agile Methoden sind Ihnen vertraut. Praktische Erfahrung in der Implementierung von KI-bezogenen Funktionen in Softwareprodukten, vom Modeltraining bis zur Bereitstellung und Versionierung, ist erforderlich. Sie verfügen über Kenntnisse in Python, Microservice-Architekturen, ML-Model Serving sowie Docker. Wünschenswert sind erste Erfahrungen im kommerziellen Einsatz von Open-Source-LLMs, insbesondere in Niedriglatenzkontexten in Kombination mit SpeechToText- und TextToSpeech-Modellen. Sie sind mit den aktuellsten LLM-Technologien und -Praktiken vertraut und haben Erfahrung mit Cloud-Plattformen sowie Containerisierungstechnologien. Eine lösungsorientierte Denkweise sowie eine analytische und strukturierte Herangehensweise an Probleme sind für Sie selbstverständlich. Sie arbeiten eigenständig und haben eine Begeisterung für KI. Zudem beherrschen Sie Deutsch und Englisch in Wort und Schrift.