Unser Kunde sucht einen erfahrenen Senior Developer Technology Engineer, der sich auf die Entwicklung von Technologien im Bereich der Windows Large Language Models (LLMs) und Generative AI konzentriert. In dieser Rolle werden Sie Teil eines dynamischen Teams und tragen zur Weiterentwicklung des Open-Source-Ökosystems bei, um Windows AI-Enthusiasten und Entwicklern innovative Modelle und Funktionen sowie eine herausragende Leistung auf RTX-Grafikkarten zu bieten. Zu Ihren Hauptaufgaben gehört die Verbesserung der Benutzererfahrung für Windows LLM & GenAI, indem Sie an der Optimierung von Open-Source-Softwareprojekten wie GGML, Llama.cpp, Ollama und ONNX Runtime arbeiten. Sie werden eng mit internen Produktteams und externen OSS-Wartenden zusammenarbeiten, um die Prioritäten für Softwareverbesserungen festzulegen. Darüber hinaus werden Sie Lösungen für lokale End-to-End-Herausforderungen bei der Bereitstellung von LLM- und Generative AI-Anwendungen entwickeln. Sie werden auch Schulungen durchführen, Beispielcode entwickeln und Präsentationen halten, um effiziente End-to-End-AI-Bereitstellungen zu fördern. Ihr Beitrag wird entscheidend sein, um die nächste Generation von GPU-Funktionen zu beeinflussen, indem Sie reale Arbeitsabläufe bereitstellen und Feedback zu den Bedürfnissen von Partnern und Kunden geben.

Der ideale Kandidat bringt mehr als 5 Jahre Berufserfahrung in der lokalen GPU-Bereitstellung, Profilierung und Optimierung mit. Ein Bachelor- oder Masterabschluss in Informatik, Ingenieurwesen oder einem verwandten Fachgebiet ist erforderlich. Sie sollten über fundierte Kenntnisse in C/C++ und Python sowie über Softwaredesign und Programmiertechniken verfügen. Erfahrung mit dem Windows-Betriebssystem ist von Vorteil. Ein tiefes theoretisches Verständnis von Transformer-Architekturen, insbesondere LLMs und Generative AI, sowie von konvolutionalen neuronalen Netzwerken wird vorausgesetzt. Erfahrungen mit Open-Source-LLM- und GenAI-Software sowie mit CUDA und der Nsight-GPU-Profilierungs- und Debugging-Suite von NVIDIA sind ebenfalls erforderlich. Ausgezeichnete Kommunikationsfähigkeiten in Englisch sowie organisatorische Fähigkeiten sind notwendig. Zudem sollten Sie über starke zwischenmenschliche Fähigkeiten verfügen und in der Lage sein, Probleme logisch zu lösen und Aufgaben zu priorisieren. Reisebereitschaft für Konferenzen und Besuche bei externen Partnern ist erforderlich.