Vor 2 Tagen veröffentlicht

Master Thesis: Optimization of KV-Cache in Distributed LLMs

Master Thesis: Optimization of KV-Cache in Distributed LLMs

Master Thesis: Optimization of KV-Cache in Distributed LLMs

Master Thesis: Optimization of KV-Cache in Distributed LLMs

Siemens AG

Industrie und Maschinenbau

Garching bei München

  • Art der Anstellung: Teilzeit
  • Vor Ort
  • Zu den Ersten gehören

Master Thesis: Optimization of KV-Cache in Distributed LLMs

Über diesen Job

Mode of Employment: Fixed Term / Full- or Part-Time

Are you ready to shape the future of edge AI technologies? Join us as a Master Thesis student in GCH FL and dive into optimizing KV-Cache in Distributed LLMs, where your analysis and innovations will drive performance in new, exciting ways!

What we offer you

  • Exciting research and development projects that put your theoretical knowledge into practice
  • Individual supervision and support from experienced experts in your field
  • Access to the latest technologies, laboratories, and resources
  • Diverse opportunities to contribute your ideas and actively shape the projects
  • Excellent career opportunities through contact with potential employers
  You'll make an impact by
  • You perform a comprehensive analysis of existing Large Language Model (LLM) frameworks and approaches to identify areas for optimization
  • Following this, you evaluate and compare different optimization strategies for edge deployment to enhance system performance
  • Subsequently, you develop improvements for KV-Cache management in distributed LLMs, focusing on efficiency and scalability
  • You then implement and test these optimization approaches within edge networks to ensure they meet performance criteria
  • Finally, you contribute to the creation or extension of frameworks for distributed LLM deployment, documenting the process and results to advance edge AI technologies
 

This is how you'll win us over

  • Education: You are currently pursuing a Master's degree in Computer Science, Electrical Engineering, or a related field with a focus on AI, distributed systems, or edge computing
  • Experience and Skills:
    • Proficient in programming with Python and C++
    • Experienced in working with Linux systems and network management
    • Familiar with AI frameworks, Large Language Models, and performance optimization techniques
  • Ways of Working: You demonstrate an analytical mindset with strong problem-solving abilities, are independent in your work, and have excellent documentation and communication skills
  • Languages: Fluent in English with good communication skills in German both written and spoken
 

You are much more than your qualifications, and we believe in the potential of every single candidate. We look forward to getting to know you!

Your individual personality and perspective are important to us. We create a working environment that reflects the diversity of the society and support you in your personal and professional development. Let’s get to know your authentic personality and create a better future together with us. As an equal-opportunity employer we are happy to consider applications from individuals with disabilities.

  About Us

The world never stands still. And new challenges arise every day. With a passion for questioning things, for supplying ideas, and intelligently driving things forward we are helping society move towards a smarter tomorrow. Be it with technologies that reduce carbon emissions in cities or hyperintelligent robots. This is how we are able, to tackle the most important projects and push them forward together. Help us shape the future.

 

www.siemens.de/careers – if you would like to find out more about jobs & careers at Siemens.

FAQ – if you need further information on the application process.

#sagthesisConducting

Ähnliche Jobs

Working Student | Data Analyst - Corporate Audit (m/f/d)

München

TRATON

Gestern veröffentlicht

Working Student | Data Analyst - Corporate Audit (m/f/d)

München

TRATON

Gestern veröffentlicht

Master Thesis - Machine Learning based DVP Prediction for Resource Allocation

Garching bei München

Siemens AG

Vor 10 Tagen veröffentlicht

Master Thesis - Machine Learning based DVP Prediction for Resource Allocation

Garching bei München

Siemens AG

Vor 10 Tagen veröffentlicht

Bachelorarbeit oder Masterarbeit (w/m/d) Automatisierte Konfiguration modularer Anlagen im 3D-Raum mittels KI-Methoden

München

Siemens AG

Vor 2 Tagen veröffentlicht

Bachelorarbeit oder Masterarbeit (w/m/d) Automatisierte Konfiguration modularer Anlagen im 3D-Raum mittels KI-Methoden

München

Siemens AG

Vor 2 Tagen veröffentlicht

Intern/Working Student - Machine Learning

München

Omnisent

Vor über 30 Tagen veröffentlicht

Intern/Working Student - Machine Learning

München

Omnisent

Vor über 30 Tagen veröffentlicht

Unternehmens-Details

company logo

Siemens AG

Industrie und Maschinenbau

10.001 oder mehr Mitarbeitende

München, Deutschland

Bewertung von Mitarbeitenden

Vorteile für Mitarbeitende

Flexible Arbeitszeiten
Home-Office
Kantine
Restaurant-Tickets
Kinderbetreuung
Betriebliche Altersvorsorge
Barrierefreiheit
Gesundheitsmaßnahmen
Betriebsarzt
Training
Parkplatz
Günstige Anbindung
Vorteile für Mitarbeitende
Firmenwagen
Smartphone
Gewinnbeteiligung
Veranstaltungen
Privat das Internet nutzen
Hunde willkommen

Unternehmenskultur

Unternehmenskultur

5866 Mitarbeitende haben abgestimmt: Sie bewerten die Unternehmenskultur bei Siemens AG als modern.Dies stimmt ungefähr mit dem Branchen-Durchschnitt überein.

Mehr Infos anzeigen

Wir benachrichtigen Dich gern über ähnliche Jobs in Garching bei München:

Ähnliche Jobs

Working Student | Data Analyst - Corporate Audit (m/f/d)

München

TRATON

Gestern veröffentlicht

Working Student | Data Analyst - Corporate Audit (m/f/d)

München

TRATON

Gestern veröffentlicht

Master Thesis - Machine Learning based DVP Prediction for Resource Allocation

Garching bei München

Siemens AG

Vor 10 Tagen veröffentlicht

Master Thesis - Machine Learning based DVP Prediction for Resource Allocation

Garching bei München

Siemens AG

Vor 10 Tagen veröffentlicht

Bachelorarbeit oder Masterarbeit (w/m/d) Automatisierte Konfiguration modularer Anlagen im 3D-Raum mittels KI-Methoden

München

Siemens AG

Vor 2 Tagen veröffentlicht

Bachelorarbeit oder Masterarbeit (w/m/d) Automatisierte Konfiguration modularer Anlagen im 3D-Raum mittels KI-Methoden

München

Siemens AG

Vor 2 Tagen veröffentlicht

Intern/Working Student - Machine Learning

München

Omnisent

Vor über 30 Tagen veröffentlicht

Intern/Working Student - Machine Learning

München

Omnisent

Vor über 30 Tagen veröffentlicht

Bachelor- oder Master thesis - Drought Stress in oats

München

Technische Universität München

Vor über 30 Tagen veröffentlicht

Bachelor- oder Master thesis - Drought Stress in oats

München

Technische Universität München

Vor über 30 Tagen veröffentlicht

Externes Job-Angebot. Partner-Angebot

Werkstudent (m/w/d) Software Entwickler für Laser Scanner Kalibrierung mit einem Roboterarm

Unterschleißheim

wenglor MEL GmbH - Unterschleißheim

Vor 6 Tagen veröffentlicht

Externes Job-Angebot. Partner-Angebot

Werkstudent (m/w/d) Software Entwickler für Laser Scanner Kalibrierung mit einem Roboterarm

Unterschleißheim

wenglor MEL GmbH - Unterschleißheim

Vor 6 Tagen veröffentlicht

Praktikant oder Abschlussarbeit - Entwicklung von KI-Agenten für Softwareverständnis und Testautomatisierung (m/w/d)

München

Silver Atena GmbH

Vor 18 Tagen veröffentlicht

Praktikant oder Abschlussarbeit - Entwicklung von KI-Agenten für Softwareverständnis und Testautomatisierung (m/w/d)

München

Silver Atena GmbH

Vor 18 Tagen veröffentlicht

Externes Job-Angebot. Partner-Angebot

Wissenschaftlicher Mitarbeiter (m/w/d) für das Robotics Institute Germany (RIG)

München

Technische Universität München (TUM)

51.500 €61.000 €

Vor 18 Stunden veröffentlicht

Externes Job-Angebot. Partner-Angebot

Wissenschaftlicher Mitarbeiter (m/w/d) für das Robotics Institute Germany (RIG)

München

Technische Universität München (TUM)

51.500 €61.000 €

Vor 18 Stunden veröffentlicht

Dualer Masterstudent (m/w/d) - Data & AI Specialist

München

Siemens AG

Vor 17 Tagen veröffentlicht

Dualer Masterstudent (m/w/d) - Data & AI Specialist

München

Siemens AG

Vor 17 Tagen veröffentlicht

Werkstudent Construction Intelligence (m/f/d)

München

oculai

Vor 15 Tagen veröffentlicht

Werkstudent Construction Intelligence (m/f/d)

München

oculai

Vor 15 Tagen veröffentlicht

Mandatory Internship - Confidential Computing for Edge Platforms

Garching bei München

Siemens AG

Vor 11 Tagen veröffentlicht

Mandatory Internship - Confidential Computing for Edge Platforms

Garching bei München

Siemens AG

Vor 11 Tagen veröffentlicht

Master Thesis: Machine Unlearning for Digital Pathology

München

Technische Universität München

Vor 21 Tagen veröffentlicht

Master Thesis: Machine Unlearning for Digital Pathology

München

Technische Universität München

Vor 21 Tagen veröffentlicht

Promotionsstelle (100%) - Mobility Data Scientist - Verkehrssimulation für Serious Gaming

München

Technische Universität München

50.000 €63.000 €

Vor 3 Tagen veröffentlicht

Promotionsstelle (100%) - Mobility Data Scientist - Verkehrssimulation für Serious Gaming

München

Technische Universität München

50.000 €63.000 €

Vor 3 Tagen veröffentlicht