Abschlussarbeit (M. Sc.) | LLM Finetuning auf C/C++ Code für Fill-in-the-Middle Use-Cases

Unterstützung durch Large Language Models (LLMs) ist aus der modernen Softwareentwicklung nicht mehr wegzudenken. Sie erleichtert nicht nur die effiziente Codierung, sondern unterstützt auch bei der Einhaltung von Best Practices. Der Grad dieser Unterstützung hängt maßgeblich davon ab, wie gut das LLM die verwendete Programmiersprache, wiederkehrende Code-Patterns sowie die zugrunde liegende Problemdomäne versteht. Je nach Anwendungsbereich kann es daher sinnvoll sein, ein LLM gezielt für einen bestimmten Use Case durch Finetuning anzupassen.

Im Rahmen der Masterthesis wird das Finetuning mehrerer LLMs auf unternehmenseigenem Quellcode untersucht. Ziel ist es, die minimale Modellgröße (gemessen an der Anzahl der Parameter) zu bestimmen, bei der noch eine ausreichende Performance gewährleistet ist. Gleichzeitig soll analysiert werden, inwieweit die Anzahl der Parameter Einfluss auf die Qualität der Unterstützung hat. Im Fokus steht dabei der sogenannte Fill-in-the-Middle (FIM) Use Case – ein Trainingsansatz, bei dem das Modell lernt, fehlende Codeabschnitte zwischen einem gegebenen Anfangs- und Endsegment zu generieren.
Uns ist wichtig, dass du das Arbeiten bei Vector vor Ort kennenlernst. Um das Studium und die Arbeit unter einen Hut zu bekommen, bieten wir nach individueller Abstimmung, und abhängig von der jeweiligen Tätigkeit, auch mobiles Arbeiten an. Bitte beachte, dass reine Remote-Arbeit nicht möglich ist. Nächstmöglicher Start WiSe25/26.

Ausgezeichnete Arbeitsatmosphäre & Teamwork

Was Vector zu einem besonderen Arbeitgeber macht? Das erstklassige Betriebsklima! Bei Vector kannst du so sein, wie du wirklich bist und deine Fähigkeiten und die Freude am Teamwork voll ausleben. Vertrauen, Offenheit und gegenseitige Wertschätzung tragen dazu bei.

Spannende Projekte

Mit Leidenschaft für Software, ganz viel Kompetenz und jeder Menge Gestaltungsspielraum bringen wir die Entwicklungsprojekte unserer Kunden auf die Überholspur. Bei Vector wird die Technologie der Zukunft mitgestaltet – bringe dich ein und übernimm Verantwortung!

Entwicklung & Perspektiven

Aller Anfang ist leicht: um deinen perfekten Einstieg kümmern wir uns und bleiben danach am Ball. Für deine persönliche und fachliche Weiterentwicklung ist gesorgt, damit du dein Potenzial voll entfaltest.

Vernetzung leicht gemacht

Auf Betriebsausflügen, beim Sommerfest und der Weihnachtsfeier lernst du deine Kollegen und Kolleginnen noch besser kennen. Durch Treffen und Veranstaltungen vernetzt du dich mit den vielen Studierenden bei Vector.

Sicherheit & Sinn

Als stiftungsgeführtes Unternehmen mit grundsolider finanzieller Basis ist unsere langfristige Unabhängigkeit gewährleistet. Die Vector Stiftung fördert zudem gemeinnützige Projekte in den Bereichen Forschung, Bildung und Soziales. Nachhaltigkeit und gesellschaftliches Engagement sind uns ein Herzensanliegen.

Gesundheit & Sport

Gesundheit ist das A und O für eine hohe Lebensqualität. Das beginnt beim Essen im preisgekrönten Betriebsrestaurant, setzt sich beim höhenverstellbaren Schreibtisch fort und endet längst nicht beim Fitnessstudio zur Prävention. Gesundheits- und Entspannungskurse u.v.m. steigern ebenso dein Wohlbefinden.