Masterarbeit “Energieeffiziente IoT-Edge-Cloud-Kontinuum-Infrastrukturen für die dynamische KI-Dienstunterstützung”

LLMs werden zunehmend nicht nur in zentralisierten Cloud-Rechenzentren eingesetzt, sondern auch über ein mobiles und heterogenes Edge-Cloud-Kontinuum. Ihr Einsatz wird durch Anforderungen an Latenz, Datenschutz und Kosten (OpEx, CapEx) getrieben. Dennoch ist ihr Energieverbrauch in dieser verteilten Infrastruktur nach wie vor wenig verstanden und kaum gesteuert.

Diese Masterarbeit befasst sich mit der energiebewussten Ablaufplanung von LLM-Inferenz-Workloads in einem heterogenen Edge-Cloud-Kontinuum. Die Arbeit wird im Industrial IoT Lab von fortiss durchgeführt, wo bereits eine Energiebeobachtungsinfrastruktur vorhanden ist. Die Arbeit erweitert diese Infrastruktur und trägt dazu bei, die Lücke zwischen der Energiecharakterisierung auf LLM-Ebene und der Energiesteuerung auf Infrastrukturebene zu schließen – durch Platzierungs-, Routing- und Scheduling-Entscheidungen, die Inferenzqualität, Latenz und Energieeffizienz gemeinsam optimieren.

Deine Aufgabe:

Einarbeitung in LLM-Inferenz (tiny, small LLMs), Edge-Cloud-Kontinuum-Architekturen und energiebewusstes Ressourcenmanagement.
Erweiterung der bestehenden Energiebeobachtungsinfrastruktur im fortiss IIoT Lab um Energiemodelle (Kepler, Prometheus) für LLM-Inferenz-Workloads.
Integration der Energiebeobachtungsschicht mit einer SDN-Steuerungsebene zur Ermöglichung energiebewussten Traffic Engineerings sowie in den im Labor verfügbaren Netzwerk-Digital-Twin.
Entwurf und Implementierung von LLM-Inferenz-Scheduling-Strategien, die Inferenzqualität, Latenz und Energieeffizienz über verschiedene Hardware-Konfigurationen und Quantisierungsstrategien gemeinsam optimieren.
Evaluation des implementierten Frameworks anhand relevanter Benchmarks sowie Dokumentation des Designs mit Beitrag zu offenen Werkzeugen und Datensätzen.

Dein Profil:

Masterstudent/in der Informatik, Elektrotechnik, Nachrichtentechnik oder eines verwandten Fachbereichs.
Kenntnisse in maschinellem Lernen, verteilten Systemen und/oder Computernetzwerken (Kenntnisse in LLMs, Edge Computing oder Cloud-Infrastruktur sind von Vorteil).
Praktische Programmiererfahrung in Python, Java, C/C++ oder Ähnlichem.
Vertrautheit mit ML-Frameworks (z.B. PyTorch, HuggingFace) und/oder Netzwerkemulationstools ist wünschenswert.
Gute analytische Fähigkeiten und Interesse an nachhaltiger KI, Systemoptimierung und Energieeffizienz.
Sehr gute Englischkenntnisse in Wort und Schrift; Deutschkenntnisse sind von Vorteil.

Unser Angebot:

Ein spannendes und innovatives offenes Forschungsumfeld im Rahmen eines national geförderten F&E-Projekts.
Direkte Zusammenarbeit mit dem Schweizer Partner ZHAW und akademischen/industriellen Forschungsgruppen im Rahmen eines bilateralen CH-DE-Projekts.
Internationales, dynamisches Arbeitsumfeld mit hochqualifizierten und motivierten Kolleginnen und Kollegen.
Möglichkeit zur Veröffentlichung von Forschungsergebnissen und zur Mitwirkung an offenen Werkzeugen und Datensätzen für eine nachhaltige KI-Infrastruktur.
Hinweis: Diese Stelle für diese Masterarbeit ist unentgeltlich.

Haben wir Dein Interesse geweckt?

Dann bewirb dich bitte mit einem Motivationsschreiben, einem ausführlichen Lebenslauf und einem aktuellen Zeugnis.

Job-ID: IioT-MSC-02-2026
Kontakt: Prof. Dr. Rute Sofia personal@fortiss.org