CORINNE

CORINNE

Kollaborative Schweißroboter mit menschlicher Interaktion über Gesten

CORINNE

Das Projekt CORINNE (Cobots' Relational Interface with Neuromorphic Networks and Events) zielt darauf ab, Roboter zu bauen, die (bekannte oder unbekannte) Gesten erkennen und darauf reagieren können, um mit Menschen bei Schweißaufgaben zu interagieren. Diese Technologie ermöglicht es Benutzern, intuitiv und spontan mit digitalen Schnittstellen oder Geräten zu interagieren, indem sie einfach Gesten ausführen, während die Software oder das Gerät diese Bewegungen sofort erkennt und entsprechend reagiert. fortiss setzt dabei auf einen neuromorphen Chip und eine ereignisbasierte HD-Kamera.

Projektbeschreibung

Kollaborative Roboter, oder Cobots, sind ein aktuelles Thema in der Robotik, mit beeindruckenden prognostizierten Wachstumsraten. Allerdings können herkömmliche Cobots nur vorprogrammierte Aktionen ausführen und nicht flexibel auf unerwartete Ereignisse reagieren. fortiss verfolgt daher das Ziel, Cobots beizubringen, Gesten oder Handbewegungen in Echtzeit zu erkennen. Diese Fähigkeit soll dann im Anwendungsfeld Schweißarbeit eingesetzt werden können, wobei das erlernte Wissen nicht neu beigebracht, sondern übertragen werden soll.

fortiss strebt an, einen komplexen interaktiven Schweißarbeitsprozess zusammen mit einem menschlichen Bediener zu realisieren. Hierfür werden Algorithmen für den MAiRA-Roboter von NEURA Robotics entwickelt. Diese Algorithmen nutzen einen neuartigen neuromorphen Sensor, um menschliche Gesten zu erkennen. Dadurch kann der Roboter auf intelligentem Weg komplexe Muster und Bewegungen erkennen und auf natürliche Weise mit dem Bediener interagieren sowie, auf dessen Gesten reagieren, um den Schweißprozess zu optimieren. Bezüglich des Sensors kann fortiss bereits auf Projekterfahrung zurückgreifen. Dieser basiert auf einer ereignisbasierten Kamera in HD-Auflösung, die visuelle Ereignisse (Pixeländerungen) an ein vortrainiertes neuronales Spiking-Netzwerk liefert, das auf einem neuromorphen Chip (Loihi-Forschungschip von Intel) läuft.

Die folgenden Fragestellungen sollen im Projekt erforscht und behoben werden:

  • Neue Gesten sollten während der Laufzeit auf nicht überwachte Weise in einem sogenannten kontinuierlichen Lernparadigma gelernt werden. Dies bedeutet, dass das System in der Lage sein soll, sein Wissen über gelernte Gesten ständig zu verfeinern und unbekannte Gesten selbstständig zu erkennen und zu lernen.
  • Der in diesem Projekt anvisierte Anwendungsfall umfasst mehrere Cobots, die im Laufe der Zeit verschiedenste Gesten gelernt haben. Zentrale Forschungsfrage hier ist, wie lässt sich das Wissen über eine neu erlernte Geste von einem Cobot auf die anderen übertragen, ohne dass diese ebenfalls dafür trainiert werden müssen.

Wenn Sie dieses Video aktivieren, werden Daten automatisiert an YouTube übertragen.

Copyright © NEURA Robotics GmbH

Forschungsbeitrag

Im praktischen Betrieb wird die Erkennung und das Online-Lernen von menschlichen Gesten in Schweißanwendungen durch den Einsatz eines neuromorphen visuellen Sensors folgende Anforderungen erfüllen:

  • Die Anpassung an den Nutzer erfolgt ohne umfangreiche Modelle und Trainingsdaten, was die Praxistauglichkeit erhöht und die Datenhoheit stärkt, da keine Abhängigkeit von externen Datenquellen besteht.
  • Die entwickelten KI-Algorithmen ermöglichen es, neue Gesten und Gestenkombinationen „on-the-fly“, d.h. in Echtzeit, ohne statisches Training und mit sehr wenigen Wiederholungen zu erlernen.
  • Das neue Wissen eines einzelnen Roboters kann durch föderierte Lerntechniken, die vom Projektpartner der Technischen Universität Chemnitz entwickelt wurden, direkt mit anderen Robotern geteilt werden.

Förderung

Bundesministerium für Bildung und Forschung BMBF
Künstliche Intelligenz, KI4KMU, Online-Kennung: 100655754

Projektdauer

01.04.2024 – 31.03.2026

Demonstrator

 Jules Lecomte

Ihr Kontakt

Jules Lecomte

+49 89 3603522 188
lecomte@fortiss.org

Projektpartner