20. Dezember 2024
Das Fraunhofer Heinrich-Hertz-Institut (HHI) und seine Partner starteten das neue Konsortialprojekt REFRAME (Flexible, resiliente und effiziente Machine-Learning-Modelle). Ziel des Projekts ist es, die Erklärbarkeit von Künstlicher Intelligenz (KI) zu verbessern und damit die Vertrauenswürdigkeit und Anwendbarkeit von KI-Systemen in sicherheitskritischen Bereichen wie der Medizin oder Mobilität zu erhöhen. Das Projekt wird vom Bundesministerium für Bildung und Forschung (BMBF) mit 1,39 Millionen Euro gefördert und läuft über einen Zeitraum von drei Jahren, seit 1. Oktober 2024 bis zum 30. September 2027.
Sogenannte „Vision Foundation Models“ (VFM) haben eine neue Ära der Innovation für Deep-Learning-Modelle eingeläutet. Diese leistungsfähigen, vortrainierten Modelle werden mit riesigen Bilddatensätzen trainiert und bilden die Grundlage für eine Vielzahl von KI-Anwendungen wie Bildklassifikation oder Objekt- und Gesichtserkennung.
Trotz ihrer beeindruckenden Leistung bleiben jedoch entscheidende Fragen zur Vertrauenswürdigkeit dieser Technologien offen. Insbesondere ist bislang unklar, wie sich die Genauigkeit und Zuverlässigkeit eines Modells verändern, wenn es außerhalb des ursprünglichen Trainingsbereichs agiert. Diese Themen müssen adressiert werden, um VFM-basierte Anwendungen in sicherheitskritischen Sektoren zuverlässig einsetzen zu können.
Das REFRAME-Team wird die Grenzen von VFM in Bezug auf Erklärbarkeit und Unsicherheitsquantifizierung untersuchen und neue Ansätze entwickeln, um die Vertrauenswürdigkeit und Transparenz dieser Modelle zu erhöhen. Ein weiterer Schwerpunkt liegt auf der Entwicklung effizienter Methoden, um die Technologie flexibel an spezielle Domänen und Aufgaben anzupassen – auch bei begrenzten Trainingsdaten.
Die Ergebnisse des Projekts werden nicht nur eine wegweisende wissenschaftliche Grundlage für die robuste und flexible Nutzung von VFM sein, sondern auch Potenzial für gesellschaftliche und wirtschaftliche Innovationen sowie neue Marktmöglichkeiten schaffen.
Neben dem Fraunhofer HHI sind das Leibniz-Institut für Agrartechnik und Bioökonomie e.V. und die Bergische Universität Wuppertal an dem Projekt beteiligt.