FakeID

Ziel des Projektes ist es, Angriffsmöglichkeiten und Fälschungen von Bildern und Videodatenströmen unter Verwendung unterschiedlicher Arten von gefälschten Identitäten (Deep Fakes) bei bild- und videobasierten Authentifizierungsverfahren zu identifizieren, zu klassifizieren und Algorithmen zu deren Erkennung zu erarbeiten. Um Angriffsszenarien und Fälschungen erkennen und fundiert bewerten zu können, generiert das Projekt neue Erkenntnisse zu den vielfältigen Motivationen und Hintergründen (vom Betrug bis zur Manipulation politischer Entscheidungsprozesse) für das Fälschen von Bildern und Videodatenströmen, zu deren Detektion und Erklärung sowie zum Umgang von Polizeibehörden und Justiz mit solchen Angriffen und Fälschungen.

Das Fraunhofer HHI wird dabei im Wesentlichen an der technischen Umsetzung und der Entwicklung von neuen Verfahren zur Erzeugung und Detektion von Deep Fakes beitragen. Kernziel werden hier neue Detektoren sein, die Deep Fakes robust über KI-basierte Methoden erkennen und dabei zahlreiche Informationen wie mögliche Artefakte, Inkonsistenzen in Beleuchtung, Mimik, Bewegung oder vitalen Parametern wie Puls ausnutzen.

Die Entwicklung interpretierbarer Verfahren mit Erklärbarkeit der neuronalen Netz Entscheidungen soll dabei die Verwertbarkeit der Ergebnisse bei den Endanwendern erhöhen. Um die neuen Detektoren trainieren und evaluieren zu können, wird das HHI ebenfalls eine Referenzdatenbank mit Deep Fakes aufbauen. Dazu sollen sowohl existierende Datenbanken und Verfahren analysiert und genutzt, aber auch eigene verbesserte Verfahren zur Synthese und Manipulation entwickelt werden, um die Robustheit der Detektoren gegenüber zukünftigen Angriffen verbessern zu können.

• Bundesdruckerei GmbH
• Otto-von-Guericke-Universität Magdeburg
• Fraunhofer Heinrich Hertz Institut
• Hochschule für Wirtschaft und Recht Berlin
• BioID GmbH