19. Februar 2019
Das globale Gesundheitswesen steckt in der Krise: Im Gesundheitsbereich gibt es nicht genügend Fachkräfte für die Bewerkstelligung aller Anforderungen seitens der Patienten. Diese Situation wird zukünftig durch Bevölkerungswachstum und demografischen Wandel noch verschärft. Künstliche Intelligenz (KI) kann durch ihre Möglichkeit zur Unterstützung bei der Diagnostik die Effizienz und Qualität des Gesundheitsbereichs steigern. Allerdings muss die Sicherheit und Verlässlichkeit von KI nachgewiesen werden, bevor sie auf Patientendaten angewendet werden können. Die Fokusgruppe „AI for Health“ (FG-AI4H), eine Kollaboration der Weltgesundheitsorganisation und der Internationalen Fernmeldeunion, entwickelt gerade ein Standard-Framework innerhalb dessen KI getestet werden kann. Das Fraunhofer HHI ist an der Entwicklung dieses Frameworks maßgeblich beteiligt.
KI ist in der Lage, von digitalen Gesundheitsdaten zu lernen (z. B. von Bildern, sensorischen Messungen und elektronischen Patientenakten) und damit Fachkräfte im Gesundheitswesen bei Erkennung, Diagnose und medizinischer Entscheidungsfindung zu unterstützen. Das kann die Effizienz des Gesundheitswesens erhöhen. Allerdings sind KI-Algorithmen hochkomplex und ihre Leistung beruht auf der Qualität der Trainingsdaten. Wenn KI-Algorithmen schlecht konzipiert und/oder Trainingsdaten verzerrt oder unvollständig sind, kann es zu Irrtümern und problematischen Ergebnissen kommen. Deshalb muss eine KI, bevor sie risikolos auf digitale Gesundheitsdaten angewendet werden kann, rigoros getestet werden. Jedoch gibt es derzeit keine allgemein akzeptierte Standardmethode für die Durchführung von KI-Tests. Um diese Achillesferse des KI-Systems zu beseitigen, beteiligt sich Fraunhofer HHI an der FG-AI4H. Thomas Wiegand, Institutsleiter des Fraunhofer HHI, Professor an der TU Berlin und Leiter der Fokusgruppe, sieht das Projekt an der Schnittstelle von „Ethik, Gesundheit und Technologie”.
Die Vorgehensweise der FG-AI4H ist mehrstufig. Zunächst werden Themen (d. h. spezielle Gesundheitsprobleme) und sich darauf beziehende Daten (z. B. gekennzeichnete medizinische Bilder) ausgewählt. Die Kriterien für die Auswahl sind u.a.: Betrifft das Thema einen großen Teil der Bevölkerung? Kann das Thema von der Anwendung von KI profitieren? Stehen genügend Daten zur Verfügung (z. B. genügend Daten für das Training einer KI, genügend nicht-öffentliche Daten für das Testen der KI)? Sind die Daten von hoher Qualität und stammen sie von einer ethischen Quelle? Kommen die Daten von unterschiedlichen Quellen? Für die ausgewählten Themen werden Teams von Projektbeteiligten zusammengestellt. Bis jetzt haben sich zehn solcher Projektgruppen gebildet für die Bereiche Augenheilkunde (Diagnose von Netzhautbildern), Schlangenbissen und Schlangenidentifikation und andere. Diese Teams bündeln Expertise und Datensätze, wählen Benchmarking-Aufgaben aus und koordinieren den Benchmarking-Prozess. Für letzteren werden KI-Entwicklern Trainingsdaten zur Verfügung gestellt. Die entstehenden KI-Algorithmen werden unter Verwendung unveröffentlichter Testdaten auf der Online-Plattform der Focus Group evaluiert. Über die Leistung organisatorischen Supports für die Fokusgruppe hinaus gewährt das Fraunhofer HHI technische Unterstützung: Expertise in erklärbarer KI, KI-Evaluierungskriterien und Qualitätsmetriken sowie Gewährleistung von Datenschutz.
Obwohl FG-AI4H offiziell zwei Jahre bestehen soll (2018-2020), wird das Projekt aufgrund seiner Dynamik wahrscheinlich über 2020 hinaus andauern. Überdies werden medizinische Fachkräfte und Patienten von der Wirkkraft der entstehenden Standardisierungen weit in die Zukunft hinein profitieren.