AIRAmed unterstützt sichere KI-Systeme in der Medizin

D-Tübingen | Künstliche Intelligenz in der Medizin muss besonders sicher sein. Aber welche Entwicklungsvorschriften und Zertifizierungen muss es geben? Welche Grundlagen machen maschinelle Lernsysteme im Gesundheitssystem sicher?

Moderne Deep-Learning-Systeme im Gesundheitswesen haben das Potenzial, Diagnoseentscheidungen von ähnlicher Qualität wie behandelnde Ärzte zu treffen. Allerdings gibt es Bedenken hinsichtlich der Transparenz, Robustheit, Fairness und Zuverlässigkeit dieser Systeme. Das Projekt "Certification and Foundations of Safe Machine Learning Systems in Healthcare" einer Forschergruppe an der Universität Tübingen zielt darauf ab, diese Fragen zu klären. Anhand konkreter Anwendungen im Gesundheitswesen werden mögliche Kompromisse zwischen verschiedenen Aspekten (Fairness, Genauigkeit, Interpretierbarkeit und Privatsphäre) sowie deren ethische Implikationen untersucht. Die Carl-Zeiss-Stiftung fördert das Projekt nun im Rahmen ihres Programms "Scientific Breakthroughs in Artificial Intelligence" mit fünf Millionen Euro über sechs Jahre.

"Wir wollen nicht nur die Grundlagen des maschinellen Lernens verbessern, sondern auch Richtlinien für die Zertifizierung solcher KI-Systeme erarbeiten und damit einen sicheren Einsatz in der Medizin ermöglichen", sagt der Sprecher des Projekts, Professor Matthias Hein. "Die KI-Forschungslandschaft in Tübingen bietet dafür ideale Voraussetzungen, denn die dafür notwendige Expertise ist hier in einer in Deutschland einzigartigen Breite vorhanden. Wir sind sehr froh und dankbar für das Vertrauen der Carl-Zeiss-Stiftung. Diese Förderung bringt die Forschung an der Schnittstelle von KI und Medizin an der Universität Tübingen strukturell entscheidend voran."

Projektpartner sind die Kliniken für Radiologie und Augenheilkunde des Universitätsklinikums Tübingen (UKT). TÜV SÜD und TÜV AI.LAB werden als Kooperationspartner an der Entwicklung von Zertifizierungsprotokollen beteiligt sein. Darüber hinaus unterstützen drei medizinische Start-ups das Projekt mit Daten und konkreten Anwendungsfällen: die beiden Tübinger Unternehmen AIRAmed und eye2you, beide Mitglieder des Cyber Valley Start-up Netzwerks, sowie das Berliner Unternehmen Vara, das KI-Systeme zur Brustkrebserkennung entwickelt.

Seit der Gründung des Cyber Valley Ende 2016 hat sich die Region Stuttgart/Tübingen zu einem dynamischen KI-Forschungsökosystem entwickelt, mit neu eingerichteten Professuren, Forschungsgruppen, industriellen Forschungslaboren, Promotionsprogrammen und Deutschlands erstem internationalen Masterstudiengang für maschinelles Lernen - auch dank der Einrichtung des BMBF-Exzellenzzentrums für maschinelles Lernen (Tübingen AI Center) und des Exzellenzclusters "Maschinelles Lernen: Neue Perspektiven für die Wissenschaft", sowie dem starken Engagement des Max-Planck-Instituts für Intelligente Systeme (MPI-IS). Folglich sind Forscher aus all diesen Institutionen an dem Projekt "Zertifizierung und Grundlagen sicherer maschineller Lernsysteme im Gesundheitswesen" beteiligt. Hinzu kommen weitere Wissenschaftler aus dem Institut für Augenheilkunde, dem Zentrum für Quantitative Biologie, dem Fachbereich Informatik, dem UKT sowie aus der Arbeitsgruppe "Ethik und Philosophie in der Künstlichen Intelligenz" des Exzellenzclusters.

Wir von AIRAmed freuen uns Teil dieses herausragenden Ökosystems und Netzwerks zu sein.

(Quelle:Pressemeldung AIRAmed GmbH, 9.12.2021)