11. November 2021 | Tübingen

KI & Medizin: sichere Systeme und deren Zertifizierung

Carl-Zeiss-Stiftung fördert Forschungsprojekt mit fünf Millionen Euro

Matthias Hein ist Sprecher des Projekts „Certification and Foundations of Safe Machine Learning Systems in Healthcare“ © MPI-IS

Moderne Deep-Learning-Systeme im Gesundheitswesen haben das Potenzial, Diagnoseentscheidungen von ähnlicher Qualität wie behandelnde Ärztinnen und Ärzte zu treffen. Allerdings gibt es Bedenken hinsichtlich der Transparenz, Robustheit, Fairness und Verlässlichkeit dieser Systeme. Das Projekt „Certification and Foundations of Safe Machine Learning Systems in Healthcare“ einer Forschungsgruppe an der Universität Tübingen hat zum Ziel, diese Probleme zu beheben. Dabei werden sowohl potenzielle Zielkonflikte verschiedener Aspekte (Fairness, Genauigkeit, Interpretierbarkeit und Datenschutz) als auch deren ethische Implikationen an konkreten Anwendungen im Gesundheitsbereich erforscht. Die Carl-Zeiss-Stiftung fördert das Projekt im Rahmen ihres Programms „Wissenschaftliche Durchbrüche in künstlicher Intelligenz“ nun mit fünf Millionen Euro über sechs Jahre.

„Wir möchten nicht nur die Grundlagen des maschinellen Lernens verbessern, sondern auch Leitlinien für eine Zertifizierung solcher KI-Systeme aufstellen und dadurch einen sicheren Einsatz in der Medizin ermöglichen“, sagt der Sprecher des Projekts, Professor Matthias Hein. „Das KI-Forschungsumfeld in Tübingen bietet dazu ideale Voraussetzungen, da hier die dafür benötigte Expertise in einmaliger Breite in Deutschland vorhanden ist. Wir sind sehr froh und dankbar über das Vertrauen der Carl-Zeiss-Stiftung. Diese Förderung bringt die Forschung an der Schnittstelle von KI und Medizin an der Universität Tübingen strukturell entscheidend voran.“

Projektpartner sind die Abteilungen für Radiologie und Augenheilkunde des Universitätsklinikums Tübingen (UKT). Der TÜV SÜD und das TÜV AI.LAB werden sich als Kooperationspartner bei der Entwicklung von Zertifizierungsprotokollen einbringen. Darüber hinaus unterstützen drei Medizin-Start-ups das Projekt mit Daten und konkreten Anwendungsfällen: die beiden Tübinger Unternehmen AIRAmed und eye2you, beides Mitglieder des Cyber Valley Start-up Networks, sowie die Berliner Firma Vara, die KI-Systeme zur Erkennung von Brustkrebs entwickelt.

Seit der Gründung von Cyber Valley Ende 2016 hat sich die KI-Forschungsregion Stuttgart/Tübingen zu einem dynamischen Ökosystem entwickelt, mit neu eingerichteten Professuren, Forschungsgruppen, Industrieforschungslaboren, Promotionsprogrammen und Deutschlands erstem internationalen Masterstudiengang für maschinelles Lernen – auch dank der Etablierung des BMBF-Kompetenzzentrums für Maschinelles Lernen (Tübingen AI Center) und des Exzellenzclusters „Maschinelles Lernen: Neue Perspektiven für die Wissenschaft“ sowie des starken Engagements des Max-Planck-Institut für Intelligente Systeme (MPI-IS). Folgerichtig engagieren sich Forschende aus all diesen Institutionen im Projekt „Certification and Foundations of Safe Machine Learning Systems in Healthcare“. Hinzu kommen weitere Wissenschaftlerinnen und Wissenschaftler aus dem Institut für Augenheilkunde, dem Zentrum für Quantitative Biologie, dem Fachbereich Informatik, dem UKT sowie aus der Arbeitsgruppe „Ethik und Philosophie in der künstlichen Intelligenz“ des Exzellenzclusters.

Über die Carl-Zeiss-Stiftung:

Die Carl-Zeiss-Stiftung hat sich zum Ziel gesetzt, Freiräume für wissenschaftliche Durchbrüche zu schaffen. Als Partner exzellenter Wissenschaft unterstützt sie sowohl Grundlagenforschung als auch anwendungsorientierte Forschung und Lehre in den MINT-Fachbereichen (Mathematik, Informatik, Naturwissenschaften und Technik). 1889 von dem Physiker und Mathematiker Ernst Abbe gegründet, ist die Carl-Zeiss-Stiftung eine der ältesten und größten privaten wissenschaftsfördernden Stiftungen in Deutschland. Sie ist alleinige Eigentümerin der Carl Zeiss AG und SCHOTT AG. Ihre Projekte werden aus den Dividendenausschüttungen der beiden Stiftungsunternehmen finanziert.