KI in der Medizin: Das sagen Nachwuchsärzte und -ärztinnen

Technische Fortschritte haben die Entwicklung von Künstlicher Intelligenz in der Medizin stark vorangetrieben. Damit die neuen Möglichkeiten genutzt werden können, braucht es allerdings mehr Verständnistiefe unter den Nutzern, sprich Ärzten und Ärztinnen, fordert die studentische Vereinigung AIM an der Ludwig-Maximilians-Universität München. Bereits seit Oktober 2020 veranstaltet die Gruppe daher Lehrveranstaltungen in Form von Onlinevorträgen. Erstmalig ist am 12. und 13. November jetzt auch ein Symposium mit mehreren Expert:innen aus Forschung und Startup-Unternehmen geplant.   Health Relations sprach mit AIM-Mitglied Matthias Hehr über die Erwartungen, die die Medizinstudierenden an das Thema KI in der Gesundheitsbranche haben. Health Relations: Wie bewerten Sie grundsätzlich das Potenzial Künstlicher Intelligenz in der Medizin?Matthias Hehr:Künstliche Intelligenz umfasst als Überbegriff eine ganze Reihe verschiedener Algorithmen. Aktuell kommen die beliebtesten aus dem Bereich des maschinellen Lernens und hier steckt unglaublich viel Potenzial. Aber man muss politisch und ethisch viel regeln, und auch in der Lehre noch Einiges auf die Beine stellen, damit das medizinische Personal in Zukunft gut damit umgehen kann. In der Idealvorstellung hat der Arzt oder die Ärztin mehr Zeit für die Patient:innen, da die KI ihm Routineaufgaben abnimmt. Im Worst Case können Algorithmen aber auch mehr Arbeit verursachen als vorher, wenn sie zum Beispiel systematisch Personengruppen bevorzugen. Die Bildung des medizinischen Personals ist daher eine wichtige Voraussetzung, um solchen Problemen vorzubeugen. Health Relations: Welche Routineaufgaben kann KI den Ärzt:innen abnehmen?Matthias Hehr: Insbesondere die Bildverarbeitung ist ein sehr beliebter Bereich im maschinellen Lernen. Ein gutes Beispiel ist die Klassifikation von Leberflecken. Durch zahlreiche Forschungsgruppen und Unternehmen können hier mittlerweile erstaunliche Ergebnisse erzielt werden. Das ist beispielsweise in der Pathologie, Radiologie oder Dermatologie der Fall. Auch im Bereich der Sprach- und Labordatenverarbeitung gab es in den letzten Jahren spannende Fortschritte. Es ist also durchaus vorstellbar, dass die IT-Systeme an Kliniken künftig neue Funktionen bekommen, die gleichförmige Aufgaben übernehmen können. Wichtig zu sagen ist aber, dass das aktuell überwiegend noch in der Zukunft liegt, und die KI sicher eher als Unterstützung statt gleichwertigem Helfer agiert. Health Relations: Also sind Sie mit der Entwicklung der Künstlichen Intelligenz im deutschen Gesundheitswesen zufrieden?Matthias Hehr:Aktuell tut sich Einiges: Die Bundesregierung hat 2018 beispielsweise ein Förderprogramm auf den Weg gebracht, um Forschung, Datenverfügbarkeit und Anwendbarkeit von Algorithmen voranzutreiben. Es werden neue Professuren für KI ausgeschrieben. Und in den Zulassungsstellen steigt die Zahl der KI-basierten Medizinprodukte stark an. Hinzu kommt, dass auch viele Startups auf immer neue Ideen kommen, um Künstliche Intelligenz in der Medizin anwendbar zu machen. Der Wille ist also da. Health Relations: Aber …?Matthias Hehr:Leider ist KI in der medizinischen Praxis noch nicht wirklich angekommen, was viele Studien belegen. Eine Integration der Inhalte in das Medizinstudium bleibt beispielsweise größtenteils noch aus. Es fehlen schlichtweg Weiterbildungsprogramme für interessierte Mediziner und Medizinerinnen. Auch der Einzug der Technologie in den klinischen Alltag gestaltet sich schwierig. Health Relations: Woran liegt das? Welche Barrieren gibt es?Matthias Hehr: Zum einen sind Patientendaten ein sensibles Thema. Entsprechend schwierig ist es, große Datensätze zu sammeln und für Forschung und Entwicklung verfügbar zu machen. Als Goldstandard gelten nach wie vor randomisierte, kontrolliert-prospektive Studien über mehrere Krankenhäuser und Zentren – und die sind bisher noch selten. Das heißt hier fehlt es an der nötigen Evidenz. Hinzu kommen rechtliche Fragen, die man etwa auch aus dem Bereich des autonomen Fahrens kennt. Sprich: Wer ist verantwortlich, wenn ein Fehler passiert? Das entwickelnde Unternehmen oder die Ärzt:in? Müssen Algorithmen nach einem Software-Update neu den Zulassungsprozess durchlaufen? Auch der Datenschutz bei hoher Datenverfügbarkeit muss geregelt sein. Hinzu kommt, dass unser Verständnis von der Technologie noch lange nicht ausgereift ist. Health Relations: Können Sie das an einem Beispiel festmachen?Matthias Hehr: In den letzten Jahren hat sich immer mehr herauskristallisiert, dass Algorithmen diskriminierend sein können. Ein Beispiel ist ein Algorithmus von Amazon. Dieser sollte anhand von Lebensläufen entscheiden, welche Bewerber:innen eingestellt werden. Am Ende waren das aber hauptsächlich Männer, weil die KI im Trainingsdatensatz erlernt hatte, dass in der Vergangenheit eben häufiger Männer eingestellt wurden. Der Algorithmus hat also Vorurteile mit erlernt, was in der Medizin fatale Konsequenzen haben könnte. Ärzt:innen in die Lage zu versetzen, KI richtig beurteilen und nutzen zu können, ist daher ebenso wichtig wie Transparenz. Mediziner:innen wollen die Vorhersagen eines Algorithmus nachvollziehen können. Sprich: Mit welchen Daten wurde trainiert? Was macht der Algorithmus und warum? Darum forschen weltweit bereits zahlreiche Arbeitsgruppen an der sogenannten „explainable AI“.

„Mediziner:innen wollen die Vorhersagen eines Algorithmus nachvollziehen können. Sprich: Mit welchen Daten wurde trainiert? Was macht der Algorithmus und warum?“

Health Relations: Ihr Amazon-Beispiel impliziert bereits, dass auch ethische Fragen eine Rolle spielen.Matthias Hehr: Absolut. Kliniken und Praxen müssen eine faire Behandlung ohne Benachteiligung oder systematische Ungerechtigkeit für ihre Patient:innen sicherstellen können. Eine zentrale Frage dabei ist sicherlich: Was sollte ein Algorithmus überhaupt alles entscheiden dürfen? All das zeigt: Die Digitalisierung in der Medizin muss geregelt und gut durchdacht ablaufen. Viele Kommiliton:innen setzen sich vehement hierfür ein. Das beste Beispiel ist ein Positionspapier der Bundesvertretung der Medizinstudierenden in Deutschland (BVMD) zum Thema „digitale Gesundheitsversorgung“. Health Relations: Tatsächlich haben viele Ärzt:innen – gerade in den Praxen – Bedenken bzgl. der Sicherheit und Zuverlässigkeit digitaler Angebote. Wie könnte mehr Vertrauen hergestellt werden?Matthias Hehr:Ein wichtiger Punkt ist Aufklärung. Wenn die Ärztin dem Patienten beispielsweise ein neues System – etwa eine App – erklärt, muss sie dieses auch gut weitervermitteln können. Das setzt voraus, dass das medizinische Personal über die Materie gut Bescheid weiß. Und man sieht jetzt schon, wie viele Kolleg:innen sich mit der ganz normalen Praxissoftware schwertun. Daher erfordert KI einfach sehr viel Dokumentation und Schulung. Health Relations: Sie haben das Thema App angesprochen. Künstliche Intelligenz ist für Patient:innen vermehrt auch via Handy verfügbar. Apps, die Hautveränderungen auf Gut- oder Bösartigkeit beurteilen sollen, sind ein Beispiel. Wie bewerten Sie diese Entwicklung?Matthias Hehr:Auf der einen Seite ist es natürlich fantastisch, Leuten schnell und unkompliziert „medizinische Versorgung“ zukommen zu lassen, die sie sonst strukturell vielleicht nicht haben könnten. Auch im Sinne der Präventionsmedizin. Allerdings ist beim Umgang mit computerbasierten Diagnosen immer auch Vorsicht geboten. Denn Sensitivität und Spezifität von Algorithmen sind nie 100 Prozent. Dadurch können sich bei potenziell millionenfacher Anwendung auch zahlreiche gefährliche Fehldiagnosen ergeben. Health Relations: Was braucht es also, um hier vorzubeugen?Matthias Hehr: Patient:innen sollte klar sein, dass eine Überprüfung durch medizinisches Fachpersonal stets nötig ist. Unternehmen sollten daher in den Apps, DiGAs und Wearables, die sie in den Markt bringen, klar kennzeichnen, dass es sich hier um einen Algorithmus handelt, der die Konsultation des Arztes nicht überflüssig macht. Darüber hinaus müssen Unternehmen eine klare Zuordnung gewährleisten. Es gibt zahlreiche Beispiele, wo Algorithmen auf einer demographischen Patientengruppe funktionieren, auf einer anderen aber gar nicht. Einfach weil der Algorithmus die Daten beispielsweise vorher nicht gesehen hat.

„Unternehmen sollten in den Apps, DiGAs und Wearables, die sie in den Markt bringen, klar kennzeichnen, dass es sich hier um einen Algorithmus handelt, der die Konsultation des Arztes bzw. Ärtzin nicht überflüssig macht. Darüber hinaus müssen sie eine klare Zuordnung gewährleisten.“

Health Relations: Gemeinsam mit Ihrer studentischen Vereinigung setzen Sie sich stark für die Wissensvermittlung im Bereich KI ein. Welches Ziel verfolgen Sie damit?Matthias Hehr:Eins ist klar: Die Medizin wird sich unter Künstlicher Intelligenz verändern. Und wir wollen die ersten Schritte in dieser unbekannten Umgebung für alle Interessierten erleichtern. Wenn man lernt, was KI ist, dann kann man die Technologie besser einschätzen und Bedenken bezüglich Sicherheit und Zuverlässigkeit auch richtig bewerten. Health Relations: Am 12. und 13. November planen Sie eine Hybridveranstaltung zu diesem Thema. Was sind die Inhalte des Symposiums?Matthias Hehr:Durch zahlreiche hochkarätige Expert:innen aus der Forschung wird das Thema KI unter verschiedenen Gesichtspunkten nähergebracht und viel Wissen in diesem Bereich vermittelt. Zusätzlich stellen acht Startups vor, was sie mit Künstlicher Intelligenz im Gesundheitswesen vorhaben und was bereits funktioniert. Wir setzen auf Networking und guten Austausch – sowohl vor Ort bei einem Kaffee als auch virtuell. Für die Vorort-Veranstaltung in München haben wir bereits 135 Registrierungen. 200 Plätze sind insgesamt verfügbar. Online sind es bereits weit mehr als 100 Anmeldungen. Health Relations: Abschließend ein kurzer Ausblick: KI wird in den nächsten fünf Jahren …Matthias Hehr: … ein vertiefendes Verständnis brauchen. Viele Fakultäten nehmen das Thema KI nach und nach bereits in ihrer Lehre auf. Daher sind wir ganz zuversichtlich, dass sich im Bereich Bildung und Aufklärung noch viel tun wird.