© DRG / Thomas RafalzykKönnen und wollen wir Maschinen unsere Gesundheit anvertrauen? Der Autor und Blogger Sascha Lobo skizziert im Gespräch, warum der digitale Wandel alternativlos ist und weshalb er Radiologinnen und Radiologen in einer Avantgarde-Funktion innerhalb des Gesundheitssystems sieht. Der Digitalexperte sprach auf dem 100. Deutschen Röntgenkongress in Leipzig als Röntgen-Vorleser.

_Herr Lobo, Sie sind ein gerngesehener Redner bei einer Vielzahl von Veranstaltungen, von der Digitalkonferenz re:publica bis hin zu Wirtschaftsforen und Kongressen. Waren Sie dennoch überrascht, als die Deutsche Röntgengesellschaft Sie zum Deutschen Röntgenkongress eingeladen hat?

Gerade die Radiologie ist für mich sehr interessant, wenn es um digitale Verarbeitungen geht. Schließlich sind bildgebende Verfahren ja nichts anderes als Daten. Es ist deshalb sicherlich auch kein Zufall, dass dieses medizinische Fach die größten Fortschritte im gesamten Gesundheitsbereich durch den Einsatz von künstlicher Intelligenz zu verzeichnen hat. In meinen Vorträgen nutze ich deshalb auch gerne eine Vielzahl von Beispielen rund um die bildgebenden Verfahren. Außerdem ist ein Röntgenbild so schön anschaulich und die meisten Menschen haben einen konkreten Bezug dazu. Auf diesen Bildern können KI-Systeme Dinge erkennen, die den Menschen beziehungsweise den Radiologen bislang verborgen geblieben sind. Deshalb habe ich mich sehr über die Anfrage gefreut!

_Eines der Kongress-Schwerpunktthemen lautet „Radiologie 4.0“. Was halten Sie von dem Zusatz „4.0“ im Kontext Radiologie?

Solche Begriffe wie 4.0 gibt es ja quer durch alle möglichen Bereiche, da stellt die Radiologie überhaupt keine Ausnahme dar. Ganz trennscharf definiert sind diese Bezeichnungen aber in der Regel nicht, und das ist auch Absicht. Sie bündeln nämlich eine Debatte um bestimmte Zukunftsentwicklungen, und dafür sind sie gut geeignet. Wenn man jetzt anfangen wollte, nur auf diesen Begriff aufbauend wissenschaftliche Studien anzulegen, würde das sicherlich in eine Sackgasse führen. Aber ich glaube, ein solcher Zusatz ist sehr sinnvoll, wenn man eben nicht nur trennscharf eine Technologie diskutieren will. Radiologie 4.0 lässt sich ja eigentlich übersetzen mit: Die Radiologie der Zukunft.

 
_Sie kritisieren regelmäßig, dass die Digitalisierung in Deutschland im Vergleich zu anderen Ländern hinterherhinkt und dass in der Politik das Bewusstsein für diesen tiefgreifenden Wandel fehlt. Trifft diese Einschätzung auch auf den Gesundheitsbereich bzw. die deutsche Gesundheitswirtschaft zu?

Unbedingt – ja! Ich habe mich inzwischen ja ein wenig auf die Gesundheitswirtschaft spezialisiert. 2017 hatte ich die große Freude, in Freiburg auf dem Deutschen Ärztetag sprechen zu dürfen. Herr Montgomery bat mich im Vorfeld einer wichtigen Abstimmung, die Dringlichkeit des digitalen Wandels deutlich zu machen, und zwar gerade auch aus ärztlicher Sicht. Ich sage es mal so: Das größte deutsche Vermögen ist zweifellos das Beharrungsvermögen, und das macht sich im Gesundheitssystem besonders bemerkbar. Das klassische Problem ist, dass das Gesundheitssystem in Deutschland seit vielen Jahrzehnten auf einem extrem hohen Niveau unterwegs ist, was mit einer bestimmten Form von Fortschritt konfligiert. Das macht es nämlich viel einfacher, zu sagen: „Es geht doch auch so! Wir sind doch schon ziemlich super.“ Und das ist auch und gerade bei den Radiologinnen und Radiologen ein nicht seltenes Problem – übrigens auch weltweit. Ich habe dazu interessante Daten aus Australien gefunden. Die Universität von Adelaide ist ja recht umtriebig, was Radiologie 4.0 im weiteren Sinne angeht. Und da findet man Aussagen wie: „Wir sind an der Spitze der Technologie, weshalb müssen wir uns denn jetzt noch mit künstlicher Intelligenz befassen?“

_Würden Sie denn den Radiologinnen und Radiologen empfehlen, sich als Treiber des digitalen Wandels im Gesundheitssystem zu positionieren?

Ja, auf jeden Fall und das aus einem einfachen Grund: Die Disruption des Gesundheitssystems kommt auf uns zu und Radiologinnen und Radiologen stehen an der Spitze derjenigen, die davon zuerst betroffen sein werden. Das gilt nicht nur für Deutschland und Europa, sondern weltweit. Die Radiologie muss sich als digitale Avantgarde begreifen. Das scheint mir alternativlos und ich mache mir auch nicht die geringsten Sorgen darüber, dass die Radiologie als medizinisches Fach irgendwann überflüssig sein könnte. Das, was bei der Auswertung von Bilddaten stattfindet und das, was am Ende bei den Menschen in den Köpfen ankommt, ist auf absehbare Zeit fast zwingend mit menschlicher Kommunikation und Erklärung verbunden. Es gibt ein neues Fach, das in fantastischer Weise für die Radiologie geeignet ist: Explainable AI, also erklärbare künstliche Intelligenz. Dadurch ändert sich die Rolle der Radiologinnen und Radiologen eindeutig. Sie werden zu denjenigen, die bestimmte Formen von Daten und Datenverknüpfungen erklären, vermitteln und dort wo es nötig ist, ein Verständnis herstellen - beispielsweise gegenüber Patienten oder auch ganz allgemein gegenüber der Öffentlichkeit. Meiner Überzeugung nach wird sich hier auf absehbare Zeit ein wichtiges Tätigkeitfeld für Radiologen ergeben.

_In der Radiologie werden bereits heute große Mengen von patientenbezogenen Bilddaten erzeugt. Wer sollte sich Ihrer Ansicht nach um die Sicherheit dieser Daten kümmern?

Dazu habe ich ein schönes Beispiel. Es gibt nämlich einen Berufsstand, der hat schon vor sehr langer Zeit – 1966, um präzise zu sein – erkannt, dass Daten seine Zukunft sein werden. Er hat daraufhin gesagt: Wir müssen hier in Deutschland dafür sorgen, dass die Hoheit über diese Daten nicht aus unseren Händen gerät, nämlich aus den Händen derjenigen, die zum einen wissen, wie wertvoll sie sind und die andererseits wesentlich dazu beitragen, diese Daten überhaupt erst zu erheben. Ich spreche hier über die Steuerberater, die schon 1966 die DATEV gegründet haben, und zwar als Genossenschaft, sodass heute allen Steuerberaterinnen und Steuerberatern in Deutschland die zentrale digitale Verarbeitungslandschaft für Steuerdaten gehört. Ein solches Modell kann ich mir im medizinischen Bereich auch sehr gut vorstellen, getragen von dem Wissen, dass Radiologen eine besondere Verantwortung haben, was die Daten von Patienten angeht, und zwar in alle Richtungen. Da geht es nicht nur um Datenschutz, sondern auch um Verfügbarmachung, damit die Daten auch in 20 Jahren noch gelesen werden können. Stellen Sie sich mal vor, das neue hippe Startup geht pleite, hat aber zuvor ein eigenes Format entwickelt, das man auf einmal nicht mehr lesen kann. Solche Dinge sind zum Beispiel in der Zahnmedizin schon passiert. Mein Plädoyer wäre deshalb, dass man als radiologische Fachgesellschaft darauf hinwirkt, eine eigene digitale Infrastruktur aufzubauen, die übergeordnet gedacht wird, sodass es nicht zu einer Daten-Kleinstaaterei kommt.

_Sie haben in einem anderen Interview gesagt, dass künstliche Intelligenz für ein Hochtechnologieland wie Deutschland alternativlos sei. Ist sie für die Medizin eher ein Versprechen oder eine Bedrohung?

Die Alternativlosigkeit steht für mich außer Frage. Aber – und das ist eine Diskussion, die selten so deutlich geführt wird – durch die geringe digitale Entwicklungsgeschwindigkeit in der deutschen Medizin in den letzten Jahren gibt es einen gewissen Riss, der nicht nur, aber auch, mit dem Alter zu tun hat. Manche Fachärzte, auch Radiologen denken: Also die zehn Jahre, die ich jetzt noch arbeite, komme ich auch so durch. Andere wiederum sagen: Das ist die Zukunft, damit müssen wir uns jetzt intensiver beschäftigen. Dieser Riss, der - zum Beispiel mit Blick auf die Weiterbildung – zu konkreten Schwierigkeiten führt, ist einer, der überhaupt erst einmal diskutiert und vielleicht irgendwann sogar gekittet werden muss. Wir haben so etwas in anderen Berufszusammenhängen häufiger erlebt. Am schlimmsten trifft es aus meiner Sicht im Moment die Lehrer. Hier ist ganz klar: Ohne eine entsprechende Fortbildung der Lehrer wird es nicht gehen. Auch hier gibt es nicht wenige, die sich sträuben weil sie denken: Ich habe so einen anstrengenden Job – was stimmt –, ich kann doch jetzt nicht das auch noch bewältigen, und nur, um dann fünf Jahre später in Pension zu gehen. Ich glaube, dass man darüber sehr viel intensiver debattieren muss.

_Es gibt bereits Apps, die auf das Erkennen genetischer Erkrankungen mittels Gesichtserkennung oder von Depressionen mittels Stimmanalyse abzielen. Was macht das mit uns und unserer Gesellschaft, wenn wir unsere Gesundheit zunehmend Maschinen anvertrauen?

Das ist eine sehr gute Frage, die man allerdings nur grundsätzlich beantworten kann. Wir vertrauen schon heute in fast uneingeschränktem Maße bestimmten Technologien. Die sind manchmal mit unsichtbaren digitalen Komponenten und manchmal ganz ohne sie aufgebaut. Es gibt ein Urvertrauen in bestimmte Maschinenprozesse, das selten hinterfragt wird. Nun wird aber durch die zunehmenden Möglichkeiten dieser Maschinen auch die Frage immer dringlicher, inwieweit wir ihnen eigentlich vertrauen können. Voraussetzung dafür ist – und das ist dann wieder eine Chance für Radiologen – ein tiefes Verständnis dieser Maschinen. Erst auf dieser Grundlage können wir überhaupt bewerten, ob Vertrauen möglich ist oder nicht. Das heißt, eine Aufgabe der Radiologen wird in Zukunft darin bestehen, eine tiefe Kenntnis darüber zu entwickeln, wie Maschinen zu Aussagen, Bewertungen, Ergebnissen kommen. Das ist aus meiner Sicht die Basis dafür, dass wir Menschen den Maschinen auch in Zukunft vertrauen können.

_Vertrauen setzt also immer Verstehen voraus?

Absolut. Es gibt eine Vielzahl von Beispielen, wo Vertrauen in Technologien, Maschinen, in Ergebnisse, die Maschinen produziert haben in Misstrauen umgeschlagen ist. Und gerade, wenn man in einem Bereich arbeitet, in dem eigene Entscheidungen und Entscheidungen von Maschinen eine existentielle Dimension haben, ist es umso wichtiger, diese Währung des Vertrauens auf einem Fundament der Kenntnis und rationalen Durchdringung aufzubauen. Es reicht nicht zu sagen: Naja, das ist ja das Gerät eines renommierten Herstellers, das wird alles schon seine Richtigkeit haben. Man muss wirklich bis ins Detail verstehen, was da warum und wie passiert. Gerade im Bereich Radiologie bin ich eher optimistisch, dass das auch gelingt.

_Wie sieht aus Ihrer Sicht die Zukunft für die Radiologie aus?

Das ist eine sehr große Frage. Ich denke, wir werden eine Maschinenlandschaft haben, die so intelligent ist, dass Radiologen auch weiterhin die Aufgabe zukommt, zu erklären, zu interpretieren, einzuordnen und zwischen Maschinen und Menschen, die sich nicht im Detail auskennen, zu vermitteln. Wenn es ideal läuft, entwickelt sich das Berufsbild der Radiologen ziemlich intensiv weiter, mit Fokus auf einem tiefen Verständnis der Technologie selbst, und einer empathischen Erklärungsfähigkeit. Das ist keine steil geschossene Zukunftsvision, sondern das, was aus meiner Sicht am realistischsten ist. Wenn es nicht ideal läuft, dann befürchte ich, dass es schlimme Grabenkämpfe geben wird, weil natürlich ein Teil der radiologischen Tätigkeiten durch künstliche Intelligenz ersetzt werden kann. Diejenigen, die ihren beruflichen Schwerpunkt in genau diesem Bereich sehen und in keiner der vielen anderen Aufgaben, für die es ebenfalls Radiologen braucht, die werden sich in ihrem Arbeits- und Fähigkeitsspektrum massiv attackiert fühlen.

_Kennen Sie Beispiele aus anderen Bereichen, in denen das bereits passiert?

Ja. Es gibt eine Forschergruppe aus einem angrenzenden medizinischen Bereich, die jetzt zur Stunde genau damit ein echtes Problem hat. Es handelt sich um Biologen und Bio-Informatiker, die bislang an der Proteinfaltung geforscht haben. Proteinfaltung ist für die Herstellung von Medikamenten und bestimmte Formen von Heilungsmöglichkeiten ein extrem vielversprechendes Zukunftsszenario. Bisher wurde hier ganz klassisch geforscht, d.h. vereinfacht gesagt: Wissenschaftler haben Studien angelegt, Experimente durchgeführt, vieles ausprobiert. Dann haben sie Konzepte entwickelt, sich Gedanken gemacht und am Ende etwas herausgefunden, was tatsächlich die Entwicklung eines Medikaments erleichtert. Vor zwei Jahren ist Google mit seiner künstlichen Intelligenz Deep Mind in die Proteinfaltung eingestiegen. Nun ist das daraus entstandene Proteinfaltungs-Vorhersage-Tool so unfassbar gut, dass kein menschlicher Forscher da auch nur im Entferntesten herankommt. Und das ist für diese Wissenschaftler tatsächlich ein sehr großes und unangenehmes Problem, aus dem einfachen Grund: Ihr bisheriger Lebensinhalt, nämlich die Forschung an der Proteinfaltung, ist in die digitale Welt abgewandert. Da hat also jemand schon vor 25 Jahren seine Lebensaufgabe darin gefunden, wie Proteine gefaltet werden, und dann kommt eine künstliche Intelligenz und zeigt ihm, dass sein gesamter Fortschritt aus Trippelschrittchen bestand und die künstliche Intelligenz Sieben-Meilen-Stiefel hat. Das ist eine Problematik, über die man reden muss.

_Und wie kann man sich dagegen wappnen, von künstlicher Intelligenz überrollt zu werden?

Man kann dem nur vorbeugen, indem man versucht, die Kompetenzen zu verstärken und auszubauen, die eine Maschine nicht ersetzen kann. Kompetenzen, die die Maschine wird substituieren können, sollten nicht in den Vordergrund gestellt werden. Das passiert zwar nicht von heute auf morgen. Aber es ist ziemlich klar, dass von den acht oder neun verschiedenen Aspekten einer Tätigkeit zwei oder drei besonders anfällig dafür sind, maschinell ersetzt zu werden. Wenn man nun genau auf diese seinen Fokus legt, dann glaube ich schon, dass man sehr viel leichter Schwierigkeiten bekommt. Und ich wage mal folgende Behauptung: Für die männlichen Radiologen wird in der Tendenz die Umstellung etwas schwieriger sein als für die weiblichen Radiologinnen. Es zeigt sich eben auch, dass in einer akademischen Welt, die meinem Verständnis nach sehr patriarchalisch strukturiert ist, gerade diejenigen, die glauben, sie seien an die Speerspitze des digitalen Verständnisses, besonders gefährdet sind, diese Maschinenkonkurrenz als Bedrohung wahrzunehmen.

Vielen Dank für das Gespräch!