Mehr Heu als Nadeln

Werner Bartens entmystifiziert die Künstliche Intelligenz in der Medizin - von Elena Beier

Werner Bartens, leitender Redakteur des Ressorts »Wissen« in der Süddeutschen Zeitung und promovierter Arzt und Autor, veröffentlichte in der SZ (06.12.2019) einen Kommentar zum Hype um künstliche Intelligenz (KI), Big Data und Digitalisierung in der Medizin, dessen Argumente es wert sind, hier zusammengefasst zu werden.

Immer mehr und immer schneller würden neue Entwicklungen in der digitalen Technik mit einer »unkritischen Euphorie« in der Medizin die Marketing-Etiketten »KI« und »Innovation« verpasst und suggeriert werden, dass diese Ärzt*innen und Pflegekräften überlegen seien. Doch die Idealvorstellung, dass durch solche neue Innovationen Ärzt*innen und Pflegekräfte zukünftig mehr Zeit für ihre Patient*innen hätten und durch KI in ihren Entscheidungen entlastet werden können, täusche. Ebenso trüge der Schein von genaueren Diagnosen und hilfreichen Therapieentscheidungen, die eine rasante Heilung versprechen. Bartens will zeigen,  dass das »blinde Vertrauen in Diagnosen mithilfe der KI enorme Nachteile« birgt.

Er beschreibt eine Studie aus Stanford, in der Ärzt*innen mithilfe von KI bestimmen sollten, ob es bei Patient*innen mit einer fortgeschrittenen Tumorerkrankung noch Hoffnung auf Heilung gäbe oder ob eine palliative Situation vorliege. Im Endeffekt stimmten die Sichtweisen von unabhängigen Ärzt*innen kaum mit denen der KI überein – oftmals wären Patient*innen vorzeitig in eine Palliativsituation eingeordnet worden, bei denen die Ärzt*innen wiederum noch zuversichtlich auf einen Therapieerfolg blickten. Als Haupterkenntnis erläutert Bartens, kann die KI nicht wie ein soziales Wesen Mensch, zwischen objektiv begründeten Befunden und dem subjektiven Befinden von Patient*innen unterscheiden. Sie könne kein Einfühlungsvermögen aufzeigen, und schwieriger psychosoziale Faktoren erkennen, die häufig auch Krankheitsverläufe beeinflussen können. Erschwerend kommt hinzu, dass außerdem bei vielen Menschen objektive medizinische Befunde nicht immer mit einem persönlichen Leidensdruck einhergehen oder es im Gegensatz dazu, etliche psychosomatische Erkrankungen und Symptome gibt, die beispielsweise keine auffälligen Befunde in der medizinischen Diagnostik aufweisen. Diese Komplexität und Individualität des Menschen könne, so Bartens, kaum mit mathematischen Algorithmen aufgeschlüsselt werden und führe »nur zu Konfusion und falschen Ergebnissen«. Es sei eigentlich trivial, dass ein Mensch keine Maschine ist, die nach binären Mechanismen funktioniert.

Ergänzend dazu betont Bartens, dass die Fehler und Probleme der KI an der Basis zu finden sind, quasi »als Strukturfehler im System«. Es seien keine Kleinigkeiten, die sich leicht durch IT-Spezialist*innen oder Techniker*innen in den Krankenhäusern beheben lassen, wie es die Akzeptanzrhetorik der Befürworter suggeriere. Dabei beruft er sich auf In­for­ma­tiker*innen und Statistiker*innen, die im Deutschen Ärzteblatt im September 2019 hervorheben, dass viele Aspekte innerhalb von Big Data in der Forschung noch nicht realisiert seien und »vieles noch Wunschdenken« sei. Big Data verleite außerdem zum »Quantitätsrausch«: Allzu oft werde angenommen, dass mehr Daten und noch höhere Geschwindigkeit der Verarbeitung Probleme löse bzw. dass mit genügend Daten die Zahlen für sich sprächen. Bartens zitiert zustimmend den Statistiker David Spiegelhalter, der diese Versprechungen von KI und Big Data in der Medizin für »optimistische Übervereinfachungen« oder gleich für »völligen Quatsch« hält. Der Risikoforscher Nassim Taleb halte es gar für die »Tragödie von Big Data«, dass mit der Anzahl der Variablen die Menge signifikanter Korrelationen nicht etwa linear, sondern konvex ansteigt. Das Rauschen wächst schneller als das gesuchte Signal«, zitiert Bartens Taleb. Bei der sprichwörtlichen Suche nach der Nadel im Heuhaufen gebe es mehr Heu, nicht mehr Nadeln.

Alles in allem ist der Kommentar von Bartens eine Warnung, unkritisch an die hochgelobten Zukunftsperspektiven von Big Data, KI und der Digitalisierung in der Medizin heranzutreten und sich den Vorteilen einer sozialen Interaktion zwischen Ärzt*innen bzw. Pflegekräften und Patient*innen bewusst zu werden, die KI nicht ersetzen kann.
Zusammenfassung: Elena Beier

(Siehe: Werner Bartens: »Künstliche Intelligenz in der Medizin: Neue Errungenschaften oder alles nur ein großer Bluff?«, SZ 06.12.219)

(aus: Gesundheit braucht Politik. Zeitschrift für eine soziale Medizin, Schwerpunkt: Digitalisierung im Gesundheitswesen, Nr. 4 Dezember 2019)