Teilen:
22.10.2025 12:05
Plötzlich gesund
Fortschreitende Naturerkenntnis, ganz allgemein gesprochen, ‚Wissenschaft‘, ist der stärkste Feind des medizinischen Wunders. Was unseren Vorfahren als Wunder erschien, was einfache Naturvölker heute noch in heftige Erregung versetzt, das berührt den zivilisierten Menschen längst nicht mehr.
Doch es gibt einen Gegensatz, der jedem Denkenden sofort auffällt: der unerhörte, durchaus nicht abgeschlossene Aufstieg der wissenschaftlichen Heilkunde und die ebenso unerhörte Zunahme der Laienbehandlung und der Kurpfuscherei. Man schätzt die Zahl der Menschen, die der Schulmedizin kein Vertrauen schenken, auf immerhin 50 Prozent.
Wie kann es sein, daß Laienbehandler und Kurpfuscher immer wieder spektakuläre Erfolge aufweisen, von denen die Sensationspresse berichtet?
Der Autor geht dieser Frage nach und kommt zu interessanten Erkenntnissen, aus denen er Vorschläge für eine bessere Krankenbehandlung durch seine ärztlichen Standesgenossen ableitet.
Wenn Menschen KI-Entscheidungen verschlimmbessern
TU Berlin Studie zeigt auf, warum Mensch und Maschine noch kein gutes Team sind
Die Technische Universität Berlin hat in einem neuen Positionspapier ein unbequemes Ergebnis zusammengefasst: Mensch-KI-Teams treffen oft schlechtere Entscheidungen als die KI allein. Was paradox klingt, zeigt sich in vielen Feldern wie Radiologie, Sicherheitstechnik oder Prozessüberwachung. Je zuverlässiger die Systeme, desto größer die Gefahr, dass Menschen die korrekten Empfehlungen der KI überstimmen oder ignorieren.
Die Ursachen sind vielfältig, zwei aber stechen heraus. Erstens: Menschen wollen ihrer Rolle als Entscheider*innen gerecht werden. Wer nur abnickt, fühlt sich überflüssig und greift ein, auch wenn das System recht hat. Zweitens: Die Zuverlässigkeit moderner KI wird unterschätzt. Seltene Fehler erscheinen überbewertet, während die hohe Gesamtleistung kaum wahrgenommen wird. So entsteht ein Muster, das die Autor*innen der TU Berlin in zahlreichen Studien beobachten: „Menschen greifen unnötig ein und verschlimmbessern so die Gesamtleistung“, sagt Dr. Tobias Rieger, Psychologe am Fachgebiet Handlungs- und Automationspsychologie der TU Berlin und Erstautor des Positionspapiers. So überschreiben Radiolog*innen korrekte Befunde, weil sie ihrer Rolle als finale Entscheider*innen gerecht werden wollen. Und am Flughafen entscheiden Gepäckscreener*innen zwar besser mit KI-Assistenz, jedoch häufig auch nicht so gut wie das System allein.
Konflikt mit EU-Regulierung
Brisant ist das auch mit Blick auf das EU Gesetz zur Regulierung von KI (AI Act). Dieser fordert „wirksame menschliche Aufsicht“ für Hochrisikoanwendungen. Doch wie soll ein Radiologe oder eine Personalabteilung Verantwortung übernehmen, wenn die Maschine statistisch klar überlegen ist? Wenn Menschen systematisch schlechter entscheiden als die KI, stellt sich die Frage, wie Aufsicht in der Praxis gestaltet werden kann, ohne die Gesamtleistung zu verschlechtern.
Erklärbare KI als Schlüssel
Welche Lösungen sind denkbar? Ein Weg ist laut der Forscher*innen mehr Transparenz. Doch klassische Ansätze der „erklärbaren KI“ reichten nicht: Zu wissen, was ein tiefes neuronales Netzwerk ist, nützt der Radiologin wenig. Stattdessen müsse es um verhaltensleitende Erklärungen gehen. Systeme sollten ihre Stärken und Schwächen klar kommunizieren, zum Beispiel: „Bei dieser Patientengruppe ist meine Prognose für eine Krebserkrankung besonders zuverlässig.“ So wüssten Nutzer*innen, wann Zustimmung angebracht ist und wann sich ein kritischer Blick lohnt.
Auf dem Weg zur Synergie
Noch weiter reichen adaptive Konzepte. Die Maschine könnte lernen, wo der Mensch stark ist und ihm in diesen Fällen die Entscheidung überlassen. Umgekehrt könnte sie nur bei Unsicherheiten Empfehlungen geben. „Das Ziel ist eine echte Synergie, in der Mensch und Maschine sich sinnvoll ergänzen. Dafür gibt es keine One-Size-Fits-All-Lösung, sondern es braucht maßgeschneiderte Ansätze für unterschiedliche Anwendungsfelder“, betont Rieger. Deswegen sollten die späteren Nutzer*innen einer KI bereits in ihre Entwicklung mit eingebunden werden.
Bis dahin ist es ein weiter Weg. Doch das Positionspapier macht deutlich: Der Schlüssel liegt nicht darin, Menschen aus dem Prozess zu drängen, sondern Systeme so zu gestalten, dass beide Partner*innen einander ergänzen. Erst dann können Mensch und KI gemeinsam tatsächlich bessere Entscheidungen treffen.
Wissenschaftliche Ansprechpartner:
Dr. Tobias Rieger
Fachgebiet Handlungs- und Automatenpsychologie
Fakultät V – Verkehrs- und Maschinensysteme
E-Mail: t.rieger@tu-berlin.de
Prof. Dr. Linda Onnasch
Fachgebietsleiterin Handlungs- und Automatenpsychologie
Fakultät V – Verkehrs- und Maschinensysteme
E-Mail: linda.onnasch@tu-berlin.de
Tel.: +49 30 314-77037
Weitere Informationen:
https://ieeexplore.ieee.org/abstract/document/11111703 Positionspapier mit weiteren Ergebnissen
Bilder
Merkmale dieser Pressemitteilung:
Journalisten, Wissenschaftler, jedermann
Informationstechnik, Medizin, Psychologie
überregional
Forschungsergebnisse, Wissenschaftliche Publikationen
Deutsch
