KI – mit Ihrem guten Namen?

Viermal um das Auto

Es war einer meiner ersten Einsätze als Notarzt. Ein Auto war bei Rot über die Kreuzung gefahren und auf der anderen Seite gegen einen Ampelmast geprallt, mit voller Wucht. Im Wagen saß ein älteres Ehepaar, er am Steuer, sie daneben.

Als wir ankamen, war der Aufprall deutlich zu sehen. Die Beifahrerin war eingeklemmt, ich kam kaum an sie heran. Ich fand keinen Puls, sie reagierte nicht, aber sie war noch warm. Auch mit der vielen Technik konnten wir nicht sicher feststellen, ob sie schon tot war. Ihr Mann sprach zuerst mit uns, dann wurde er immer benommener.

Ich musste mich entscheiden. Um ihn zu versorgen, hätte ich mit den Notfallsanitätern losfahren und seine Frau zurücklassen müssen. Ich bin viermal um das Auto gegangen und habe sie immer wieder untersucht. Kein Puls, sie war immer noch warm.

Dann sind wir gefahren. Der Mann hatte eine Hirnblutung. Er wurde operiert und überlebte.

Der Dienst war lang und aufreibend. Spät am Abend habe ich dann beim Bestattungsinstitut angerufen, um sicher zu sein, dass die Frau wirklich tot war. Meine Hand hat dabei gezittert.

Das ist Verantwortung. Nicht das Wort, sondern das, was bleibt. Sicher sein konnte ich nicht, kein Puls und doch noch diese Wärme. Entscheiden musste ich trotzdem, und ich habe die Entscheidung damals getragen, bis zu jenem Anruf und eigentlich bis heute.

(Im Nachhinein hätte ich einen zusätzlichen Notarzt rufen sollen. Hinterher ist man klüger. Auch das gehört dazu.)

Wer spricht da — und wer haftet?

Was hat diese Szene mit Künstlicher Intelligenz zu tun? Mehr, als es auf den ersten Blick scheint. Im ersten Teil stand eine Frage im Raum. Wer spricht da eigentlich, wenn nachts um halb zwei eine Antwort aus dem Chatfenster kommt? Die Antwort fiel beruhigend und ernüchternd zugleich aus. Niemand. Ein Sprachmodell denkt nicht, es verdichtet (Lanier, 2023). Es ist die jüngste in einer langen Reihe von Maschinen, die menschliches Wissen ordnen und zugänglich machen.

Das hat eine Folge, die uns als Lehrende angeht. Wenn die Maschine das abrufbare Wissen übernimmt, rund um die Uhr und fast umsonst, verliert ein Teil unserer Lehre seinen alten Wert. Nicht das Wissen selbst, aber seine Exklusivität. Und wo niemand spricht, haftet auch niemand. Was bleibt dann eigentlich dem Menschen?

"Auskunft, nicht Einsicht"

Der Wirtschaftsinformatiker Detlef Schoder hat das in einem lesenswerten FAZ-Beitrag zugespitzt. Die Maschine liefere «Auskunft, nicht Einsicht» (Schoder, Detlef, 2026). Was sie nicht ersetze, sei das Deuten, das Verbinden, das Abwägen, das Urteilen — und das Verantworten.

In einem Punkt möchte ich Schoder ergänzen, eventuell sogar widersprechen. Die ersten vier dieser Tätigkeiten kann KI inzwischen erstaunlich gut. Sie deutet, sie verknüpft entfernte Felder, sie wägt ab und legt am Ende sogar ein Urteil vor. Wer das einmal richtig mit leistungsfähigen Modellen ausprobiert, kommt aus dem Staunen kaum heraus. Ein Bildungsverständnis, das den Menschen vor allem darüber definiert, dass er besser deutet als die Maschine, dürfte deshalb bald in Erklärungsnot geraten.

Die Ausnahme: das Verantworten

Damit sind wir beim Kern. Eine Tätigkeit fällt aus der Reihe, und das grundsätzlich, nicht nur graduell. Es ist das Verantworten. Wer verantwortet, prüft das Erzeugte am Fall, legt sich auf eine Antwort fest und steht für sie gerade. Das setzt jemanden voraus, der zur Rechenschaft gezogen werden kann, der etwas zu verlieren hat und die Folgen trägt ("Skin in the game", siehe Taleb, 2018). Ein Modell hat davon nichts. Es kann ein Urteil erzeugen, aber es nicht zu seinem eigenen machen und nicht dafür einstehen. Diese Lücke schließt auch das nächste, größere Modell nicht, denn sie ist keine Frage des Könnens, sondern der Stellung. Schoder bringt es schön auf den Punkt. Eine Maschine kann Optionen erzeugen, einstehen für die gewählte Lösung kann nur der Mensch.

Und es heißt mehr, als ein Ergebnis abzuliefern. Es heißt, für das Warum geradezustehen, nachprüfbar und nachvollziehbar. In Medizin und Recht nennt man das die Begründungspflicht. Man muss sagen können, warum man so gehandelt hat und nicht anders. Genau das liefert ein Sprachmodell nicht mit.

Die nachgereichte Begründung

Aber kann sich ein Modell nicht selbst begründen? Man muss es doch nur fragen, warum es so geantwortet hat, und schon erklärt es sich, oft erstaunlich überzeugend.

Nur zeigt diese Erklärung nicht, wie die Antwort wirklich zustande kam. Das Modell rechnet seine Begründung in dem Moment neu aus, in dem wir danach fragen. Es erzählt uns also eine plausible Geschichte, die zur Antwort passt, und nicht den tatsächlichen Weg dorthin. Und genau das ist heikler als ein ehrliches Schweigen. Ein System, dem man ansieht, dass man nicht hineinschauen kann, lädt zum Prüfen ein. Ein System, das glatte Gründe nachreicht, lädt zum Vertrauen ein. Das ist die eigentliche Stolperfalle.

Ein ehrlicher Einwand

Ein Einwand bleibt, und er ist berechtigt. Auch wir Menschen handeln aus Wissen, das wir nicht restlos in Worte fassen können. Die erfahrene Ärztin spürt, dass etwas nicht stimmt, bevor sie es benennen kann. Michael Polanyi hat das in eine schöne Formel gefasst. Wir wissen mehr, als wir sagen können (Polanyi, 2009). Wer also lückenlose Erklärbarkeit verlangt, trifft damit auch die ärztliche Intuition.

Das stimmt. Der Unterschied liegt aber nicht darin, wie undurchsichtig dieses Wissen ist, sondern darin, wo es verankert ist. Das stille Wissen der Ärztin steckt in einem Menschen, in einer, die haftet, die über Jahre und auch durch Fehler gelernt hat und die zur Rechenschaft gezogen werden kann. Hinter der Undurchsichtigkeit des Modells steht nichts davon. Da ist niemand.

Die Pflicht ist also nicht, jeden Gedankenschritt auszusprechen. Das könnten wir bei uns selbst nicht. Die Pflicht ist, dafür zu sorgen, dass am Ende ein verantwortlicher Mensch hinter der Aussage steht. Und das kann das Modell nicht sein.

Was jetzt knapp wird

Das dreht die anfängliche Sorge um. Gerade weil Wissen, Deuten und Abwägen billig und reichlich werden, wird etwas anderes kostbar. Nämlich jemand, der bereit und befugt ist, für eine Entscheidung geradezustehen. Je besser die Maschine urteilt, desto wichtiger wird der Mensch, der dieses Urteil zu seinem eigenen macht.

Für das, was hier übrig bleibt, gibt es einen alten Namen. Die Griechen nannten es Phronesis, die praktische Klugheit. Aristoteles hat sie vom reinen Wissen und vom bloßen Können unterschieden. Sie ist nicht die Fähigkeit, ein Urteil zu erzeugen, sondern die Fähigkeit, im einzelnen Fall das Richtige zu sehen und dafür einzustehen. Sie wächst nur mit der Erfahrung, dadurch, dass man eigene Entscheidungen immer wieder trägt. Herunterladen lässt sie sich deshalb nicht. Ein Modell kann den klügsten Rat formulieren. Phronesis hat es nicht, weil ihm das Leben fehlt, das gelingen oder scheitern kann. In der Medizin ist dieser Gedanke übrigens alt. Die Urteilskraft am Krankenbett galt immer als Musterbeispiel praktischer Klugheit, nie als bloße Anwendung einer Formel.

Fazit

Der Unterschied zwischen Mensch und Maschine liegt also nicht im Deuten, Verbinden, Abwägen oder Urteilen. Das kann KI zunehmend gut, und das dürfen wir ruhig anerkennen. Er liegt im Verantworten. Nur wer zur Rechenschaft gezogen werden kann, kann für eine Entscheidung einstehen, und das lässt sich an kein System abgeben. Je selbstverständlicher die Maschine uns das Denken abnimmt, desto mehr kommt es auf jene an, die am Ende dafür nachvollziehbar und nachprüfbar geradestehen. Was das für unsere Ausbildung und unsere Prüfungen heißt, schauen wir uns im letzten Teil an.

Referenzen