KI – Konsil oder Kommando?

Was bleibt, hat Folgen für die Lehre

Aus den ersten beiden Teilen dieser Blogbeitrag-Serie nehmen wir zwei Sätze mit.

1. Da spricht niemand. Ein Sprachmodell ist kein Gegenüber, sondern verdichtete menschliche Kultur (Friederichs, 2026a).
2. Und was dem Menschen bleibt, ist nicht das Erzeugen, sondern das Beurteilen und das Einstehen (Friederichs, 2026b).

Die Grenze verläuft also nicht zwischen Themen, sondern zwischen Tätigkeiten. Die Maschine erzeugt. Der Mensch beurteilt, ob das im Fall trägt, und legt sich fest. Das hat Folgen dafür, wie wir ausbilden und prüfen. Und, schöner gesagt, dafür, wie wir Freude an der eigenen Urteilskraft wecken.

Selberdenken ist der eigentliche Gewinn

Damit wird auch klar, warum wir Studierende weiterhin selbst suchen, rechnen und schreiben lassen, obwohl die Maschine das könnte. Es geht nicht um Misstrauen, und schon gar nicht um die Frage, ob jemand "schummelt". Es geht um etwas Schöneres. Beurteilen kann man nur, was man selbst einmal erzeugt hat. Wer in einem Feld nie eigene Antworten gesucht hat, dem fehlt das Gespür, um eine fremde Antwort zu prüfen, auch die einer KI.

Dieses Gespür, ein KI-Ergebnis einzuordnen und ihm bei Bedarf zu widersprechen, ist vielleicht die wichtigste ärztliche Kompetenz im KI-Zeitalter. Überspringen lässt es sich nicht. Und es aufzubauen macht sogar Freude. Wer die eigene Überlegung selbst durchdacht hat, macht nichts falsch, wenn danach eine KI dazukommt. Verpasst wird nur etwas, wenn die Maschine sofort alles übernimmt: eine jener Übungen, an denen genau dieses Gespür wächst.

Die eigentliche Arbeit sind die Anschlussfragen

Daraus folgt kein Verbot, sondern eine Verlagerung, und ehrlich gesagt die spannendere Hälfte der Arbeit. Sie beginnt nämlich erst mit den Fragen an die KI-Antwort. Wo könnte sie danebenliegen? Was hat die Maschine über die Patientin angenommen, das nie erhoben wurde? Wie gut ist die Evidenz dahinter? Was müsste sich ändern, damit die Antwort anders ausfällt? Und lässt sich die Begründung überhaupt nachvollziehen?

Diese Fragen zu stellen ist anspruchsvoller, als die Antwort zu erzeugen, und meistens auch interessanter. Genau hier sitzt die ärztliche Arbeit. Eine Prüfung, die das ernst nimmt, schaut deshalb weniger auf das fertige Produkt und mehr auf das Verständnis dahinter. Nach der Patienten-Untersuchung stellen Studierende ihre (Verdachts-)Diagnose vor und verteidigen sie in der Diskussion. Stellt sich dabei eine benannte Leitlinie als Erfindung der KI heraus, dann war ihr Prüfen die eigentliche Aufgabe, nicht die der Maschine. Das ist keine Schande, sondern genau der Teil, der beim Menschen bleibt. Die Nachfrage "Warum hier so und nicht anders?" ist dann keine Falle, sondern eine Einladung, das eigene Denken zu zeigen.

Die KI als Konsiliarius

Ein Bild aus dem ärztlichen Alltag fasst das gut zusammen. Die KI ist ein Konsiliarius, belesen, manchmal danebenliegend, nie haftbar und immer darauf angewiesen, dass die anfordernde Ärztin die Antwort einordnet. Die Linie heißt deshalb nicht "KI ja oder nein". Man darf den Konsiliarius anfordern wie eine geschätzte Kollegin, aber nicht zur entscheidenden Instanz machen. Und wer ein Konsil klug nutzen will, muss sein eigenes Fach gut genug verstehen, um zu erkennen, wann die Kollegin gefragt ist und wann auch sie einmal irrt.

Die Wortherkunft passt erstaunlich gut. Consiliarius ist der Ratgeber, consilium die Beratung und zugleich das Gremium, das entscheidet. Der Berater berät, das Konsil entscheidet. Die KI ist consiliarius, nicht consilium. Gute Lehre bildet deshalb nicht gegen die KI aus, sondern bildet die anfordernde Ärztin, mit der KI-Antwort als willkommenem Studienobjekt statt als Tabu.

Quellenarbeit als kleinste Form der Verantwortung

Damit schließt sich der Kreis zum ersten Teil. Quellenarbeit war nie nur Vorsicht gegen falsche Antworten. Sie ist die kleinste, alltägliche Form, Verantwortung zu übernehmen. Man steht für das ein, was man weitergibt. Wer eine KI-Antwort prüft, bevor er sie übernimmt, tut im Kleinen, was Ärzte täglich am Patienten im Großen tun müssen. Er macht ein fremdes, unsicheres Urteil zu seinem eigenen.

Die Grenze ist nicht überall gleich. Bei klar begrenzten, gut prüfbaren Aufgaben, etwa einer Übersetzung, einem Stück Code oder einer Gliederung, bringt menschliches Mitdenken wenig und kann sogar stören. Hier genügt ein kurzer Plausibilitätscheck. Bei großer Unsicherheit, hohem Einsatz oder Wertfragen zählt menschliches Denken umso mehr.

Bessere KI vergrößert den Bereich, in dem Erzeugen plus kurzer Check reicht. An der Stelle der Festlegung aber bleibt die Grenze. Sie liegt bei dem, der handelt, und die Maschine ist nicht Teil der Beziehung, in der die Werte der Patient*innen in die Entscheidung einfließen.

Vier Leitplanken für die Lehre

Wer heute eine feste Regel für den Umgang mit KI aufstellt, hat morgen schon ein besseres Modell vor sich, und die Regel ist eventuell überholt. Tragfähig bleibt nur, was sich nicht am Können der Maschine festmacht, sondern an der Rolle des Menschen. Man tut sicher gut daran, den Hype mal wegzulassen und eher zu einer bedachten, informierten Einführung überzugehen (siehe auch Boscardin et al., 2025).

Vier solche Leitplanken:

Die Grenze liegt an der Verantwortung, nicht am Werkzeug: Was sich delegieren lässt, verschiebt sich mit jedem Update. Wer am Ende einsteht, nicht. Studierende sollten deshalb weniger lernen, ob sie eine KI benutzen dürfen, als die Stelle zu erkennen, an der sie sich selbst festlegen sollten. Dort endet das Delegieren, heute wie in einigen Jahren.

Prüfen statt verbieten: Ein Verbot hält genau so lange, bis niemand mehr feststellen kann, ob es befolgt wird. Robuster ist, das Verständnis zu prüfen und nicht das Produkt: die mündliche Nachfrage, die Verteidigung, die Bitte, eine Entscheidung zu begründen. Die KI kann das Produkt perfekt liefern. Das Verständnis dahinter kann sie den Studierenden nicht abnehmen.

Offenlegen statt tabuisieren: Wer seine KI-Nutzung angeben muss, verschiebt den Maßstab vom Erwischtwerden zur Rechenschaft. Das ist keine Kontrolle, sondern eine kleine Übung im Einstehen. Und genau die wollen wir ausbilden.

Erst selbst erzeugen, dann urteilen: Das Gespür, eine fremde Antwort zu prüfen, wächst nur am eigenen Tun. Es lohnt sich deshalb, gezielt Phasen zu schützen, in denen ohne KI gearbeitet wird, nicht aus Misstrauen, sondern zur Kalibrierung. Wer die Mühe einmal kennt, erkennt später besser, wo die Maschine es sich zu leicht macht.

Fazit

Im ersten Teil hieß es: Da spricht niemand. Wo aber niemand spricht, haftet auch niemand — und diese Aufgabe bleibt bei uns. Für die Lehre heißt das nicht weniger Arbeit, aber vielleicht eine schönere. Wir bilden Menschen aus, die prüfen, was die Maschine erzeugt, und die für ihr Urteil geradestehen. Das Erzeugen nimmt die KI uns zunehmend ab, das Beurteilen und das Einstehen bleiben unsere Aufgabe, und mit ihnen die Befriedigung und Freude, die darin steckt.

Referenzen