KI-Dokumentation ist mehr als Transkription

Maja Dobelsek, Oberärztin i. V. bei Psychiatrie St. Gallen, fasst in einem LinkedIn-Post einen Artikel aus The Lancet Psychiatry anschaulich und übersichtlich zusammen. Sie schreibt:

(…) Aktuelle KI-Dokumentationstools übernehmen häufig gleichzeitig drei sehr unterschiedliche Aufgaben:

• Narrative Synthesis: Was wurde im Gespräch berichtet?

• Observational Inference: Was lässt sich zum psychopathologischen Befund ableiten?

• Diagnostic Reasoning: Welche diagnostische Einschätzung und welcher Behandlungsplan folgen daraus?

Das Problem:

Diese Schritte benötigen unterschiedliche Daten und unterschiedliche klinische Kontrolle. Werden sie in einem System vermischt, können sich Fehler von der Dokumentation bis zur diagnostischen Einschätzung fortsetzen. (…)

Was könnte helfen?

• Kliniker:innen: eigene Einschätzung bilden und zusätzlich diktieren, bevor der KI-Entwurf gelesen wird, und nicht erfassbare Beobachtungen explizit dokumentieren/diktieren.

• Entwickler:innen: sichtbar machen, welche Inhalte direkt aus dem Gespräch stammen und welche von der KI inferiert wurden – und Felder unterdrücken, für die keine ausreichende Datengrundlage besteht.

• Organisationen: Transparenz und Einwilligung nicht nur auf die «Aufzeichnung», sondern auf den tatsächlichen Funktionsumfang der KI beziehen.

Die entscheidende Frage ist vielleicht nicht mehr nur: «Wie gut dokumentiert die KI?»
Sondern: «An welcher Stelle beginnt sie, klinisch zu denken?»

Quelle: https://www.linkedin.com/feed/update/urn:li:activity:7502357267552432128/

Artikel: https://www.thelancet.com/journals/lanpsy/article/PIIS2215-0366(26)00201-4/abstract