5 Min. Lesezeit
Dual-Pass-Transkription: Wie wir medizinische KI in Echtzeit umsetzen
Warum wir zwei KI-Modelle hintereinander einsetzen – eines für Tempo, eines für Genauigkeit – und was wir dabei über deutsche Fachterminologie gelernt haben.
Als wir mit Psynex angefangen haben, wirkte das Transkriptionsproblem einfach: Therapiesitzung aufnehmen, Audio an ein Modell schicken, Text zurückbekommen. Es hat etwa eine Woche Testen gebraucht, um zu verstehen, warum diese Sichtweise falsch war, und ein paar weitere Wochen, um bei einer Architektur zu landen, die wirklich funktioniert. Was wir Dual-Pass-Transkription nennen – zwei verschiedene OpenAI-Modelle für zwei verschiedene Aufgaben –, entstand aus einer einfachen Erkenntnis: Die Anforderungen an eine Live-Anzeige und an eine medizinische Dokumentation sind nicht dieselben. Wer beide mit einem einzigen Modellaufruf erfüllen will, muss Kompromisse eingehen, die in beide Richtungen schaden.
Was wir zuerst versucht haben
Der naheliegende erste Versuch war, gpt-4o-transcribe für alles zu verwenden. Das Modell ist hervorragend – es kommt mit Akzenten, Zwischenrufen und Fachvokabular deutlich besser zurecht als alles, was wir vorher getestet hatten. Das Problem war die Latenz. Eine Therapiesitzung pausiert nicht, während man auf eine Transkription wartet. Wenn die Anzeige mehr als ein paar Sekunden hinter dem Gesprochenen herhinkt, verlieren Therapeut:innen den Faden zwischen Gespräch und Bildschirm. In unseren Tests erzeugte alles über etwa zwei Sekunden Verzögerung so viel kognitive Reibung, dass nicht mehr auf den Bildschirm geschaut wurde. Ab diesem Punkt ist die Live-Anzeige wertlos.
Die naheliegende Lösung war Streaming. Streamt man gpt-4o-transcribe aber in kurzen Audio-Abschnitten, zeigt sich ein anderes Problem: Das Modell braucht Kontext, um genau zu transkribieren. Medizinisches Deutsch steckt voller Komposita und Fachbegriffe, die ohne Umgebung tatsächlich mehrdeutig sind. Behandlungsplan klingt wie mehrere andere Wörter. Gesprächspsychotherapie wird verstümmelt, wenn das Modell zu wenig vom umgebenden Satz gehört hat. Wer in kleinen Abschnitten streamt, verlangt vom Modell Entscheidungen ohne den Kontext, den es dafür braucht. Das Ergebnis sind selbstsicher klingende Fehler – flüssige Transkription, die klinisch falsch ist.
Der Zwei-Pass-Ansatz
Die Architektur, bei der wir gelandet sind, trennt die beiden Aufgaben sauber.
Alle 15 Sekunden geht ein Audio-Abschnitt an gpt-4o-mini-transcribe. Mini ist schnell genug, damit die Live-Anzeige nah an Echtzeit bleibt. Und es ist gut genug für seine eigentliche Aufgabe: Es soll nicht das endgültige Protokoll erzeugen, sondern der Therapeutin oder dem Therapeuten während der Sitzung eine gut lesbare, weitgehend korrekte Ansicht des Gesagten geben. Kleine Fehler in der Live-Anzeige spielen keine Rolle. Wichtig ist, dass man dem Transkript folgen kann, ohne den Fokus zu verlieren.
Am Ende der Sitzung geht das komplette Audio in einem einzigen Aufruf an gpt-4o-transcribe. Die gesamte Sitzung – typischerweise 50 Minuten – gibt dem Modell den vollständigen Kontext. Es sieht das ganze Gespräch, kann Mehrdeutigkeiten auflösen, die mittendrin unklar waren, und erzeugt ein Transkript, das genau genug ist, um Teil der Patientenakte zu werden. Dieser finale Durchlauf ersetzt den Entwurf, der aus den 15-Sekunden-Abschnitten entstanden ist.
Der entscheidende Punkt: Das Modell für den finalen Durchlauf muss nicht in Echtzeit arbeiten. Es läuft nach dem Ende der Sitzung, während die Sitzung mit dem Patienten abgeschlossen wird oder eigene Notizen entstehen. Wenn man sich anschließend hinsetzt, um das Transkript zu prüfen, ist der 4o-Durchlauf längst fertig.
Eigenes Vokabular
Der zweite Baustein, der das für medizinisches Deutsch funktionieren lässt, ist das Einspeisen eigener Begriffe. Therapeut:innen und Kliniken verwenden Terminologie, die allgemeine Modelle nicht oft genug sehen, um sie zuverlässig zu transkribieren. Begriffe aus einem bestimmten Therapieverfahren, Medikamentennamen oder interne Kürzel einer Klinik für bestimmte Diagnosen bringen selbst gute Modelle ins Stolpern, wenn sie im Training kaum vorkamen.
Therapeut:innen können deshalb eine eigene Vokabelliste anlegen, und wir geben diese Begriffe sowohl im 15-Sekunden-Durchlauf mit Mini als auch im finalen 4o-Durchlauf mit. Eine einfache Ergänzung der Systemnachricht:
The following terms may appear in this session and should be transcribed exactly as written: Schematherapie, EMDR, Mentalisierungsbasierte Therapie, [...]Das ist wenig raffiniert, funktioniert aber gut. Das Modell nutzt den Hinweis, um bei akustisch mehrdeutigen Begriffen die richtige Entscheidung zu treffen, und vermeidet die halluzinierten Beinahe-Treffer, die in frühen Tests Probleme gemacht haben. Die Liste ist pro Person angelegt und wächst mit der Zeit – im normalen Gebrauch entsteht so ganz nebenbei ein persönlich abgestimmter Prompt.
Wie die Oberfläche aussieht
Während der Sitzung sieht man den Entwurf aus den Mini-Abschnitten in Echtzeit wachsen. Die Anzeige ist bewusst als Arbeitsentwurf gestaltet – keine saubere Typografie, ein dezenter Hinweis darauf, dass es sich um eine Live-Ansicht handelt. Nach dem Ende der Sitzung und dem abgeschlossenen 4o-Durchlauf erscheint das finale Transkript als eigenes Dokument: formatiert, bereit zur Prüfung und mit einer Diff-Ansicht, die wesentliche Korrekturen des finalen Modells gegenüber dem Entwurf hervorhebt.
Diese Diff-Ansicht war nützlicher als erwartet. Therapeut:innen nutzten sie nicht nur, um die Genauigkeit zu prüfen, sondern auch, um Muster zu erkennen, wo Mini regelmäßig danebenlag – meist ein Hinweis auf Begriffe, die noch in die eigene Vokabelliste gehörten. Die Korrekturschleife ist so zu einer eigenen Funktion geworden.
Was noch schwierig ist
Das 15-Sekunden-Intervall ist ein Kompromiss. Kürzere Abschnitte bedeuten eine reaktionsschnellere Anzeige, aber mehr kontextarme Mini-Aufrufe. Längere Abschnitte geben Mini mehr Kontext, erzeugen aber Verzögerung. Wir haben mit Sprachaktivitätserkennung experimentiert, um an natürlichen Pausen statt in festen Intervallen zu schneiden. Das hilft an den Abschnittsgrenzen, bringt aber eigene Sonderfälle mit sich, etwa bei langen Schweigephasen oder wenn zwei Personen dicht hintereinander sprechen.
Das andere offene Problem ist die Sprecherzuordnung. Derzeit ist das Transkript ein einziger Textstrom. Bei Paar- oder Gruppensitzungen ist aber klinisch wichtig, wer was gesagt hat. Sprechertrennung ist lösbar – sie sauber in die Zwei-Pass-Pipeline zu integrieren und so darzustellen, dass sie hilft, ohne zu überladen, daran arbeiten wir noch.