KI-Kamera soll OP-Säle sicherer und effizienter machen

Das Brigham and Women's Faulkner Hospital in Boston ist das jüngste Krankenhaus in den USA, das künstliche Intelligenz einsetzt, um seine Operationssäle zu überwachen und dadurch mutmaßlich die Sicherheit und Effizienz zu verbessern. Damit folgt es rund zwei Dutzend anderen Krankenhäusern in den USA und Kanada. Die eingesetzte KI-gestützte Plattform heißt OR Black Box, benannt nach den Aufzeichnungsgeräten in Flugzeugen. Entwickelt wird sie von Surgical Safety Technologies in Toronto.

Tatsächlich handelt es sich bei der Technologie nicht um eine Black Box im eigentlichen Sinne, sondern um ein System von Weitwinkelkameras und proprietären, maßgeschneiderten KI-Modellen. Sie ist, wie der Hersteller betont, auch nicht dazu gedacht, die Ereignisse, die zu einem medizinischen Zwischenfall geführt haben, im Nachhinein zu klären und individuelle Mitarbeiterinnen und Mitarbeiter zu überwachen und zur Rechenschaft zu ziehen. Vielmehr soll die Technik dazu beitragen, Missgeschicke zu verhindern.

Die OP-Blackbox anonymisiert die Menschen in den Operationssälen; die Software verpixelt Gesichter und "karikiert" die Körper. Sie sammelt und analysiert die Daten und gibt den Krankenhäusern anschließend Rückmeldung über die Einhaltung von Hygiene-Protokollen, über Effizienz, Sicherheit, Qualitätskontrollen und liefert dadurch Video- und Audioclips zur Überprüfung, Kommentierung und Schulung. Nach 30 Tagen werden alle Aufnahmen gelöscht.

Wie die Zeitung Boston Globe schreibt, habe das Duke Health Krankenhaus in North Carolina bereits vor vier Jahren mit dem Einsatz einer OP-Blackbox begonnen. Nach Auswertung der Daten haben die Verantwortlichen festgestellt, dass das OP-Personal das Protokoll für die Vorbereitung der Haut der Patienten auf chirurgische Schnitte nicht sorgfältig befolgte. "Es sind die einfachen Dinge, von denen wir eigentlich dachten, dass sie gründlich ausgeführt werden", sagte Christopher Mantyh, Professor für Chirurgie und stellvertretender Vorsitzender für klinische Operationen an der Duke University School of Medicine. Ihm zufolge lud das Krankenhaus das OP-Personal anschließend zum Mittagessen ein und veranstaltete eine Nachschulung.

Vor- und Nachteile der KI-Überwachung

Doch die Skepsis an der KI-Überwachung folgt der Black Box in jedes neue Krankenhaus. Im jüngsten Fall erklärte Janet Donovan, OP-Assistentin bei Faulkner und Gewerkschaftsfunktionärin der Massachusetts Nurses Association, gegenüber dem Boston Globe, dass sich das Krankenhauspersonal nicht für die Technologie erwärmen könne. Sie sei vor allem besorgt darüber, ob Fehler, die von den Kameras aufgezeichnet werden, zur Disziplinierung des Pflegepersonals verwendet werden könnten. Sie sei ebenfalls nicht davon überzeugt, dass die Identität des Personals ausreichend geschützt wird. Da die OR Black Box bisher nur in zwei OP-Sälen eingesetzt wird, in denen meist dasselbe Personal arbeitet, wäre es einfach, anhand der Daten herauszufinden, wer wann was getan hat.

Außerdem stellt sich die Frage, wie die Daten im Falle eines Kunstfehlers ins Spiel kommen könnten. "Wir leben im Zeitalter der Technologie und wissen, dass nichts, was aufgezeichnet wird, jemals wirklich verschwindet", schrieb Donovan in einem Brief an den Chefarzt der Chirurgie des Krankenhauses.

Tatsächlich bleibt die Frage, wie die Daten in Rechtsfällen verwendet werden könnten. Anwälte werden mit ziemlicher Sicherheit versuchen, an die Daten zu kommen, wenn eine Klage eingereicht wird. Richard Epstein, Juraprofessor an der New York University, sagte im vergangenen Jahr gegenüber dem Wall Street Journal, dass es durchaus möglich sei, an die Daten zu gelangen. "In der medizinischen Welt gibt es strenge gerichtliche und medizinische Auflagen, und letztendlich wird nicht die Institution darüber entscheiden, für was die Informationen verwendet werden", sagte Epstein. Trotzdem wisse im Moment niemand, was passieren wird, denn "der rechtliche Schutz ist nicht klar umrissen und bleibt ungewiss, bis er durch Rechtsstreitigkeiten und/oder Gesetze geprüft wird."

Effizienz verbessern aufgrund der Kamera-Aufzeichnungen

Derweil konzentrieren sich die ersten Anwender auf die positiven Aspekte der Technologie. In der Mayo Clinic in Minnesota, die die Technologie seit Ende 2021 einsetzt, nutzte die Verwaltung die OR Black Box, um herauszufinden, ob wichtige chirurgische Geräte in einigen ihrer Operationssäle optimal angeordnet waren. Daraufhin wurden die Abläufe angepasst und die Effizienz verbessert.

"Es gab viele positive Veränderungen in Bezug auf die Teamarbeit und die Teamfunktion und die Art und Weise, wie wir auf Dinge reagieren", sagte Sean Cleary, chirurgischer Onkologe an der Mayo Clinic, gegenüber dem Branchenportal Becker's Hospital Review. "Wenn im OP-Saal etwas passiert und das Team in der Lage ist, auf eine Planänderung reibungslos und effizient zu reagieren, können wir das anhand der Aufnahmen festhalten und zur Schulung heranziehen."

Der Artikel erschien ursprünglich auf Ars Technica.

(jle)