KI in der Pflege: Verantwortungsvoller Einsatz anhand von Praxisbeispielen

Der KI-Assistent d.velop pilot zeigt bereits in vielen Bereichen, welche unglaublichen Mehrwerte KI im Zusammenspiel mit einem Dokumentenmanagement-System (DMS) und großen Datenmengen bringen kann. Auch im Sozialwesen bringt der Einsatz viele Vorteile, wenn man es richtig macht. Neugierig geworden? Dann lass uns die Möglichkeiten des Einsatzes von KI in der Pflege ansehen und wie sie deinen Arbeitsalltag erleichtern kann.

Die Frage lautet nicht mehr, ob KI eingesetzt wird, sondern wie.

Im Sozialwesen und der Pflege ist häufig noch Skepsis gegenüber dem Einsatz von KI anzutreffen – schließlich arbeitet man mit Menschen und trifft Entscheidungen, welche konkrete Auswirkungen auf diese haben. Gleichzeitig muss aber auch realistisch davon ausgegangen werden, dass KI unbemerkt und unreflektiert Einzug im Alltag der Pflege hält. Es wäre naiv zu glauben, dass Mitarbeitende keine Chatbots wie ChatGPT, Gemini oder Copilot oder KI-basierte Diktier- oder Übersetzungstools nutzen, um ihre Aufgaben zu erledigen. Die Frage ist also nicht mehr, ob KI eingesetzt wird, sondern wie. Dabei besteht die Gefahr, dass besonders schützenswerte personenbezogene interne Daten in die Lerndaten der großen KI-Modelle einfließen. Diese allgemein zugänglichen KI-Modelle lernen unter anderem aus unstrukturierten öffentlichen Daten im Internet; mit allen Vor- und Nachteilen dieser unkontrollierbaren Datenbasis.

The real risk with AI isn’t malice but competence. A super intelligent AI will be extremely good at accomplishing its goals, and if those goals aren’t aligned with ours, we’re in real trouble.

Stephen Hawking

Im Gegensatz dazu bieten interne Dokumentenmanagement-Systeme (DMS) einen abgegrenzten Bereich mit hochwertigen, strukturierten Dokumenten. Das Zitat von Stephen Hawking in Bezug auf eine superintelligente KI betont die allgemeine Notwendigkeit, KI mit unseren menschlichen Zielen und Werten in Einklang zu bringen. Grundlage hierfür ist, dass du immer die Kontrolle über die Datenbasis und die dort enthaltenen Dokumente hast.

Vertrauenswürdiger Einsatz von KI in der Pflege

Die Nutzung von Künstlicher Intelligenz (KI) bringt zudem unweigerlich viele rechtliche und moralische Fragen mit sich, und wie eben erläutert, sollten menschliche Werte nicht außen vor gelassen werden. Bevor wir uns also gleich zu konkreten Beispielen übergehen, schauen wir uns zuerst die Leitlinien der Europäischen Kommission an, welche einen guten Rahmen für die ethische Nutzung von KI in Europa bieten.

In diesem Blogbeitrag möchten wir daher auch darauf eingehen, wie diese Leitlinien durch KI-Anwendungen konkret in der Praxis erfüllt werden können.

Darüber hinaus gibt es noch den AI-Act, der diese Prinzipien in konkrete rechtliche Anforderungen überführen soll. Die Ethik-Leitlinien sind also das „Warum“, der AI-Act ist das „Wie“: Die Leitlinien liefern die Wertebasis, der AI-Act sorgt für die Umsetzung in der Praxis.

1. Wie KI vorhandene Informationen in der Pflegeeinrichtung erst vollständig verfügbar macht

Dokumentation, also das Erstellen der eben erwähnten Dokumente, am besten in einem Dokumentenmanagement-System (DMS), ist ein wichtiger, aber oft unbeliebter Teil der Arbeit in der Pflege.

Wie viel Zeit denkst du, verbringen Pflegekräfte pro Woche nur mit der Pflegedokumentation?

Eine Studie der Bundesregierung fand heraus, dass etwa 13 % der Arbeitszeit dafür verwendet wird. Die Pflegekräfte selbst schätzen den Aufwand sogar höher ein, nämlich auf 20 bis 30 % der Arbeitszeit; die Wahrheit liegt wahrscheinlich dazwischen.

Und diese Zahlen betreffen nur die Pflegedokumentation. In sozialen Einrichtungen gibt es darüber hinaus auch noch andere Dokumentationsaufgaben, wie zum Beispiel für das Qualitätsmanagement. Mit den Jahren entsteht so ein riesiges Archiv an Dokumenten. Dieser Berg an Dokumenten ist eine ideale Grundlage für einrichtungsinterne KI-Anwendungen und so ein wertvoller Schatz, der nur darauf wartet, von dir gehoben zu werden!

Large Language Model (LLM) als Basis von KI in der Pflege

Aber wie findest du die Informationen, die für dich wichtig sind? Für uns Menschen ist es am einfachsten, eine Frage in natürlicher Sprache zu stellen. Der d.velop pilot nutzt ein Large Language Model (LLM), welche diese Fragen in Textform versteht, den Dokumentenbestand durchsucht, relevante Informationen findet und eine prägnante Zusammenfassung erstellt. Der d.velop pilot ermöglicht es uns zudem, einen KI-Assistenten für einen Teilbereich unseres Archivs zu erstellen, hier die QM-Dokumentation. Nehmen wir als Beispiel folgende kurze Anweisung in natürlicher Sprache (auch „Prompt“ genannt) an den Assistenten:

„Welche Fehler kann ich bei der Blutdruckmessung machen?“

Wie wir sehen, gibt der KI-Assistent eine Zusammenfassung der gefundenen Informationen als Antwort, der Mitarbeitende muss nicht mehr unzählige Dokumente selbst durchsuchen und spart sich somit Zeit und Mühe.

Vielfalt, Fairness und Vermeidung von Diskriminierung

Diskriminierung kann viele Bereiche des Lebens betreffen und erstreckt sich auf Merkmale, wie Alter, Gesundheit, Beeinträchtigungen, Armut, politische Einstellung, Religion, Geschlecht, Geschlechtsidentität, Staatsangehörigkeit, ethnische Herkunft oder sexuelle Orientierung. Wenn es etwa gehörlose Bewohner:innen in der Einrichtung gibt, sollte in der Datenbasis, der Handlungsrichtlinie zur Blutdruckmessung, ergänzt werden, dass die Pflegekraft Gebärdensprache können muss oder aber alternativ eine dolmetschende Person zur Verfügung steht.

Wichtig ist auch die Auswahl des KI-Modells, denn politische Voreingenommenheit und Einflussnahme durch KI sind kein theoretisches Risiko mehr, sondern bereits praktische Realität. Die meisten bekannten KI-Systeme selbst haben zwar keine eigenen diskriminierenden Meinungen oder Vorurteile – sie spiegeln jedoch die Strukturen und Verzerrungen ihrer Trainingsdaten wider. Werden diese nicht kritisch geprüft, besteht die Gefahr, dass bestehende Diskriminierungen unbewusst verstärkt und so die Vergangenheit reproduziert wird. Besonders in der Pflege und Arbeit mit Menschen ist es aber wichtig, reflektiert neue Wege gehen zu können und nicht nur stumpf das bisherige zu wiederholen. Deshalb sollten Dokumente auf problematische Inhalte geprüft und Ergebnisse einer KI immer nur als das betrachtet werden, was sie sind: Wertvolle und fundierte Vorschläge eines technischen Hilfsmittels, welches diese aber nicht nach ethischen Gesichtspunkten bewerten kann. Daher ist und bleibt in letzter Instanz immer noch der selbstständig denkende (und fühlende) Mensch nötig.

Transparenz und Kontrolle der KI-Antwort

Der Einsatz von Black-Box-Algorithmen ist in sensiblen Bereichen wie der Pflege kaum vertretbar. Hier muss immer nachvollziehbar sein, wie die KI zu ihrem Ergebnis gekommen ist. Im vorangegangenen Video zum Thema Blutdruckmessung sieht man, wie dies sichergestellt wird: Zusätzlich zur Antwort der KI werden die Abschnitte der Quell-Dokumente gezeigt, aus denen die Informationen stammen. Der Mitarbeitende kann jederzeit das Originaldokument ansehen. So gibt es keine Aussage ohne Nachweis und aus der KI-Blackbox wird eine KI-Whitebox. Der folgende Screenshot zeigt noch mal im Detail, wie die Quellen mit den Nummern 1 bis 3 und die zitierten Passagen mit a) oder b) gekennzeichnet werden:

2. Intelligente Suche mithilfe von KI in der Eingliederungshilfe – Liegt eine gültige Kostenzusage vor?

Aber auch bei anderen alltäglichen Aufgaben kann künstliche Intelligenz deutlich punkten. Ein anschauliches Beispiel aus dem Arbeitsalltag im Sozialwesen: Wir möchten wissen, welche Kostenzusage für unsere Klienten:innen als Nächstes ausläuft.

Da diese Informationen in sehr unterschiedlich aufgebauten Schreiben verschiedener Kostenträger enthalten sind, ist eine Auswertung aufwendig und in der Regel mit hohem Customizing-Aufwand verbunden. Genau hier kommt unser KI-Partner Parashift aus der Schweiz ins Spiel: Mithilfe intelligenter Texterkennung kann die KI relevante Informationen kontextbasiert extrahieren. Durch sogenanntes Prompting lassen sich hier gezielte Abfragen formulieren, wie zum Beispiel:

„Ermittle mir das Datum, bis wann die Kostenzusage gültig ist.“

Durch die Analyse von Zeitstempeln lässt sich dann leicht die Kostenzusage identifizieren, welche zuerst ausläuft. Oder noch besser: Man setzt hierfür automatische Prozesse ein; dazu aber im nächsten Kapitel gleich mehr.

KI in der Pflege sicher einsetzen – Sicherheit, Privatsphäre und Datenschutz

Kostenzusagen enthalten besonders schützenswerte personenbezogene Daten. Wie steht es dabei um Datenschutz und Datensouveränität? Der d.velop pilot kann aktuell eines von zwei sicheren LLM-Optionen nutzen und du als Kunde entscheidest welches:

Gerade für Organisationen im Sozialwesen ist das Hosting in Deutschland besonders relevant. Bei beiden Varianten ist aber sichergestellt, dass deine Daten nicht für Trainingszwecke verwendet werden. Du als Kunde entscheidest selbst, welche Dokumente verarbeitet werden – alle anderen bleiben außen vor. Zusätzlich sind deine Daten sowohl bei der Übertragung als auch lokal verschlüsselt. Sie bleiben also vollständig unter deiner Kontrolle. Ergänzt wird dies durch umfassende technische Sicherheitsmaßnahmen.

3. Möglichkeiten des d.velop process studio in Verbindung mit dem d.velop pilot

Mit d.velop pilot lassen sich LLM-Fähigkeiten nahtlos in bestehende Geschäftsprozesse integrieren. So kann beispielsweise der Ablauf eines Prozesses intelligent und KI-gestützt gesteuert werden. Auch die automatische Generierung von Inhalten – etwa für Formulare oder Benutzeraufgaben – lässt sich auf diesem Weg einfach und effizient umsetzen.

Nehmen wir als konkretes Beispiel wieder Kostenzusagen: Sobald alle relevanten Informationen aus den entsprechenden Dokumenten extrahiert wurden, kann etwa wöchentlich ein Report erstellt werden, der alle demnächst ablaufenden Kostenzusagen übersichtlich auflistet. Zusätzlich könnte die KI zu jedem Dokument eine kurze, prägnante Zusammenfassung generieren, die direkt im Report eingebunden wird.
Du siehst, insbesondere in Verbindung mit dem d.velop process studio ergeben sich hier unzählige spannende Möglichkeiten, die nur darauf warten, umgesetzt zu werden.

Gesellschaftliche und ökologische Verantwortung

Bleiben wir, mit Blick auf die Ethik-Leitlinien für KI, beim Thema dieser vielfältigen Einsatzmöglichkeiten. Wenn, wie gezeigt, der Einsatz von KI für definierte Aufgabengebiete die tägliche Arbeit Mitarbeitender in der Pflege verbessert, stellt sich die Frage, ob es aus gesellschaftlicher Sicht vertretbar wäre, diese Möglichkeiten bewusst nicht zu nutzen. Wie in vielen Aspekten des Lebens kommt es hier aber immer primär auf das „Wie“ und somit auf einen reflektierten und verantwortungsvollen Umgang mit Technologie an. Und aus ökologischer Sicht gibt es sogar zwei Vorteile: erstens die Effizienzsteigerung im eigenen Unternehmen. Zweitens können durch die Nutzung von KI-Diensten in der Cloud Ressourcen gespart werden, weil man auf eigene, oft weniger effiziente und langfristig abzuschreibende IT-Infrastrukturen verzichten kann.

Fazit

Künstliche Intelligenz eröffnet Möglichkeiten in bislang ungekanntem Ausmaß. Gerade im Sozialwesen und in der Pflege ist jedoch ein fachlich fundierter und ethisch verantwortungsvoller Einsatz entscheidend. Dabei gilt es, zentrale Fragen zu berücksichtigen – etwa zur Auswahl der Trainingsdaten, zum Datenschutz, zur Transparenz und zur Vermeidung von Diskriminierung. Ebenso wichtig ist die individuelle Verantwortung jeder einzelnen Person für einen reflektierten und bewussten Umgang mit KI-Systemen.
d.velop bietet dir mit d.velop pilot und dem d.velop process studio sowie weiteren innovativen Lösungen von unseren App-Buildern und Partnern viele Möglichkeiten für den Einsatz von KI.

Möchtest du selbst zum:zur KI-Digitalisierer:in deiner Organisation werden? Dann nimm Kontakt mit uns auf – wir begleiten dich auf dem Weg! Vielleicht hattest du beim Lesen dieses Blogbeitrags sogar schon eigene Ideen für spannende KI-Anwendungen in deiner Einrichtung? Wir freuen uns darauf!