Die Technik wird seit Jahrzehnten erforscht und erprobt. Mit den jüngsten Entwicklungen rund um „KI“ steigt der Einfluss auf das Gesundheitswesen.
Was steckt hinter dem Begriff Künstliche Intelligenz?
Die Übersetzung ist ein wenig irreführend und tatsächlich trifft „Machine Learning“ die Funktionsweise von KI deutlich besser. KI kann Texte erzeugen, Bilder malen, Musik komponieren und vieles weiteres - in beeindruckender Qualität.
All das geschieht jedoch nicht dank eigener Intelligenz. Computer haben keine menschlichen Empfindungen oder gar ein Gewissen, also das, was eine menschliche Intelligenz ausmacht. KI funktioniert durch Wiedergabe von wahrscheinlichen Verknüpfungen auf Grundlage erlernter Daten. Die Grundlagen heutiger KI-Systeme sind schon vor Jahrzehnten erforscht und entwickelt worden. Zum Durchbruch von ChatGPT und anderen Diensten haben die jetzt verfügbare Rechenleistung und die Menge an trainierten Daten geführt.
Wie funktionieren Textgeneratoren („GPT“) auf Basis künstlicher Intelligenz? Der Satz „Das Gesundheitswesen ist… “ kann auf verschiedene Weise sinnvoll vollendet werden, z. B. mit „… in Deutschland ein Erfolgsmodell“, „… unterfinanziert“ oder „… reformbedürftig“. KI wählt also die wahrscheinlichste Abfolge an Worten aus. Aufgrund großer Mengen erlernter Texte aus Wikipedia, Webseiten und anderer Quellen kann ein sogenanntes „Sprachmodell“ im Kontext der gestellten Frage sehr eloquent und überzeugend Texte zusammenstellen. Per Befehl lässt sich ein Gedicht oder ein umfangreiches Essay, optional gespickt mit etwas Humor, generieren.
Signifikante Produktivitätsverbesserung
Die KI-basierten Textgeneratoren verstehen die erzeugten Texte selbst nicht – sie kombinieren nur Wortfolgewahrscheinlichkeiten und erzeugen aus erlernten Datenbeständen eine Antwort, die auf uns sehr überzeugend wirkt, aber nicht zwingend richtig sein muss. Wenn die Quellen von schlechter Qualität sind oder die Fragestellung missverständlich ausgedrückt wird, produziert ChatGPT Falschaussagen, ohne rot zu werden. Es braucht weiterhin einen Menschen zur Formulierung der Frage („Prompt“) und zu Interpretation/Weiternutzung der Antwort.
Auf viele Berufsgruppen wird KI in den nächsten Jahren einen großen Einfluss haben. Das kann für manche Erleichterungen mit sich bringen, einige Berufe werden jedoch verdrängt. Studien haben gezeigt, dass Menschen dank KI deutlich produktiver arbeiten können. Wir verlassen uns aber dann auch zunehmend auf die Ergebnisse und neigen dazu, die KI-Zuarbeiten nicht mehr kritisch zu hinterfragen. Das zeigt sich heute schon durch kuriose Ereignisse oder gar Unfälle, wenn sich Fahrerinnen und Fahrer von einem veralteten oder defekten Navigationsgerät fehlleiten lassen.
Durchbruch Spracherkennung
Viele IT-Systeme werden aktuell um KI-Funktionen ergänzt, z. B. Microsoft 365, SAP aber auch Fachanwendungen im Gesundheits- und Sozialwesen. Neben textbezogenen Diensten wie ChatGPT gibt es weitere Anwendungsfelder für KI: Dialoge in natürlicher Sprache haben mit Alexa, Siri & Co. schon vor Jahren Einzug in unsere Smartphones, Autos und Haushalte gehalten. Vor wenigen Jahren erforderte eine gute Erkennung menschlicher Sprache noch viel individuelles Vorabtraining durch den jeweiligen Sprecher. Heute können selbst kompliziertere Texte oder Dialekte immer schneller und mit immer weniger Fehlern erkannt werden – unabhängig davon, wer gerade spricht.
Dabei werden verschiedene KI-Dienste kombiniert – die Spracherkennung liefert zurück, was sie in einzelnen Worten verstanden hat, während dann ein Textmodell aufgrund von Wortfolgewahrscheinlichkeit den inhaltlichen Zusammenhang herstellt und für wesentlich höhere Erkennungsraten sorgt. Die (fast) fehlerfreie Mitschrift von Sprache für die Patientenakte oder das „Mitschneiden“ einer besprochenen Befundung werden damit zur Realität.
Künstlerisch tätig
Auch bei der Erkennung und Erzeugung von Bildern gab es in den vergangenen Monaten große Fortschritte. So können hochauflösende Fotos in beeindruckender Qualität mit wenigen Befehlen durch KI-basierte Dienste wie DALL-E oder Midjourney erzeugt werden. Die erforderlichen „Prompts“ werden in natürlicher Sprache formuliert, ergänzt um einige Anweisungen (z. B. im Stil von van Gogh oder als Weitwinkel-Motiv).
Die Bilder werden durch eine KI-erzeugt, die mittels einer Grundlage von Unmengen eingelesener/erlernter Bilder in der Lage ist, wiederum neue Bilder zu erzeugen. KI-erzeugte Kunst ist dabei frei von Urheberrechten. Die Auswirkungen auf Künstlerinnen und Künstler, sowie andere kreative Berufsgruppen werden erheblich sein. Gleichzeitig entstehen neue Aufgabenfelder, weil sich Menschen auf das Formulieren von Prompts für die Erzeugung von Bildern spezialisieren.
Welchen Einfluss hat KI auf Gesundheitsberufe?
Schon heute nutzen wir Funktionen auf Grundlage „Maschinellem Lernens“, ohne dass uns das wirklich bewusst ist. Zum Beispiel erleichtern Routen- und Tourenplaner die Organisation der Fahrdienste in der Tagespflege. Die Auswertung der Verkehrslage bei Google Maps und anderen Anbietern basiert auf Algorithmen mit KI-Anteil. Wenn wir diese Daten mit Einsatzplänen kombinieren, lässt sich der Ressourcen-Einsatz weiter optimieren, in dem Hol- und Bringdienste so geplant werden, dass sie bestmöglich auf die Verkehrslage, den Dienstplan, aber auch die Bedürfnisse der Pflegebedürftigen abgestimmt sind.
Für Ärztinnen und Ärzte wie auch Pflegende ergeben sich Erleichterungen insbesondere in der Dokumentation, Kommunikation und Zusammenarbeit. Erste Einrichtungen und Dienste haben gute Erfahrung mit Spracherkennung über Smartphones gesammelt, die das gesprochene Wort direkt in die Patientenakte überträgt. Sprachliche Barrieren verlieren an Bedeutung und das Dokumentieren wird mittels KI einfacher. Insgesamt brauchen sich Medizinerinnen und Mediziner in den kommenden Jahren keine Sorgen um ihre berufliche Zukunft machen – auch nicht mit KI.
Im medizinischen Umfeld ist KI bereits weiter verbreitet, zum Beispiel in der Krebserkennung. Zumindest auf absehbare Zeit wird KI nicht die Diagnostik übernehmen, sondern vielmehr die Entscheidungsfindung unterstützen. Denkbar ist eine Übertragung auf andere Anwendungsfelder, bei der KI-Vorschläge für die Pflegeplanung oder für die Behandlung von Dekubiti macht. Das ersetzt kein medizinisches Fachpersonal oder Pflegekräfte, sorgt aber für höhere Produktivität, mehr Patientensicherheit und verbesserte Arbeitsabläufe.
Eine weitere Entlastung ist im Bereich der Robotik denkbar. Humanoide Pflegeroboter sind noch nicht am Horizont erkennbar, aber einzelne Unterstützungsfunktionen, z. B. mit smarten Liftern, Roboterarmen im OP oder autonomen Systemen für die Essenslogistik, sind heute schon Realität. Erste Restaurants nutzen Service-Roboter, die als fahrende Tablett-Wagen das Essen von der Küche zu den Gästen an den Tisch bringen. Noch sind einige Hürden zu nehmen, im Gesundheitswesen dürften solche Systeme in naher Zukunft Einzug halten. Denkbar sind selbstfahrende Essenswagen, die allein den Weg von der Küche in die Stationen fahren.
IT-Sicherheit und KI
Während Funktionen und Technik rund um Künstliche Intelligenz weiter in unser Leben und den Arbeitsalltag einziehen werden, ist der missbräuchliche Einsatz dieser neuen Technologien nicht ausgeschlossen. Es ist absehbar, dass KI für Cyber-Attacken genutzt wird und dass damit die Erkennung von Bedrohungen deutlich erschwert wird.
Angriffe auf die IT-Sicherheit werden meist aus dem Ausland gesteuert. Die verbesserte Qualität von Übersetzungshilfen steht auch Angreifenden zur Verfügung. Sogenannte „Deep Fakes“ könnten Videos entstehen lassen, in denen beispielsweise einer Geschäftsführerin eine Botschaft in den Mund gelegt wird, die sie so nie gesagt hat. Schon heute ist der Schaden durch den „Enkel-Trick“ oder „CEO Fraud“ immens. In Zukunft wird es schwieriger werden,Originale von Fälschungen zu unterscheiden.
Finden Sie mehr zum Thema Nutzung von KI im Unternehmen hier.
Ausprobieren erlaubt
Ob wir diese schöne neue KI-Welt mögen oder nicht – sie wird nicht mehr verschwinden und ein elementarer Bestandteil unseres Lebens werden. Umso wichtiger ist es, Kolleginnen und Kollegen aller Altersstufen mitzunehmen und auf diese neue Welt vorzubereiten. Wir brauchen ein kollektives Verständnis dafür, dass KI Grenzen hat und wir die Vorteile von KI zu unserem Wohle nutzen sollten – als Unterstützung und nicht als Ersatz für menschliche Arbeit im Gesundheitswesen.
Bei der Nutzung ist jedoch Vorsicht geboten: Es sollten keine sensiblen Informationen geteilt werden und die erzeugten Resultate vor einer weitergehenden Nutzung kritisch geprüft werden. Oftmals ist KI ein guter Impulsgeber, wenn es um das Schreiben von Texten geht. Blind verlassen sollte man sich aber auf die so erzeugten Ergebnisse besser nicht.
Nutzung verantwortungsvoll gestalten
KI-Systeme werden von Menschen trainiert und genutzt. So ist beim Trainieren von KI-Modellen genauso Umsicht geboten, wie auch bei der Nutzung von KI-gestützten Ergebnissen. Studien haben gezeigt, dass Autos mit Unfallfrüherkennung und Selbstbremsfunktionen auf Menschen mit heller Hautfarbe deutlich besser reagieren als auf Menschen mit dunkler Hautfarbe.
Algorithmen sorgen aktuell dafür, dass Stellenanzeigen auf Facebook sehr Gender-bezogen ausgespielt werden: Jobs für Erzieherinnen und Erzieher bekommen fast ausschließlich Frauen zu Gesicht, während Stellen für Kraftwagenfahrerinnen und -fahrer fast ausschließlich bei männlichen Profilen angezeigt werden, wie die Organisation AlgorithmWatch gezeigt hat.
Ethik und Datenschutz spielen bei der Entwicklung und Nutzung von KI eine zentrale Rolle, was sich durch die Vorgaben im jüngst verabschiedeten AI Act niederschlägt. Im Gesundheitswesen muss der Umgang mit personenbezogenen Daten besonders sorgsam angegangen werden. Persönliches sollte nicht in Trainingsdaten aufgenommen werden und die Nutzung von KI-erzeugten Entscheidungen sollte menschliches Handeln unterstützen, aber nicht ersetzen.