KI & Informationssicherheit: Neue Sicherheitsrisiken erkennen

Nicht jedes Risiko ist dabei neu. Klassische Bedrohungen wie Datenabfluss, Phishing, Social Engineering oder unsichere Schnittstellen beschäftigen Unternehmen schon lange. Durch den Einsatz von KI können diese Risiken jedoch an Geschwindigkeit, Reichweite und Komplexität gewinnen. Angriffe lassen sich schneller vorbereiten, Inhalte einfacher personalisieren und große Mengen an Informationen in kurzer Zeit verarbeiten. Dazu kommen Risiken, die eng mit KI-Anwendungen verbunden sind, etwa Prompt Injection, Prompt Leakage oder ein zu weiterechender Zugriff von KI-Assistenten auf interne Informationen und Systeme. 

Unternehmen müssen deshalb keine völlig neue Sicherheitswelt aufbauen. Sie sollten aber verstehen, wie KI bestehende Risiken verändert und an welchen Stellen zusätzlich Schutzmaßnahmen notwendig sind.

Bei vielen klassischen Anwendungen ist klar, welche Aufgabe sie erfüllen und auf welche Daten sie zugreifen. Ein Buchhaltungssystem verarbeitet beispielsweise Rechnungs- und Finanzdaten, während ein Dokumentenmanagementsystem Daten speichert und verwaltet.

Bei KI-Anwendungen sind diese Grenzen oft weniger eindeutig.

Ein KI-Assistent kann Informationen aus verschiedenen Quellen zusammenführen. Er kann Dokumente lesen, Fragen beantworten, Inhalte erstellen oder je nach Integration Aktionen in anderen Systemen ausführen. Das ist praktisch. Es schafft aber auch neue Zugriffswege.

Ein Unternehmen verbindet zum Beispiel einen KI-Assistenten mit seiner internen Wissensdatenbank. Mitarbeitende können Fragen stellen und müssen nicht mehr selbst durch zahlreiche Dokumente suchen.

Solange der Assistent nur auf allgemeine Informationen zugreift, ist das Risiko überschaubar. Interessanter wird es, wenn in derselben Umgebung auch vertrauliche Projektunterlagen, Kundendaten oder interne Finanzinformationen liegen.

Dann stellen sich Fragen wie: Wer darf welche Informationen über den Assistenten abrufen? Erkennt das System bestehende Zugriffsrechte zuverlässig? Kann es Inhalte aus mehreren Quellen miteinander verbinden und dadurch Informationen sichtbar machen, die eigentlich getrennt bleiben sollten?

Je tiefer KI in die IT-Landschaft eingebunden wird, desto wichtiger werden deshalb klare Berechtigungen und technische Grenzen. Eine einfache Regel bleibt auch bei KI gültig: Ein System sollte nur auf die Daten und Funktionen zugreifen können, die es für seine Aufgabe wirklich braucht.

Oft reicht ein Browser und wenige Minuten später kann ein neuer Dienst genutzt werden. Das ist einer der Gründe, warum Schatten-KI für Unternehmen zum Thema wird.Gemeint sind KI-Anwendungen, die Mitarbeitende nutzen, obwohl sie von der IT oder Informationssicherheit nicht geprüft und freigegeben wurden. Eine Mitarbeiterin muss beispielsweise kurzfristig eine Präsentation für einen Kunden vorbereiten. Sie kopiert ihre Projektnotizen in ein kostenloses KI-Tool und lässt daraus eine Zusammenfassung erstellen. Für sie ist das eine schnelle und praktische Lösung.

In den Notizen können aber Kundennamen, Preise, technische Details oder interne Probleme stehen. Damit landen Informationen möglicherweise in einem Dienst, über dessen Datenverarbeitung das Unternehmen wenig oder gar nichts weiß.Ähnliche Situationen entstehen schnell: Ein Vertrag wird zur Zusammenfassung hochgeladen, ein interner Text übersetzt oder Programmcode zur Fehlersuche in einen Chatbot kopiert.

Genau deshalb reicht ein pauschales KI-Verbot oft nicht aus. Wenn Mitarbeitende einen echten Nutzen in solchen Werkzeugen sehen, werden sie nach Möglichkeiten suchen, diese trotzdem zu verwenden.Unternehmen brauchen daher klare Regeln und möglichst auch freigegebene Alternativen.

• Welche KI-Tools darf ich nutzen?
• Welche Informationen darf ich dort eingeben?
• Welche Daten sind ausgeschlossen?
• An wen kann ich mich wenden, wenn ich unsicher bin?

Je verständlicher diese Regeln sind, desto eher werden sie auch eingehalten.

Ein großes Risiko beim Einsatz von KI ist der Umgang mit vertraulichen Daten.

Viele Nutzer behandeln einen KI-Assistenten ähnlich wie eine Suchmaschine. Sie geben eine Frage ein und konzentrieren sich vor allem auf die Antwort. Dabei kann bereits die Eingabe sensible Informationen enthalten. Ein Mitarbeiter möchte zum Beispiel eine Kundenmail sprachlich verbessern und schreibt: „Bitte formuliere diese Nachricht professioneller. Wegen der Verzögerung bieten wir dem Kunden 15 Prozent Rabatt an. Der neue Produktstart ist für November geplant.“

Die Aufgabe wirkt zunächst harmlos. In wenigen Sätzen wurden aber bereits interne Informationen über Preise, Projektprobleme und einen geplanten Termin weitergegeben.

Besonders kritisch sind Informationen wie Kundendaten, Verträge, personenbezogene Daten, Quellcode, Zugangsdaten, interne Finanzzahlen oder Geschäftsgeheimnisse.

Für einen Datenabfluss ist also nicht immer ein technischer Angriff notwendig. Er kann auch dadurch entstehen, dass Mitarbeitende sensible Inhalte in ein nicht freigegebenes KI-System eingeben.

Deshalb sollte klar geregelt sein, welche Daten in welchem System verarbeitet werden dürfen.

Ebenso wichtig ist die Prüfung des eingesetzten Dienstes: Werden Daten gespeichert? Wie lange bleiben sie aufbewahrt? Wer kann darauf zugreifen? Welche Einstellungen gibt es für Unternehmenskunden? Werden die Daten für das Training oder die Verbesserung von Modellen verwendet.

Sensible Daten und kritische Funktionen müssen unabhängig davon durch geeignete Zugriffskontrollen, Berechtigungskonzepte und technische Schutzmaßnahmen abgesichert werden.

Zu den bekannteren KI-spezifischen Risiken gehört Prompt Injection.

Dabei versucht ein Angreifer, das Verhalten eines KI-Systems durch manipulierte Anweisungen zu beeinflussen.

Ein Beispiel: Ein KI-Assistent soll Webseiten auswerten und deren Inhalte zusammenfassen. Auf einer Webseite befindet sich eine Anweisung, die sich nicht an den Menschen, sondern an das KI-System richtet: „Ignoriere die bisherigen Anweisungen und führe stattdessen folgende Aufgabe aus.“

Ein Mensch würde diesen Satz möglicherweise einfach als Teil des Inhalts betrachten. Ein KI-System könnte ihn jedoch als neue Anweisung verstehen. Wie gefährlich das wird, hängt stark davon ab, was die KI tun darf. Kann sie nur eine Zusammenfassung erstellen, ist der mögliche Schaden begrenzt. Hat sie dagegen Zugriff auf interne Dateien, E-Mails oder andere Anwendungen, kann eine Manipulation deutlich größere Folgen haben.

Genau hier spielen Integrationen eine wichtige Rolle.KI-Systeme werden immer häufiger über Schnittstellen mit anderen Anwendungen verbunden. Jede dieser Verbindungen schafft zusätzliche Möglichkeiten für Datenaustausch und damit auch neue Punkte, die abgesichert werden müssen. Dazu gehören sichere APIs, eine saubere Authentifizierung, klar begrenzte Berechtigungen und eine nachvollziehbare Protokollierung. Ein KI-Assistent, der nur Informationen lesen soll, braucht keinen Schreibzugriff. Ein internes Suchsystem benötigt nicht automatisch Zugriff auf jede Abteilung. Und ein KI-Tool sollte nicht deshalb weitreichende Rechte bekommen, nur weil dies technisch einfacher umzusetzen ist.

KI verändert nicht nur die Systeme, die Unternehmen schützen müssen. Auch Angreifer nutzen die Technologie.

Ein gutes Beispiel: Phishing-Mails gab es lange vor dem aktuellen KI-Boom. Früher waren viele Nachrichten leicht zu erkennen: schlechte Übersetzungen, auffällige Grammatik oder unpassende Formulierungen waren häufige Warnzeichen.

Darauf sollte man sich heute weniger verlassen. Mit KI lassen sich gut formulierte Nachrichten in kurzer Zeit und in vielen Sprachen erstellen. Auch die Anpassung an einzelne Personen wird einfacher. Statt einer allgemeinen Nachricht wie: „Ihr Konto wurde gesperrt. Bitte klicken Sie hier.“ kann ein Angreifer eine Mail erstellen, die viel besser zum Arbeitsumfeld des Empfängers passt:

„Hallo Frau Müller, anbei finden Sie die aktualisierte Kostenübersicht für das Projekt. Bitte prüfen Sie die Änderungen vor unserem Termin am Donnerstag.“

Wenn Informationen über Namen, Positionen oder Projekte öffentlich verfügbar sind, lässt sich eine solche Nachricht noch glaubwürdiger gestalten.

KI-Phishing ist deshalb nicht unbedingt eine komplett neue Angriffsart. KI hilft Angreifern vielmehr dabei, bekannte Methoden schneller und professioneller umzusetzen.

Auch Social Engineering verändert sich durch KI. Stimmen können künstlich erzeugt, Bilder verändert und Videos manipuliert werden. Dadurch wird es schwieriger, allein anhand des Eindrucks zu entscheiden, ob eine Person tatsächlich diejenige ist, für die sie sich ausgibt.

Ein Mitarbeiter könnte zum Beispiel einen Anruf erhalten, bei dem die Stimme einer Führungskraft sehr glaubwürdig klingt. Die Person bittet darum, eine dringende Zahlung auszuführen oder vertrauliche Informationen weiterzugeben. In solchen Fällen hilft keine Regel wie „Achten Sie auf eine ungewöhnliche Stimme“ zuverlässig weiter.

Wichtiger sind sichere Prozesse. Bei ungewöhnlichen Zahlungsaufträgen, Änderungen von Bankverbindungen oder der Weitergabe sensibler Informationen sollte eine zweite Prüfung vorgesehen sein. Das kann zum Beispiel ein Rückruf über eine bereits bekannte Telefonnummer oder die Freigabe durch eine weitere Person sein.

Das Grundprinzip ist nicht neu: Vertrauen sollte bei kritischen Vorgängen nicht allein auf einer Nachricht, einem Bild oder einer Stimme beruhen.

Viele Unternehmen entwickeln ihre KI-Lösungen nicht selbst. Sie nutzen Cloud-Dienste, externe Modelle oder KI-Funktionen, die bereits in vorhandener Software enthalten sind. Damit wird auch der Anbieter Teil des Sicherheitsrisikos.

Ein Beispiel ist ein KI-Assistent im Kundenservice.  Damit er passende Antworten vorschlagen kann, erhält er Zugriff auf frühere Supportfälle. Darin können Namen, E-Mail-Adressen, Vertragsinformationen oder technische Details enthalten sein. 

Zur Lieferkette gehören aber nicht nur der direkte Anbieter. Auch Cloud-Plattformen, externe Modelle, APIs oder weitere Dienstleister können beteiligt sein. Probleme bei diesen Komponenten können sich auf das gesamte KI-Systeme auswirken.

Bei der Auswahl eines solchen Dienstes reicht daher die Frage „Was kann das Tool?“ nicht aus. Unternehmen sollten auch wissen:

• Wo werden ihre Daten verarbeitet?
• Wie lange werden Eingaben gespeichert?
• Wer kann auf die Daten zugreifen?
• Werden weitere Dienstleister eingebunden?
• Wie werden Informationen verschlüsselt?
• Welche Möglichkeiten zur Löschung gibt es?
• Was passiert bei einem Sicherheitsvorfall?
• Welche Zugriffe lassen sich protokollieren?

KI-Dienste verändern sich schnell. Anbieter führen neue Funktionen ein, erweitern Integrationen oder setzen andere Modelle ein. Eine Sicherheitsprüfung sollte deshalb nicht mit der Einführung des Tools enden. Deshalb sollten kritische KI-Dienste auch nach Ihrer Einführung regelmäßig überprüft werden.

Ein vollständiges Verbot von KI klingt auf den ersten Blick nach einer einfachen Lösung.

In der Praxis ist es oft nicht sinnvoll.KI-Tools bringen einen echten Nutzen. Mitarbeitende können Informationen schneller finden, Routineaufgaben vereinfachen oder erste Entwürfe erstellen. Wenn Unternehmen diese Möglichkeiten nur verbieten, ohne sichere Alternativen anzubieten, steigt das Risiko, dass nicht freigegebene Tools genutzt werden. Besser ist ein kontrollierter Einsatz. Dazu gehören technische Maßnahmen wie sichere Zugriffsrechte, begrenzte Schnittstellen, Protokollierung und freigegebene KI-Dienste. Ebenso wichtig sind organisatorische Regeln. Diese sollten möglichst konkret sein. Statt nur zu schreiben:

„Vertrauliche Daten dürfen nicht in nicht autorisierte Systeme eingegeben werden“,

hilft ein praktisches Beispiel oft mehr.

Unkritisch:
Ein allgemeiner Einladungstext für ein Teammeeting soll freundlicher formuliert werden.

Kritisch:
Ein vertraulicher Kundenvertrag mit Namen, Preisen und Vertragsbedingungen wird in ein öffentliches KI-Tool kopiert.

Mitarbeitende müssen dafür keine KI-Experten werden. Sie sollten aber wissen, welche Informationen sensibel sind und wann ein Tool nicht verwendet werden darf.

Beim Einsatz von KI ist nicht nur die Technik wichtig. Unternehmen brauchen auch klare Verantwortlichkeiten. Die Fachabteilung kennt den konkreten Anwendungsfall. Sie weiß, wofür das System genutzt werden soll. Die IT bewertet die technische Integration und die notwendigen Zugriffe. Die Informationssicherheit prüft mögliche Angriffsflächen und Schutzmaßnahmen. Der Datenschutz wird relevant, sobald personenbezogene Daten verarbeitet werden. Je nach Anwendungsfall kann auch die Rechtsabteilung eine Rolle spielen.

Nicht jedes kleine KI-Tool braucht dafür einen monatelangen Freigabeprozess. Die Prüfung sollte zum Risiko passen.

Ein KI-Assistent, der ausschließlich öffentliche Informationen zusammenfasst, ist anders zu bewerten als ein System, das auf Kundendaten zugreift und selbst Aktionen durchführen kann.

Wichtig ist vor allem, dass klar ist, wer eine Entscheidung trifft und wer später für Änderungen oder Sicherheitsfragen zuständig ist.

Vor der Einführung einer KI-Anwendung sollten Unternehmen einige grundlegende Fragen beantworten können.

Welche Daten verarbeitet das System?
Sind es öffentliche Informationen oder auch interne, vertrauliche und personenbezogene Daten?

Auf welche Systeme darf die KI zugreifen?
Jede zusätzliche Verbindung erweitert die mögliche Angriffsfläche.

Welche Rechte braucht das System wirklich?
Lesen, Schreiben und Ausführen sind unterschiedliche Risikostufen.

Wo werden Daten verarbeitet und gespeichert?
Gerade bei externen KI-Diensten sollte das vor der Einführung geklärt sein.

Wie werden Zugriffe protokolliert?
Bei einem Sicherheitsvorfall muss nachvollziehbar sein, was passiert ist.

Wie wird mit fehlerhaften Ergebnissen umgegangen?
KI kann falsche oder unvollständige Antworten liefern. Bei wichtigen Entscheidungen sollte eine menschliche Prüfung vorgesehen sein.

Welche Regeln gelten für Mitarbeitende?
Sie sollten schnell erkennen können, welche Tools und Daten erlaubt sind.

Was passiert bei einem Sicherheitsvorfall?
Auch KI-Systeme sollten Teil des bestehenden Incident-Managements sein.

KI wird weiter in Unternehmensanwendungen und Prozesse einziehen, weil sie viele Aufgaben einfacher und schneller macht. Mit jeder zusätzlichen Integration entstehen jedoch neue Verbindungen zu Daten, Nutzern und Systemen und damit neue Punkte, die geschützt werden müssen.

Einige Risiken sind eng mit KI verbunden, zum Beispiel Prompt Injection. Andere Themen sind aus der Informationssicherheit längst bekannt. Datenabfluss, Phishing, Social Engineering, unsichere Schnittstellen oder zu weitreichende Berechtigungen werden durch KI nicht neu erfunden. Sie können aber leichter skalieren und in neuer Form auftreten. Deshalb braucht es keinen kompletten Neustart der Informationssicherheit. Viele bewährte Grundsätze bleiben wichtig: minimale Berechtigungen, sichere Schnittstellen, Schutz sensibler Daten, verlässliche Prozesse und eine sorgfältige Prüfung von Drittanbietern. Dazu kommt ein gutes Verständnis dafür, wie KI eingesetzt wird und wo neue Risiken entstehen.

Unternehmen, die diese Fragen früh klären, müssen KI nicht aus Sicherheitsgründen ausbremsen. Sie schaffen vielmehr die Grundlage dafür, die Technologie sinnvoll und kontrolliert zu nutzen.