Noch wenig Schutz vor KI-Angriffen

Fast jedes sechste Unternehmen in Deutschland geht davon aus, in den vergangenen zwölf Monaten bereits Ziel eines KI-gestützten Cyberangriffs gewesen zu sein. Vorbereitet darauf sind die wenigsten. Sagt eine aktuelle Studie. 

Gerade erst hat auch Wikipedia das Eindringen von KI-Agenten in die Systeme der Wissensplattform gemeldet: Nach den jüngsten Angriffen auf andere Organisationen habe man selbst Untersuchungen durchgeführt – und sei fündig geworden, so die Wikimedia Foundation. Es ging um Veränderungen auf nicht öffentlichen Seiten, aber auch den exzessiven Download von Daten – was Geld und Kapazität kostet. Unter dem Strich: KI-Agenten, mutmaßlich aus dem Open-AI-Umfeld, waren drin. Und bemerkt wurde das erst später. 

Außer Kontrolle geratene KI, die eigenständig und im Rudel in fremde Rechner eindringt, haben in den vergangenen Wochen immer wieder Schlagzeilen gemacht. Aber das ist nur die Spitze des Eisbergs. Weitaus am häufigsten nehmen Unternehmen täuschend echte, mittels KI erstellte Phishing-Mails wahr. Mit einigem Abstand folgen automatisierte Angriffsskripte, die eigenständig nach Schwachstellen in der IT-Sicherheit suchen. Außerdem: Deepfakes, also gefälschten Audio- oder Videoaufnahmen, mit Stimmen und Bildern von Führungskräften, die zum Beispiel Mitarbeitende dazu bringen, Geld zu überweisen („CEO-Fraud“).

Rund 17 Prozent aller Unternehmen in Deutschland gehen davon aus, seit Herbst vergangenen Jahres Ziel einer solche Attacke gewesen zu wesen: Vier Prozent dieser Unternehmen wissen das gesichert, 11 Prozent melden Verdachtsfälle – und zwei Prozent haben beides in ihren Protokollen. Das zeigt die aktuelle Studie Künstliche Intelligenz und Cybersicherheit in Unternehmen, eine gemeinsame Untersuchung des TÜV-Verbandes und des Bundesamts für Sicherheit in der Informationstechnik (BSI), für die mehr als 500 Unternehmen ab 20 Mitarbeitenden befragt wurden. Wobei, auch davon gehen TÜV-Verband und BSI aus, die Dunkelziffer sehr hoch sein könnte. Auch bei Wikipedia hat ja erst eine genaue Untersuchung im Nachhinein ergeben, dass da KI am Werk war.

Eigens eingerichtete Prozesse gegen KI-Angriffe noch selten

Trotz dieser Bedrohung hat laut Studie nur etwa jedes zehnte Unternehmen in Deutschland eigens Prozesse für KI-gestützte Angriffe. Weitere 20 Prozent arbeiten immerhin gerade daran. Mehr als 40 Prozent vertrauen aber auch im heraufdämmernden KI-Zeitalter auf allgemeine IT-Sicherheitsprozesse.

Als besonders gefährdet gelten kleine Unternehmen. „Würde Ihr Team eine gefälschte Chef-Stimme am Telefon erkennen?“ Das fragt die Allianz für Cyber-Sicherheit in einem Leitfaden, der an diese Firmen gerichtet ist. Dabei geht es allerdings ausdrücklich um KI-verstärkte Cyberangriffe, also insbesondere Phishing oder Abzocke durch Deepfakes. Mitarbeitende auf die neuen Gefahren aufmerksam zu machen, ist dabei entscheidend. Wichtig aus Sicht der Cyber-Allianz ist auch eine Fehlerkultur, die dafür sorgt, dass Vorfälle offen angesprochen und nicht vertuscht werden. Außerdem auf der technischen Seite– aber das ist ja nicht neu – die eigene Software und Back-ups auf dem Laufenden halten sowie auf Multi-Faktor-Authentifizierung setzen. Hinzu kommt der dringende Rat, seine security.txt auf der eigenen Website anzubieten, über die Schwachstellen gemeldet werden können. Das alles sind im Wesentlichen Maßnahmen für Angriffe, bei denen bislang bekannte Methoden durch Künstliche Intelligenz gefährlicher werden. Außer Kontrolle geratene KI-Agenten – „rogue“ ist die englische Bezeichnung, was sich aber auch mit schurkisch übersetzen lässt – heben die Gefahr aber noch einmal auf eine neue Stufe. Auch hier gilt: Die Entwicklung ist rasend schnell.

Und wer nutzt ü zur Verbesserung der eigenen IT-Sicherheit? Selbst unter den Unternehmen, die KI einsetzen sind es lediglich 31 Prozent. Allerdings zeigt die KI-Sicherheitsstudie auch, was „die KI“ in Unternehmen heute tatsächlich ist: Für drei Viertel Text-, Bild-, Code oder Sprachmodelle, also generative KI. Für Prognosen oder Mustererkennung setzt ein Viertel der Unternehmen Künstliche Intelligenz ein. Bei 17 Prozent ist es KI-gestützte Automatisierung – gemeint ist hier unter anderem die Bearbeitung von Kundenanfragen. Jeweils fünf Prozent verfügen über autonome Maschinen oder intelligente Sensoren sowie KI-Agenten oder KI-Assistenten. Dabei können Unternehmen natürlich auch mehrere Arten Künstlicher Intelligenz nutzen. Die KI-Sicherheitsstudie kommt da ganz nebenbei aber zu einer klaren Wertung: Analytische KI und KI-gestützte Automatisierung liegen „abgeschlagen“ auf Platz 2 und 3. Ähnliche Einschätzungen sind immer wieder zu hören: Nur Copilot oder ChatGPT freizugeben, ist keine KI-Strategie. Und nur das, was man bisher gemacht hat, effizienter hinzukriegen, auch nicht. 

Auch wer nicht KI einsetzt, ist durch KI gefährdet …

Überraschenderweise hält der Leitfaden der Sicherheitsallianz auch noch diesen Satz bereit: „Auch ohne eigene KI-Nutzung sind Betriebe vor KI-gestützten Cyberangriffen nicht sicher …“ Was eigentlich klar sein sollte. Wer aber KI einsetzt, muss auch das absichern. 56 Prozent der Unternehmen bieten ihren Mitarbeitenden Schulungen an. Jeweils 45 Prozent nehmen eine Risikobewertung und Klassifizierung von KI-Anwendungen vor beziehungsweise haben formale Freigabeprozesse etabliert. 42 Prozent prüfen KI-Lieferanten oder -Anbieter. Knapp ein Drittel (29 %) hat bislang keine dieser Maßnahmen umgesetzt.

Zusätzlich zu klaren Regeln für den KI-Einsatz haben viele KI-nutzende Unternehmen Schutzmaßnahmen direkt an den Anwendungen getroffen: 67 Prozent setzen auf Qualitätssicherung und menschliche Prüfung kritischer KI-Ergebnisse – also Ausgaben, Entscheidungen oder Auswirkungen eines KI-Systems, die ein hohes Schadenspotenzial aufweisen. 64 Prozent haben Zugriffsrechte beschränkt, 62 Prozent schützen sensible Daten, etwa durch Anonymisierung. 52 Prozent testen KI-Anwendungen vor dem Einsatz auf Sicherheit und andere Kriterien. Eine Protokollierung oder ein Monitoring der KI-Nutzung gibt es dagegen laut KI-Sicherheitsstudie nur bei 40 Prozent. 8 Prozent haben keine der genannten technischen Schutzmaßnahmen getroffen.

Dr. Dirk Stenkamp, Präsident des TÜV-Verbands und Vorstandschef des TÜV-Nord in Hannover: „Für Mitarbeitende ist oft kaum noch zu erkennen, ob eine E-Mail von einem Menschen verfasst oder mit KI erstellt wurde. Was Unternehmen bislang registrieren, könnte deshalb nur die Spitze des Eisbergs sein. Umso wichtiger ist es, bestehende Sicherheits- und Notfallprozesse um KI-bezogene Szenarien zu ergänzen