KI · 28. Oktober 2026

Nur 11 Prozent der Unternehmen haben einen Plan für KI-Vorfälle

BSI und TÜV-Verband zeigen: Fast keinem Unternehmen fehlt die KI – aber fast allen fehlt ein Notfallplan dafür.

Christian Lohse · CEO & Founder

Die eigentliche Schwachstelle beim Einsatz künstlicher Intelligenz ist nicht die Technik, sondern das Fehlen klarer Abläufe für den Ernstfall. Das belegt eine gemeinsame Studie von BSI und TÜV-Verband mit nüchternen Zahlen: Nur jedes neunte Unternehmen hat eigene Prozesse für KI-Sicherheitsvorfälle, ein Viertel hat gar keine Regeln.

Das Wichtigste in Kürze

BSI und TÜV-Verband veröffentlichten am 7. Oktober 2026 eine gemeinsame Studie zu KI-Sicherheitsrisiken; am 27. Oktober 2026 warnte BSI-Präsidentin Claudia Plattner erneut öffentlich vor unkontrollierten KI-Agenten.
17 Prozent der befragten Unternehmen meldeten für die vergangenen zwölf Monate einen bestätigten oder vermuteten Cyberangriff mit KI-Bezug.
Nur 11 Prozent der KI-nutzenden oder -planenden Unternehmen haben eigene Abläufe für KI-Sicherheitsvorfälle, 25 Prozent haben überhaupt keine Regeln.
Täuschend echte Phishing-Mails sind mit 90 Prozent das häufigste gemeldete Angriffsmuster, Deepfakes folgen mit 11 Prozent.
Erst 5 Prozent der KI-nutzenden Unternehmen setzen heute autonome Agenten ein – das Zeitfenster, um Governance aufzubauen, bevor sich das ändert, ist jetzt.

Die Zahlen hinter der BSI-Warnung

Grundlage der Warnung ist die BSI-TÜV-Verband-Studie vom 7. Oktober 2026, für die 505 Unternehmen ab 20 Beschäftigten befragt wurden. 17 Prozent der Unternehmen meldeten einen Cyberangriff oder Betrugsversuch mit KI-Bezug – darunter 4 Prozent bestätigte Fälle, 11 Prozent reine Verdachtsfälle und 2 Prozent mit beiden Kategorien. Als KI-bezogen zählt dabei bereits, wenn KI eine Rolle gespielt hat oder gespielt haben könnte – eine bewusst breite Definition, die auch unklare Verdachtsfälle einschließt. Am 27. Oktober 2026 griff BSI-Präsidentin Claudia Plattner diese Ergebnisse öffentlich auf und warnte vor unkontrollierten KI-Systemen und dem Missbrauch von KI für schnellere Angriffe.

Häufigstes gemeldetes Angriffsmuster waren täuschend echte Phishing-Mails, auf die 90 Prozent der betroffenen Unternehmen stießen, gefolgt von Deepfakes mit 11 Prozent. In einer ergänzenden Befragung zu KI-Agenten äußerten 84 Prozent der Unternehmen die Sorge, dass Agenten auf falschen oder erfundenen Informationen basieren und daraus Fehlentscheidungen ableiten. Jeweils 78 Prozent befürchten Risiken durch Schnittstellen zu anderen Systemen, den Abfluss sensibler Daten und Geschäftsgeheimnisse sowie ungewollte Aktionen der KI. 74 Prozent sehen unklare Verantwortung und Haftung bei Fehlern als hohes Risiko, 65 Prozent fürchten eine Manipulation von außen.

Das eigentliche Problem: fehlende Prozesse, nicht fehlende Technik

Die am häufigsten übersehene Zahl der Studie ist nicht die Angriffsquote, sondern die Prozessquote: Von den KI-nutzenden oder -planenden Unternehmen haben laut der Studie nur 11 Prozent eigene Abläufe für KI-Sicherheitsvorfälle. 20 Prozent arbeiten daran, 43 Prozent verlassen sich auf allgemeine IT-Sicherheitsprozesse, 25 Prozent haben überhaupt keine Regelungen. Die Studie belegt nur, dass diese 11 Prozent angeben, spezielle Abläufe zu haben – nicht, wie detailliert, geprüft oder wirksam diese sind. Allgemeine IT-Sicherheitsprozesse, auf die sich 43 Prozent stützen, decken typische KI-spezifische Fragen oft nicht ab: Wie sperrt man einen Agenten-Zugriffsschlüssel sofort? Wie sichert man Prompts, Antworten und Tool-Aufrufe als Beweismittel? Wer entscheidet, ob ein autonom handelnder Agent überhaupt wieder freigeschaltet wird?

Besonders bemerkenswert: Erst 5 Prozent der KI-nutzenden Unternehmen setzen heute autonome Agenten ein, die selbstständig Aktionen ausführen. Das bedeutet, dass die meisten Unternehmen ihre Governance-Lücke schließen können, bevor Agenten in großem Stil produktive Entscheidungen treffen. Wer jetzt wartet, bis Agenten flächendeckend im Einsatz sind, baut Prozesse unter Zeitdruck und nach einem Vorfall – nicht vorher.

Was jetzt zu tun ist:

Heute: Verantwortliche Person für KI-Sicherheit benennen und eine Meldekategorie „KI-Bezug: bestätigt / vermutet / unbekannt" im bestehenden Ticketsystem einrichten.
Diese Woche: Alle eingesetzten und geplanten KI-Anwendungen, Modelle, Agenten und Schnittstellen in einem zentralen Verzeichnis erfassen, inklusive Eigentümer, Datenzugriff und Abschaltmöglichkeit.
Diese Woche: Phishing- und Deepfake-Szenarien sowie den Ausfall oder die Fehlsteuerung eines Agenten in die nächste Notfallübung aufnehmen.
Mittelfristig: Hochrisikoaktionen wie Zahlungen, Löschungen und externe Kommunikation an eine verpflichtende menschliche Freigabe binden und Berechtigungen für KI-Zugriffe kurzlebig und widerrufbar gestalten.
Mittelfristig: KI-Vorfälle fest in den bestehenden IT-Sicherheitsprozess integrieren, statt auf eine separate Speziallösung zu warten.

Außerdem wichtig in dieser Woche

Ein am 27. Oktober 2026 veröffentlichter europäischer KI-Bulletin berichtet über den ersten unter dem AI Act fertiggestellten harmonisierten Standard zum Qualitätsmanagement von KI-Systemen. Anbieter, die diesen Standard befolgen, sollen für einschlägige Pflichten eine Konformitätsvermutung erhalten – für Unternehmen mit Hochrisiko-KI-Systemen ein möglicher strukturierter Nachweisweg, dessen konkrete Anwendbarkeit aber von Rolle und Systemklassifizierung abhängt. Laut Bericht wurden Pflichten für Hochrisikosysteme zudem mindestens bis Dezember 2027 verschoben. Handlungsschritt: Betroffene KI-Systeme nach ihrer Rolle unter dem AI Act klassifizieren und mit Datenschutz- und Compliance-Verantwortlichen abgleichen, ob der Standard für die eigene Dokumentation relevant ist – im Einzelfall rechtlich prüfen lassen.

Microsoft beschreibt in einem Beitrag vom 22. Oktober 2026 eine Entwicklung von Copilot weg vom synchronen Chat-Assistenten hin zu asynchronen Agenten, die komplexe, länger laufende Aufgaben eigenständig erledigen. Für Copilot Studio nennt Microsoft unter anderem Agent Accounts, Prozessgedächtnis, Trigger und Governance-Funktionen; die Managed Runtime für generierte Anwendungen befand sich laut Microsoft in öffentlicher Vorschau. Für Unternehmen bedeutet das: Lang laufende Agenten können später erneut aktiv werden, ohne dass jemand aktiv eingreift – damit werden zeitliche Begrenzungen, Abbruchmechanismen und lückenlose Protokollierung zur Voraussetzung für den sicheren Einsatz. Handlungsschritt: Agentenaufgaben auf klar begrenzte Prozesse mit definiertem Endzustand beschränken und jede automatisierte Aktion einer Risiko- und Freigabeklasse zuordnen.

Einordnung aus Sicht von jalotiqo

Wir halten die Governance-Lücke für den eigentlichen Befund dieser Woche, nicht die Angriffszahlen selbst. Dass 17 Prozent der Unternehmen einen KI-bezogenen Vorfall melden, ist ernst zu nehmen – aber dass 89 Prozent der KI-nutzenden Unternehmen keinen belastbaren Prozess dafür haben, ist der Teil, der im Ernstfall über Schadenshöhe und Reaktionszeit entscheidet. Der typische Denkfehler dabei: Viele Unternehmen warten mit der Governance, bis sie „richtige" Agenten einsetzen – dabei zeigt die Studie, dass Phishing und Deepfakes schon heute die häufigsten Angriffsmuster sind, unabhängig davon, ob ein Agent im eigenen Haus läuft. An Stelle einer IT-Leitung würden wir zuerst das Verzeichnis aller KI-Anwendungen und eine klare Meldekategorie für KI-Vorfälle aufbauen, weil beides sofort umsetzbar ist und die Basis für alles Weitere liefert. Bewusst noch nicht anfangen würden wir mit einer vollständigen Risikobewertung einzelner Agenten nach dem AI-Act-Standard – dafür ist erst die Klassifizierung der eigenen Systeme nötig. Wo Vorfallmeldungen und Freigaben ohnehin aus dem laufenden Betrieb dokumentiert werden sollen, hilft es, wenn diese Nachweise direkt aus der Arbeit entstehen statt nachträglich von Hand erzeugt zu werden – ein Prinzip, nach dem auch jalotiqo ONE aufgebaut ist.