OpenAI, Anthropic & Co. warnen vor KI-Cyberangriffen: Was Unternehmen jetzt tun sollten

Cybersecurity-Meldungen neigen gerne zur Übertreibung.

„Neue Ära der Cyberangriffe.“

„Noch nie dagewesene Bedrohung.“

„Unternehmen müssen jetzt handeln.“

Deshalb lohnt es sich normalerweise, bei solchen Überschriften ein wenig Abstand zu halten.

Die Meldung vom 27. August 2026 ist trotzdem bemerkenswert.

OpenAI, Anthropic, Microsoft, Alphabet, Amazon und mehr als 100 weitere Unternehmen – darunter Cloudflare, CrowdStrike, IBM, Mastercard, Oracle, Shopify und Visa – haben gemeinsam zu einer deutlich stärkeren Cyberabwehr aufgerufen.

Ihre Erwartung: KI-gestützte Cyberangriffe werden in den kommenden Monaten wesentlich häufiger, weil leistungsfähige Modelle weltweit verfügbarer werden.

Für mittelständische Unternehmen klingt das zunächst nach einem Problem für Banken, Regierungen oder kritische Infrastruktur.

Das wäre allerdings die falsche Schlussfolgerung.

Denn KI macht nicht nur besonders komplexe Angriffe leistungsfähiger.

Sie verändert vor allem die Ökonomie von Cyberangriffen.

Angriffe werden nicht zwingend genialer – sondern günstiger

Viele Cyberangriffe scheitern heute nicht daran, dass eine Schwachstelle technisch unmöglich auszunutzen wäre.

Sie scheitern daran, dass sich der Aufwand für einen Angreifer nicht lohnt.

Ein schlecht gepflegtes System muss identifiziert werden.

Die eingesetzte Software muss verstanden werden.

Eine Schwachstelle muss gefunden oder recherchiert werden.

Vielleicht muss Exploit-Code angepasst werden.

Anschließend muss der Angriff ausgeführt und ausgewertet werden.

All das kostet Zeit und benötigt Know-how.

Genau an dieser Stelle verändert KI die Rechnung.

Das britische National Cyber Security Centre hat in diesem Jahr untersucht, wie schnell sich die Fähigkeiten moderner Modelle bei mehrstufigen Cyberangriffen verbessern.

In einem simulierten Unternehmensnetzwerk bestand ein kompletter Angriff aus 32 Schritten. Ein menschlicher Cybersecurity-Experte würde laut NCSC für das vollständige Szenario ungefähr 14 Stunden benötigen.

Das beste getestete Modell aus der Zeit vor März 2026 schaffte im Durchschnitt bereits 15,6 dieser Schritte. In seinem besten Durchlauf waren es 22 von 32. Noch etwa 18 Monate zuvor kamen die besten Modelle nicht einmal auf zwei Schritte. Ein kompletter Versuch kostete zum Zeitpunkt der Untersuchung ungefähr 65 britische Pfund.

Das Modell konnte den Angriff also noch nicht komplett selbstständig durchführen.

Aber genau das ist eigentlich der interessante Teil.

Cyberangriffe müssen gar nicht vollständig autonom werden, um wirtschaftlich attraktiver zu werden.

Wenn ein Angreifer mithilfe von KI denselben Arbeitsaufwand in einem Bruchteil der Zeit bewältigt, kann er mehr Ziele gleichzeitig untersuchen.

Und plötzlich wird möglicherweise auch das 80-Mitarbeiter-Unternehmen interessant, das vorher schlicht zu klein war.

Der Mittelstand hat ein unangenehmes Skalierungsproblem

Viele mittelständische Unternehmen arbeiten mit einer IT-Infrastruktur, die über Jahre gewachsen ist.

Ein Server hier.

Ein altes ERP dort.

Ein VPN-Zugang, der seit 2018 irgendwie funktioniert.

Microsoft 365.

Eine WordPress-Seite.

Ein paar Cloud-Dienste.

Ein externer Dienstleister.

Und irgendwo gibt es noch eine Anwendung, von der niemand genau weiß, warum sie öffentlich aus dem Internet erreichbar sein muss.

Das hat bisher häufig funktioniert.

Nicht weil die Systeme perfekt abgesichert waren.

Sondern weil niemand gezielt danach gesucht hat.

KI könnte genau dieses Verhältnis verändern.

Ein Angreifer muss nicht mehr einen einzelnen Mitarbeiter damit beschäftigen, hunderte Systeme manuell zu untersuchen.

Ein Agent kann große Mengen öffentlich erreichbarer Infrastruktur analysieren, Dokumentationen recherchieren, bekannte Schwachstellen zuordnen und bestimmte Angriffsschritte vorbereiten.

Das NCSC erwartet entsprechend, dass KI insbesondere die Suche nach Schwachstellen und die Entwicklung beziehungsweise Anpassung von Exploits beschleunigen wird. Bereits bekannte Sicherheitslücken dürften dadurch schneller nach ihrer Veröffentlichung ausgenutzt werden.

Die Konsequenz ist ziemlich unspektakulär:

Die Zeit zwischen „Update verfügbar“ und „Update dringend notwendig“ wird kürzer.

Aus drei Wochen Patch-Verzögerung können drei problematische Tage werden

In vielen Unternehmen läuft Patchmanagement ungefähr so:

Ein Update erscheint.

Niemand möchte direkt am Freitagabend ein produktives System anfassen.

Also wartet man.

Dann hat der Administrator Urlaub.

Dann kommt etwas Wichtigeres dazwischen.

Drei Wochen später wird aktualisiert.

Dieses Vorgehen war schon früher nicht ideal.

Mit automatisierter Schwachstellensuche wird es zunehmend riskanter.

Denn wenn Angreifer neue Sicherheitslücken schneller identifizieren, analysieren und skalierbar ausnutzen können, schrumpft das Zeitfenster für Verteidiger.

Das bedeutet nicht, dass jedes Update innerhalb von 20 Minuten installiert werden muss.

Es bedeutet aber, dass Unternehmen wissen sollten:

Welche Systeme sind überhaupt öffentlich erreichbar?

Welche davon sind geschäftskritisch?

Wann wurde dort zuletzt aktualisiert?

Wer bekommt mit, wenn eine kritische Schwachstelle veröffentlicht wird?

Und wer entscheidet dann, was passiert?

Diese Fragen klingen banal.

Viele Sicherheitsprobleme entstehen genau deshalb, weil niemand sie beantworten kann.

KI-Phishing wird ebenfalls unangenehmer

Der zweite offensichtliche Bereich ist Social Engineering.

Die klassische schlechte Phishing-Mail mit merkwürdiger Grammatik und einem angeblichen nigerianischen Prinzen ist kein besonders guter Maßstab mehr.

Ein modernes Sprachmodell kann eine Nachricht formulieren, die:

zur Sprache des Unternehmens passt,

sich auf öffentliche Informationen bezieht,

den Namen eines realen Mitarbeiters verwendet,

einen plausiblen Kontext herstellt,

und sprachlich vollkommen sauber aussieht.

Interessanter wird es, wenn solche Prozesse mit anderen Systemen verbunden werden.

Ein automatisierter Angriff könnte zunächst öffentlich verfügbare Informationen über ein Unternehmen sammeln.

Dann geeignete Mitarbeiter identifizieren.

Anschließend personalisierte Nachrichten erzeugen.

Und Reaktionen wiederum automatisch auswerten.

Das heißt nicht, dass plötzlich jeder Hacker über einen perfekten autonomen Angriffsagenten verfügt.

Aber auch hier sinkt der manuelle Aufwand.

Die gute Nachricht: KI hilft genauso bei der Verteidigung

Die Entwicklung ist nicht ausschließlich negativ.

Dieselben Fähigkeiten, mit denen ein Modell Schwachstellen finden kann, können Entwickler und Sicherheitsteams ebenfalls verwenden.

KI kann beispielsweise:

Code auf potenzielle Sicherheitsprobleme untersuchen,

Logs schneller analysieren,

verdächtige Aktivitäten zusammenfassen,

Abhängigkeiten auf bekannte Schwachstellen prüfen,

oder Sicherheitswarnungen priorisieren.

Das NCSC betont deshalb ausdrücklich, dass diese Fähigkeiten „dual use“ sind: Sie können für Angriffe und Verteidigung eingesetzt werden. Langfristig können Anbieter mithilfe von KI Schwachstellen sogar schneller finden und beheben, als dies bisher möglich war.

Das Rennen lautet deshalb nicht:

KI gegen Unternehmen.

Sondern eher:

Wie schnell nutzen Verteidiger dieselben Skalierungsvorteile wie Angreifer?

Unternehmen sollten jetzt nicht 20 neue Security-Tools kaufen

Eine typische Reaktion auf neue Bedrohungen besteht darin, Software einzukaufen.

Ein weiteres Dashboard.

Ein weiterer Scanner.

Noch irgendein „AI-powered Security“-Produkt.

Das kann sinnvoll sein.

Es löst aber keine schlechten Grundlagen.

Das Five-Eyes-Netzwerk aus den Cybersecurity-Behörden der USA, Großbritanniens, Kanadas, Australiens und Neuseelands hat bereits im Juni darauf hingewiesen, dass Unternehmen insbesondere ihre grundlegende Cyberresilienz verbessern sollten. Dazu gehören ein kleinerer Attack Surface, schnelleres Patchen, der Umgang mit Legacy-Systemen, bessere Identitäts- und Zugriffskontrollen und vorbereitete Incident-Response-Prozesse.

Das ist für einen Mittelständler wahrscheinlich wertvoller als das nächste „AI Security Cockpit“.

Wenn ein Administrator-Account noch mit Passwort ohne MFA funktioniert, ist das Problem nicht mangelnde künstliche Intelligenz.

Und dann kommen die eigenen KI-Agenten dazu

Interessanterweise entsteht gleichzeitig eine zweite Angriffsfläche.

Unternehmen setzen selbst immer mehr KI-Agenten ein.

Ein Agent kann vielleicht:

E-Mails lesen,

auf SharePoint zugreifen,

Kundendaten aus dem CRM abrufen,

Dokumente bearbeiten,

API-Aufrufe durchführen,

oder Dateien erzeugen.

Damit bekommt das KI-System genau die Fähigkeiten, die es produktiv machen.

Und genau dadurch wird es sicherheitsrelevant.

Das NCSC veröffentlichte erst am 20. August 2026 neue praktische Empfehlungen speziell für agentische KI-Systeme. Die Behörde empfiehlt unter anderem klar begrenzte Autonomie, menschliche Kontrolle bei kritischen Aktionen, Sandboxing, Netzwerkbeschränkungen, eigene Identitäten für Agenten, Monitoring und die Möglichkeit, ein System im Notfall zuverlässig zu stoppen.

Ein Satz daraus ist für praktisch jedes Agentenprojekt wichtig:

Prompting allein ist keine Sicherheitskontrolle.

Man kann dem Agenten hundertmal schreiben:

„Greife niemals auf vertrauliche Daten zu.“

Wenn seine Credentials Zugriff auf die komplette Datenbank erlauben, hat man technisch wenig gewonnen.

Der Blast Radius eines Agenten sollte klein bleiben

Ein gutes Agentensystem folgt deshalb demselben Prinzip wie ein guter Mitarbeiteraccount:

nur die Rechte, die tatsächlich benötigt werden.

Ein Agent für die Terminverwaltung benötigt vielleicht:

Termine lesen,

freie Termine suchen,

Termine verschieben.

Er benötigt nicht automatisch:

alle Kundendaten exportieren,

Benutzerkonten verwalten,

Rechnungen löschen,

oder beliebige SQL-Abfragen ausführen.

Das klingt offensichtlich.

Bei schnell gebauten KI-Prototypen wird genau diese Trennung aber gerne übersprungen.

Der Entwickler benötigt für den Test ohnehin einen API-Key.

Also bekommt der Agent denselben.

Fertig.

Bei Welp-IT betrachten wir Sicherheit deshalb als Teil der KI-Integration selbst.

Nicht als Checkliste, die kurz vor dem Go-live noch jemand abhakt.

Welche Daten benötigt das Modell?

Welche Tools benötigt der Agent?

Welche Aktionen dürfen ohne Freigabe stattfinden?

Welche Systeme dürfen erreichbar sein?

Was wird protokolliert?

Und wie kann ein Prozess gestoppt werden?

Diese Entscheidungen gehören zur Architektur.

Was ein KMU jetzt konkret prüfen sollte

Es braucht dafür kein großes Security-Transformationsprogramm.

Ein realistischer erster Schritt ist eine Bestandsaufnahme.

Welche Systeme sind öffentlich erreichbar?

Welche Konten besitzen besonders hohe Berechtigungen?

Wo fehlt MFA oder ein vergleichbar starker Schutz?

Welche Software ist nicht mehr im Support?

Wie schnell werden kritische Updates installiert?

Existieren getestete Backups?

Würde jemand ungewöhnliche Aktivitäten überhaupt bemerken?

Und falls bereits KI-Agenten oder Automatisierungen eingesetzt werden: Welche Credentials verwenden diese Systeme und was können sie damit tatsächlich tun?

Diese Fragen bringen wahrscheinlich mehr als ein 70-seitiges Cybersecurity-Konzept, das anschließend niemand liest.

KI verändert Cybersecurity vor allem durch Geschwindigkeit

Die aktuelle Warnung von OpenAI, Anthropic, Microsoft und über 100 weiteren Unternehmen sollte nicht als Beweis dafür verstanden werden, dass morgen jedes KMU von autonomen Super-Hackern angegriffen wird.

So weit sind wir nicht.

Das NCSC stellte in seinen Tests ausdrücklich fest, dass die untersuchten Modelle komplexe mehrstufige Angriffe noch nicht vollständig autonom abschließen konnten.

Der Trend ist trotzdem eindeutig.

Modelle werden besser.

Die Kosten sinken.

Mehr Arbeitsschritte lassen sich automatisieren.

Damit verändert sich die wirtschaftliche Schwelle, ab der sich ein Angriff lohnt.

Und genau deshalb ist jetzt ein guter Zeitpunkt, die langweiligen Sicherheitsaufgaben zu erledigen, die Unternehmen seit Jahren verschieben.

Updates.

Berechtigungen.

Backups.

Monitoring.

MFA.

Netzwerkzugriffe.

Denn die wichtigste Konsequenz aus leistungsfähigeren Cyber-KIs ist möglicherweise überraschend banal:

Schlecht gepflegte IT wird nicht plötzlich unsicher. Sie wird nur schneller gefunden.

Quellen: Reuters, Meldung vom 27. August 2026 zur gemeinsamen Cyber-Warnung von mehr als 100 Unternehmen. Reuters: Major tech companies call for defensive surge to defeat AI-driven hacks Das britische NCSC veröffentlichte am 20. August zusätzlich konkrete Empfehlungen zur Absicherung agentischer KI. NCSC: Managing the cyber risk of agentic AI