IT-Wissen · IT-Sicherheit

KI bringt IT-Security ins Schleudern: Angreifer, Verteidiger, Maintainer und Softwarelieferketten

Kurz zusammengefasst: Künstliche Intelligenz verändert die Geschwindigkeit und Arbeitsteilung in der IT-Sicherheit. Angreifer nutzen sie für Aufklärung, Social Engineering, Schwachstellensuche und die Anpassung von Schadsoftware. Verteidiger können dieselben Fähigkeiten für Erkennung, Priorisierung und Reaktion einsetzen. Gleichzeitig wächst die Verantwortung der Maintainer: Modelle, Daten, Bibliotheken, Schnittstellen und Build-Systeme müssen nachvollziehbar gepflegt werden. Für kleine Unternehmen und den Mittelstand bedeutet das keinen vollständigen Neustart der IT-Sicherheit, aber eine schärfere Prüfung bestehender Prozesse und aller neu eingebundenen KI-Komponenten.

Warum KI die Sicherheitslage verschiebt

KI macht viele bekannte Arbeitsschritte schneller. Angreifer können Informationen über ein Ziel strukturieren, glaubwürdigere Nachrichten formulieren, Schwachstellen recherchieren und einfache Schadsoftware anpassen. Dadurch steigt vor allem die Menge und Geschwindigkeit bestehender Angriffsmuster. Ein vollständig autonomer Angriff über die gesamte Kette ist kurzfristig nicht der Regelfall; qualifizierte Menschen bleiben in anspruchsvollen Operationen beteiligt.

Für Unternehmen entsteht eine doppelte Abhängigkeit. KI-Anwendungen greifen auf Daten, Identitäten, Netzwerke, Programmierschnittstellen und oft auf externe Modelle oder Dienste zu. Jede Verbindung erweitert die Angriffsfläche. Direkte Prompt-Manipulation, indirekte Anweisungen in Dokumenten, unsichere Schnittstellen und kompromittierte Zulieferkomponenten können dazu führen, dass ein zunächst begrenztes KI-System in weitere Unternehmensbereiche hineinwirkt.

Die praktische Einordnung lautet deshalb: KI ersetzt keine Grundschutzmaßnahmen. Patchmanagement, starke Identitäten, Netzwerksegmentierung, Backups, Protokollierung und geregelte Berechtigungen bilden weiterhin die Basis. KI erhöht jedoch den Druck, diese Maßnahmen konsequent und zeitnah zu betreiben. Ein ungepatchtes System kann schneller gefunden und automatisiert angegriffen werden.

Vier Rollen mit unterschiedlichen Pflichten

Angreifer verwenden KI als Verstärker. Sie automatisieren Recherche, passen Texte an Empfänger an und testen Varianten in größerem Umfang. Für kleine Unternehmen ist dabei weniger der spektakuläre Einzelangriff entscheidend als die wachsende Zahl plausibler Nachrichten, gefälschter Supportkontakte und missbrauchter Zugangsdaten.

Verteidiger können KI zur Sichtung großer Logmengen, zur Zusammenfassung von Warnungen, zur Priorisierung von Schwachstellen und zur Unterstützung bei der Untersuchung einsetzen. Das funktioniert nur mit klaren Datenfreigaben, überprüfbaren Ergebnissen und einer verantwortlichen Person. Ein Modell darf eine Maßnahme empfehlen; die Freigabe für Kontosperren, Löschungen oder produktive Änderungen braucht weiterhin einen definierten Prozess.

Maintainer tragen Verantwortung über den Quellcode hinaus. Sie müssen Modelle, Trainings- und Testdaten, Bibliotheken, Container, Konfigurationen, Schnittstellen und Build-Pipelines pflegen. Dazu gehören veröffentlichte Sicherheitsmeldungen, nachvollziehbare Versionen, zeitnahe Updates und ein erreichbarer Meldeweg für Schwachstellen. Ein veraltetes Modell oder eine nicht mehr gepflegte Abhängigkeit kann ebenso relevant sein wie ein klassischer Softwarefehler.

Die Softwarelieferkette umfasst bei KI zusätzliche Elemente: vortrainierte Modelle, Adapter, Datensätze, Modellkonverter, Paketregister, Rechenplattformen und Anbieter von Schnittstellen. Manipulation oder Vergiftung kann an mehreren Stellen erfolgen. Ein Modell ist daher nicht automatisch harmlos, nur weil es als Datei verteilt wird. Herkunft, Hash oder Signatur, Lizenz, Integrität und Verhalten müssen vor dem produktiven Einsatz geprüft werden.

Was Unternehmen jetzt organisatorisch prüfen sollten

Zuerst braucht es ein belastbares Inventar. Erfassen Sie eingesetzte KI-Dienste, Modelle, Datenquellen, Plug-ins, Bibliotheken, Schnittstellen, verantwortliche Personen und die Systeme, auf die ein Dienst zugreifen darf. Das Inventar sollte auch Test- und Schattenlösungen berücksichtigen, die Mitarbeitende ohne zentrale Freigabe verwenden.

Für Lieferanten gehören Sicherheitsanforderungen in die Beschaffung und in die laufende Betreuung. Fragen Sie nach Modell- und Datenherkunft, Speicherort, Trainingsnutzung, Sicherheitsupdates, Protokollen, Incident-Unterstützung und der Behandlung von Unterauftragnehmern. Bei eigener Software helfen Software Bill of Materials, signierte Artefakte, reproduzierbare oder nachvollziehbare Builds und getrennte Entwicklungs- und Produktivumgebungen.

Technisch sollte jedes KI-System mit möglichst wenig Rechten starten. Begrenzen Sie Daten, Werkzeuge, Netzwerke und Schreibzugriffe. Prüfen und protokollieren Sie Ein- und Ausgaben, besonders wenn Inhalte aus E-Mails, Dateien oder Webseiten verarbeitet werden. Externe Modelle und Pakete gehören in eine isolierte Prüfstrecke. Tests sollten auch manipulierte Eingaben, unerwartete Ausgaben, Datenabfluss und missbrauchte Werkzeuge abdecken.

Für die Maintainer-Seite sind klare Abläufe entscheidend: Wer bewertet eine neue Modellversion? Wer entscheidet über ein Zurückrollen? Wie wird ein kompromittiertes Paket gesperrt? Wie werden betroffene Lieferanten erreicht? Diese Fragen gehören in Notfallplanung, Wiederherstellung und regelmäßige Übungen. Sicherheitsarbeit endet nicht mit der Einführung eines KI-Produkts, sondern umfasst dessen gesamten Lebenszyklus.

Wie Verteidigung und Wartung zusammenarbeiten

Eine wirksame Organisation verbindet Erkennung, Entwicklung und Betrieb. Das Sicherheitsteam liefert Angriffsszenarien und Überwachungsanforderungen. Entwicklung und Maintainer dokumentieren Komponenten, Änderungen und Abhängigkeiten. Der Betrieb kontrolliert Berechtigungen, Laufzeitverhalten, Protokolle und Wiederherstellung. Einkauf und Geschäftsführung bewerten Anbieter, Verträge und Abhängigkeiten.

Für Mittelständler ist ein gestuftes Vorgehen praktikabel. Beginnen Sie mit den KI-Anwendungen, die vertrauliche Daten verarbeiten oder produktive Aktionen auslösen. Danach folgen Inventar, Zugriffsbeschränkung, Lieferantenprüfung und ein kleiner, regelmäßig wiederholter Sicherheitstest. Erst wenn diese Grundlagen belastbar sind, lohnt sich eine breitere Automatisierung der Verteidigung.

Die wichtigste Messgröße ist nicht die Zahl eingesetzter KI-Werkzeuge. Entscheidend ist, ob das Unternehmen eine Abweichung erkennen, den Zugriff begrenzen, eine Komponente zurücknehmen und den normalen Betrieb wiederherstellen kann.

Beispiel aus der Praxis

Beispiel: Ein mittelständischer Maschinenbauer nutzt einen KI-Assistenten, der Serviceberichte durchsucht und daraus Antworten für Mitarbeitende erstellt. Der Dienst darf zunächst nur auf einen freigegebenen Dokumentenbereich zugreifen und keine E-Mails versenden oder Produktionssysteme ändern. Ein neues Modell wird vor der Aktivierung in einer isolierten Umgebung mit typischen und manipulierten Dokumenten getestet. Das Unternehmen führt eine Komponentenliste mit Modellversion, Anbieter, Datenkategorien und Freigabeverantwortlichem. Protokolle zeigen, welche Dokumente verarbeitet wurden. Bei auffälligem Verhalten kann der Zugriff sofort entzogen und auf die vorherige Version zurückgestellt werden. Damit wird der Nutzen der Assistenz erhalten, während der Schaden eines kompromittierten Modells oder einer eingeschleusten Anweisung begrenzt bleibt.

Chancen für Unternehmen

• KI kann Sicherheitsmeldungen, Protokolle und Schwachstellenlisten vorsortieren und damit knappe IT-Ressourcen gezielter einsetzen.
• Automatisierte Prüfungen von Abhängigkeiten, Modellartefakten, Signaturen und SBOMs können Abweichungen früher sichtbar machen.
• Defensive Assistenz kann bei Erstbewertung, Dokumentation und Wiederholungsaufgaben helfen, wenn Ergebnisse kontrolliert und sensible Daten geschützt werden.
• Ein aktuelles Inventar von Modellen, Daten und Lieferanten verbessert Beschaffung, Notfallplanung und die Zusammenarbeit mit Dienstleistern.

Grenzen und Prüfpunkte

• KI-Ergebnisse können falsch, unvollständig oder durch manipulierte Eingaben beeinflusst sein. Sicherheitsentscheidungen brauchen deshalb nachvollziehbare Freigaben.
• Ein Modelltest beweist nicht, dass alle späteren Daten, Werkzeuge, Bibliotheken oder Anbieteränderungen sicher sind.
• Herkunftsnachweise und Sicherheitskennzeichnungen für Modelle sind uneinheitlich; Hashes und Signaturen sichern Integrität, ersetzen aber keine Verhaltensprüfung.
• Kleine Unternehmen können nicht jede Komponente selbst analysieren. Kritische Abhängigkeiten, Verträge, Meldewege und Wiederherstellungsfähigkeit müssen dennoch klar geregelt sein.
• Schnelle Modell- und Dienständerungen erschweren langfristige Bewertungen. Inventar, Patchfristen, Zugriffsrechte und Lieferantenkontrollen benötigen regelmäßige Überprüfung.