Sophos Generative AI Filterung: KI-Nutzung im Unternehmen kontrollieren

Kurz zusammengefasst: Generative KI kann Mitarbeitende im Arbeitsalltag unterstützen, bringt aber neue Risiken für vertrauliche Daten, Compliance und akzeptable Nutzung mit sich. Sophos bietet dafür mehrere Kontrollmöglichkeiten: Webfilter können generative KI-Websites erkennen und blockieren, warnen oder erlauben. Mit Sophos Endpoint, Sophos Firewall und synchronisierter Anwendungskontrolle lässt sich zusätzlich nachvollziehen und steuern, welche KI-Anwendungen im Unternehmen genutzt werden. Für kleine Unternehmen und den Mittelstand ist entscheidend, die Filterung mit einer klaren Nutzungsrichtlinie, abgestuften Ausnahmen und regelmäßigen Funktionstests zu verbinden.

Nutzen und Einordnung

Sophos Generative AI Filterung ist kein eigener Schutzmechanismus gegen jede falsche KI-Antwort und ersetzt auch keine Datenschutz- oder IT-Sicherheitsrichtlinie. Gemeint sind Funktionen, mit denen Unternehmen den Zugriff auf generative KI-Dienste erkennen und abhängig von ihrer internen Vorgabe erlauben, warnen oder blockieren können.

Der praktische Nutzen liegt vor allem in der Kontrolle des Zugangs. Ein Unternehmen kann beispielsweise festlegen, dass frei zugängliche KI-Dienste zunächst nur nach einem Warnhinweis verwendet werden dürfen, während bestimmte nicht freigegebene Dienste blockiert werden. So entsteht ein nachvollziehbarer Rahmen für die Nutzung, ohne KI automatisch vollständig aus dem Arbeitsalltag auszuschließen.

Besonders relevant ist das Thema, wenn Beschäftigte Kundendaten, interne Dokumente, Zugangsdaten, Quellcode oder personenbezogene Informationen in externe KI-Dienste eingeben könnten. Die Filterung verhindert eine solche Eingabe nicht in jedem Fall. Sie schafft aber eine technische Kontrollschicht, die Nutzung sichtbar machen und ungewollte Zugriffe reduzieren kann.

Zugriffe auf generative KI-Dienste nach Unternehmensregeln steuern
Nicht freigegebene Anwendungen blockieren oder zunächst mit einer Warnung versehen
Web- und Anwendungsnutzung zentraler verwalten und protokollieren
KI-Nutzung mit Endpoint- und Firewall-Richtlinien verbinden

Wie Sophos die Filterung umsetzt

In Sophos Central stehen Web Filtering Profiles zur Verfügung. Ein Profil kann Websites nach Kategorien oder anhand eigener Site Lists filtern. Für generative KI gibt es eine vordefinierte Einstellung zum Blockieren entsprechender Websites. Bei einer individuellen Konfiguration können Kategorien mit den Aktionen Allow, Warn oder Block versehen werden.

Die Site Lists ergänzen die Kategoriefilterung. Damit lassen sich konkrete Domains oder URLs unabhängig von einer allgemeinen Kategorie behandeln. Wenn eine Website sowohl einer Site List als auch einer Kategorie entspricht, hat die Site-List-Regel Vorrang. Das ist praktisch für ausdrücklich freigegebene oder ausdrücklich gesperrte Dienste, muss aber sauber dokumentiert werden.

Sophos Endpoint kann generative KI-Websites über Web Control kontrollieren. Administratoren können dafür eine fertige Blockierung verwenden oder eine eigene Kategoriegruppe mit unterschiedlichen Aktionen aufbauen. Die Profile lassen sich in mehreren Endpoint- und Server-Web-Control-Richtlinien wiederverwenden.

Auf der Netzwerkebene kann Sophos Firewall Anwendungen anhand von Application-Control-Regeln steuern. In Verbindung mit Sophos Endpoint und Synchronized Security kann die Firewall Informationen über erkannte Anwendungen übernehmen. Sophos beschreibt für Firewall v22 MR2 eine verbesserte Erkennung generativer KI-Anwendungen und die Weitergabe dieser Informationen an die Firewall. Dadurch kann die Organisation Sichtbarkeit, Berichte und Richtlinien für KI-Anwendungen miteinander verbinden.

Web Filtering Profiles für kategoriale Regeln und Site Lists einsetzen
Allow, Warn und Block passend zum jeweiligen Nutzungsszenario wählen
Endpoint-Web-Control für verwaltete Windows-Geräte berücksichtigen
Sophos Firewall und Endpoint bei anwendungsbezogenen Regeln gemeinsam betrachten

Ein sinnvolles Regelmodell für kleine Unternehmen

Eine pauschale Vollsperre ist technisch einfach, organisatorisch aber nicht immer sinnvoll. Viele Unternehmen möchten KI für Recherche, Textentwürfe, Übersetzungen oder interne Produktivität nutzen. Vor der Konfiguration sollte deshalb festgelegt werden, welche Anwendungen geschäftlich zugelassen sind, welche Daten niemals eingegeben werden dürfen und wann eine Nutzung dokumentiert werden muss.

Für den Einstieg bietet sich ein abgestuftes Modell an. Nicht benötigte oder nicht bewertete generative KI-Dienste können blockiert werden. Für freigegebene Dienste kann der Zugriff erlaubt werden, sofern die Nutzung durch eine interne Richtlinie geregelt ist. Bei Anwendungen, deren Nutzen grundsätzlich möglich ist, deren Datenschutz- oder Vertragslage aber noch geprüft wird, kann zunächst eine Warnregel verwendet werden.

Technisch sollte die Richtlinie einer Benutzer- oder Gerätegruppe zugeordnet und mit Protokollierung getestet werden. Entscheidend ist nicht nur, ob eine Regel im Administrationsportal sichtbar ist. Es muss geprüft werden, ob der Zugriff am tatsächlich verwendeten Gerät blockiert oder gewarnt wird, ob die richtige Richtlinie greift und ob die Ereignisse nachvollziehbar im Bericht erscheinen.

Für mobile Geräte, private Geräte, Homeoffice und nicht verwaltete Browser gelten häufig andere Voraussetzungen. Eine Endpoint-Regel auf Windows ist nicht automatisch eine vollständige Regelung für macOS, Linux, Smartphones oder Anwendungen mit eigener Netzwerkkommunikation. Diese Gerätegrenzen gehören deshalb ausdrücklich in die technische Prüfung.

Nutzungsszenarien und verbotene Datentypen schriftlich festlegen
Freigegebene, zu prüfende und gesperrte Dienste unterscheiden
Richtlinien zunächst mit einer Testgruppe ausrollen
Blockierung, Warnseite, Protokollierung und Ausnahmen praktisch prüfen

Zusammenspiel mit Datenschutz und Informationssicherheit

Die Filterung beantwortet die Frage, ob ein Zugriff auf einen Dienst erfolgen darf. Sie beantwortet nicht automatisch, welche Daten dort verarbeitet werden, ob ein Anbieter geeignete Vertragsbedingungen bietet oder wie lange Eingaben gespeichert werden. Diese Punkte müssen für die eingesetzten Dienste separat bewertet werden.

Eine belastbare Unternehmensregel sollte daher mindestens zwischen öffentlichen, internen, vertraulichen und besonders schützenswerten Informationen unterscheiden. Für vertrauliche Inhalte kann die Vorgabe lauten, dass sie nur in ausdrücklich geprüften Unternehmensdiensten oder in einer freigegebenen Umgebung verarbeitet werden dürfen. Technische Filterregeln unterstützen diese Vorgabe, ersetzen aber keine Schulung und keine fachliche Freigabe.

Protokolle sollten nur so umfangreich ausgewertet werden, wie es für Sicherheit, Betrieb und Nachweis erforderlich ist. Bei personenbezogenen Nutzungsdaten sind die internen Zuständigkeiten und die arbeitsrechtlichen sowie datenschutzrechtlichen Anforderungen einzubeziehen. Die konkrete Ausgestaltung hängt vom Unternehmen, den eingesetzten Produkten und den lokalen Vorgaben ab.

Filterregeln mit einer verbindlichen KI-Nutzungsrichtlinie verbinden
Datenklassifizierung und freigegebene Dienste festlegen
Datenschutz, Mitbestimmung und Protokollzugriff vor dem Rollout prüfen
Technische Wirksamkeit regelmäßig gegen tatsächliche Nutzung testen

Einführung und laufender Betrieb

Für die Einführung sollte zunächst eine Bestandsaufnahme erfolgen: Welche Sophos-Produkte und Versionen sind im Einsatz, welche Geräte werden verwaltet, welche Firewall-Regeln greifen und welche generativen KI-Dienste werden bereits genutzt? Danach kann eine Pilotgruppe eingerichtet werden, die typische Arbeitsabläufe aus Verwaltung, Vertrieb, Technik und Geschäftsführung abbildet.

Im Pilotbetrieb sind erlaubte, gewarnte und blockierte Dienste einzeln zu prüfen. Zusätzlich sollten alternative Domains, Weiterleitungen, Desktop-Anwendungen und mobile Zugriffe betrachtet werden. Ein erfolgreicher Test mit einer einzelnen Website ist kein Beleg dafür, dass die gesamte KI-Nutzung kontrolliert wird.

Nach der Einführung gehören Ausnahmen, neue Anwendungen und Fehlklassifizierungen in einen geregelten Änderungsprozess. Eine Ausnahme sollte einen Verantwortlichen, einen Zweck, einen Geltungsbereich und ein Ablaufdatum haben. Ohne diese Angaben wachsen Ausnahmeregeln erfahrungsgemäß zu einer schwer kontrollierbaren Parallelkonfiguration.

Auch Produkt- und Betriebssystemversionen müssen berücksichtigt werden. Die aktuellen Sophos Web Filtering Profiles sind laut Dokumentation für Windows vorgesehen; macOS und Linux sind dort nicht eingeschlossen. Vor der Umsetzung ist deshalb zu prüfen, welche Plattformen im konkreten Unternehmen tatsächlich durch die gewünschte Funktion abgedeckt werden.

Produkt-, Plattform- und Lizenzvoraussetzungen vorab erfassen
Pilot mit realistischen Rollen und Arbeitsabläufen durchführen
Ausnahmen befristen und nachvollziehbar dokumentieren
Nach Updates und Regeländerungen erneut mit realen Geräten testen

Beispiel aus der Praxis

Beispiel: Ein mittelständischer Handwerksbetrieb möchte generative KI für Formulierungsvorschläge und interne Recherche zulassen. Kundennamen, Angebotsinhalte, Zugangsdaten, technische Pläne und personenbezogene Informationen dürfen jedoch nicht in öffentliche KI-Dienste eingegeben werden. Der Betrieb richtet deshalb zunächst eine Testgruppe für die Büroarbeitsplätze ein. Nicht bewertete KI-Dienste werden blockiert. Ein ausdrücklich geprüfter Dienst wird erlaubt, während weitere Dienste zunächst eine Warnung anzeigen. Die IT prüft anschließend an mehreren Windows-Geräten, ob die richtige Endpoint-Richtlinie greift, ob die Firewall die Anwendungen erkennt und ob Ereignisse im Bericht nachvollziehbar sind. Für private Geräte und Smartphones wird eine separate Regelung getroffen, weil die zentrale Windows-Filterung dort nicht automatisch denselben Schutz bietet. Die Geschäftsführung erhält eine kurze Nutzungsrichtlinie und benennt eine Person, die Ausnahmen dokumentiert und regelmäßig überprüft.

Chancen für Unternehmen

KI-Nutzung kann kontrolliert ermöglicht werden, statt sie pauschal freizugeben oder vollständig zu untersagen.
Eine Kombination aus Endpoint, Firewall und zentralen Richtlinien verbessert die Sichtbarkeit von Webzugriffen und Anwendungen.
Warnregeln können Mitarbeitende auf interne Vorgaben aufmerksam machen, ohne jeden produktiven Einsatz sofort zu blockieren.
Site Lists und wiederverwendbare Profile erleichtern konsistente Regeln für mehrere Richtlinien und Gerätegruppen.
Eine sauber dokumentierte Ausnahmeverwaltung schafft bessere Nachvollziehbarkeit bei neuen KI-Diensten und organisatorischen Änderungen.

Grenzen und Prüfpunkte

Eine Filterregel verhindert nicht zuverlässig, dass Mitarbeitende vertrauliche Inhalte in einen bereits erlaubten Dienst eingeben. Dafür sind Richtlinie, Schulung und gegebenenfalls zusätzliche Datenschutz- oder DLP-Maßnahmen erforderlich.
Die Abdeckung hängt von Produkt, Version, Plattform, Lizenzierung, Richtlinienzuordnung und Erkennung der jeweiligen Anwendung ab.
Web Filtering Profiles sind laut aktueller Sophos-Dokumentation für Windows vorgesehen; Linux- und macOS-Geräte müssen separat bewertet werden.
HTTPS- und Anwendungsverkehr kann je nach Produktkonfiguration, Verschlüsselung und Ausnahmeregeln unterschiedlich sichtbar sein. Die tatsächliche Wirksamkeit ist deshalb mit realen Geräten zu testen.
Kategorien und Anwendungserkennung können sich mit neuen Diensten verändern. Freigaben, Blockierungen und Fehlklassifizierungen brauchen einen regelmäßigen Prüfprozess.
Eine technische Blockierung ist keine Rechtsberatung und ersetzt weder die Datenschutzprüfung noch eine arbeitsrechtlich abgestimmte Regelung zur Protokollierung.