Konversationelle Assistenten und Co-Piloten haben sich von einer Neuheit zu einem festen Bestandteil der Arbeitswelt entwickelt. Dieser Fortschritt steigert die Produktivität, birgt aber auch die Gefahr des KI-Missbrauchs. Wenn Sie Windows 11 und Microsoft 365 verwalten, ist es daher unerlässlich, den Schutz von Daten, Benutzern und Geräten vor unerwünschten Eingriffen, unbeabsichtigten Datenlecks und unkontrollierter Automatisierung ernst zu nehmen.
Die gute Nachricht: Das Microsoft-Ökosystem bietet bereits ausgereifte Komponenten zur Steuerung und zum Schutz des Einsatzes generativer KI. Microsoft Purview mit seinem DSPM-Ansatz für KI sowie die Sicherheits-, Compliance- und Aufbewahrungsfunktionen in M365 bilden das Rückgrat dieses Schutzes – sowohl für Copilot als auch für Drittanbieter-Apps wie ChatGPT Enterprise . Sehen wir uns genauer an, warum Chatbots wie eine Hintertür wirken können und welche Möglichkeiten es gibt, diese zu schließen.
Warum Chatbots sich wie eine Hintertür verhalten können
Generative KI ist immens leistungsstark, wenn sie Kontext, Werkzeuge und Aktionen kombiniert. Genau deshalb kann ein Agent, der weitreichende Berechtigungen erhält oder durch gezielte Manipulation gesteuert wird , Aufgaben orchestrieren, die vom Lesen und Zusammenfassen sensibler Dokumente bis zum Versenden von Informationen außerhalb der Organisation reichen. Dieses Risiko wird durch das Model Context Protocol (MCP) noch verstärkt , den Standard, der es einem Agenten ermöglicht, Serverfunktionen zu ermitteln und Aktionen verkettet auszuführen.
Windows entwickelt sich hin zu einem „agentenbasierten Betriebssystem“, damit Agenten komplexe Aufgaben ausführen können. Dies erhöht zwar die Automatisierung, vergrößert aber auch die Angriffsfläche : Cross-Prompt-Injection, schwache Authentifizierung, Datenlecks, Tool-Poisoning (unverifizierte MCP-Server), mangelnde Prozessabschirmung, unzureichende Sicherheitsprüfung und Lieferkettenrisiken auf externen Servern.
Es gibt wichtige Lehren daraus zu ziehen. ActiveX- und OLE-Automatisierung versprachen einst schnelle Lösungen, erwiesen sich aber jahrelang als Freifahrtschein für Schadsoftware und bösartige Makros . Heute ist der Kontext ein anderer, das Prinzip bleibt jedoch dasselbe: Wer unbegrenzte Automatisierungsmöglichkeiten ohne Kontrolle gewährt, wird sie zwangsläufig ausnutzen.
Copilot in Windows 11 und auch in Windows 10: Was ändert sich?
Microsoft hat beschlossen, Copilot über Windows 11 hinaus auf Windows 10 auszuweiten. Ziel ist ein vielseitiger Copilot, der Sie bei der Systemkonfiguration und der Erledigung alltäglicher Aufgaben direkt in Windows unterstützt – ohne zusätzliche Kosten (im Gegensatz zu Copilot für Microsoft 365, einem kostenpflichtigen Dienst). Was werden Sie im Alltag bemerken?
- AufgabenautomatisierungSchnelle Erstellung von Aktionen, die die KI mit weniger manuellen Schritten ausführt.
- Kreative BearbeitungIn Paint: Hintergrundentfernung und Ebenenverwaltung; in Fotos: Bokeh-Hintergrundunschärfe; in Clipchamp: Bearbeitungsvorschläge basierend auf Szene und Dauer.
- Bildersuche in OneDrive: präzisere Ergebnisse durch Filter nach Ort und Kontext.
- OCR im laufenden Betrieb: Extrahieren Sie in Bildern eingebetteten Text, um ihn in jeder beliebigen App zu verwenden.
- Screenshots mit KommentarBildschirmaufnahme mit Mikrofon für schnellere Tutorials.
- Intelligentere E-Mails: Synchronisierung mehrerer Konten im neuen Outlook und Vorschläge für Anhänge basierend auf Ihren vorherigen Aktivitäten.
- Explorer mit intelligenten Verknüpfungen: Zugriff auf die von Ihnen am häufigsten genutzten Funktionen basierend auf Ihrem Nutzungsverhalten.
- Sprachdiktat und Eingabeaufforderungen: bearbeitet diktierte Texte und sendet Anfragen per Spracheingabe an den Copiloten, ideal für schnelle Durchflussmengen.
Copilot vereint zwei Konzepte, die manchmal verwechselt werden. Die Bildverarbeitung funktioniert im Kontext der jeweiligen Sitzung (z. B. eine Website in Edge, eine App unter Windows, die Kamera in der mobilen App). Diese Informationen werden nicht als Screenshots gespeichert; lediglich der Chatverlauf bleibt in Ihrer Historie erhalten, die Sie jederzeit löschen können.
MCP unter Windows: Leistungsstarke Automatisierung mit mobilen Steuerelementen
Damit ein agentenorientiertes Windows realisierbar ist, plant Microsoft ein lokales Register von MCP-Servern, eingebettete Server, die Systemfunktionen (Dateisystem, Windows, WSL) bereitstellen, sowie App-Aktionen, mit denen Drittanbieter Aktionen als MCP-Server veröffentlichen können . Ziel ist es, per natürlicher Sprachbefehl Abfragen zu verketten, Excel-Diagramme zu generieren und sogar E-Mails zu versenden.
Sicherheit ist entscheidend. Microsoft schlägt einen zwischengeschalteten Proxy zur Verwaltung des Client-Server-Datenverkehrs für Richtliniendurchsetzung, Überwachung und Einwilligung vor; ein Mindestmaß an Sicherheit für MCP-Server (Codesignierung, Schnittstellentests, Berechtigungsdeklaration); und Laufzeitisolation mit differenzierten Berechtigungen . Einige Maßnahmen werden in der ersten Entwicklervorschau nicht enthalten sein, daher empfiehlt es sich, jetzt mit der Entwicklung des Daten-Governance-Frameworks zu beginnen.
Das wichtigste Tor zum Schutz von KI: Microsoft Purviews DSPM
Purviews AI Data Security Posture Management (DSPM) ist das Dashboard zur Ermittlung, Sicherung und Durchsetzung von Compliance-Vorgaben für den KI-Einsatz im gesamten Unternehmen . Es nutzt bestehende Datenschutz- und Compliance-Funktionen und kombiniert sie mit Berichten und Richtlinien, die mit nur einem Klick erstellt werden können und die sichere Einführung von Copilots, Agents und anderen generativen Anwendungen beschleunigen.
In Purview werden KI-Apps in drei Kategorien unterteilt: Copilot-Anwendungen und -Agenten (Microsoft 365 Copilot, Security Copilot, Copilot on Fabric, Copilot Studio); KI-Anwendungen für Unternehmen (z. B. bei Entra registrierte Apps, ChatGPT Enterprise, Azure AI Foundry); und andere KI-Anwendungen, die durch Browseraktivitäten erkannt werden (ChatGPT, Google Gemini, Microsoft Copilot for Consumer, DeepSeek ). Jede Kategorie verfügt über die ihrer Art entsprechenden Sicherheits- und Compliance-Kontrollen.
Vertraulichkeitskennzeichnungen: Steuern Sie, was KI sehen und nutzen kann.
Wenn die Daten Ihres Mandanten Vertraulichkeitskennzeichnungen enthalten, geben kompatible KI-Anwendungen keine Inhalte zurück, wenn der Benutzer keinen Zugriff darauf hat . Word, Excel, PowerPoint und Outlook zeigen die Kennzeichnung und die zugehörigen Formatierungen (Kopf- und Fußzeilen) an. Dasselbe gilt für Loop-Komponenten und -Seiten. Wenn die Kennzeichnung eine Verschlüsselung erzwingt, benötigt die KI die Berechtigungen ANZEIGEN und EXTRAKT, um zu antworten oder einen Link herzustellen.
Dieser Schutz erstreckt sich auf Daten, die verwendet werden, selbst wenn sich die Datei außerhalb Ihres Microsoft 365-Speichers befindet (lokal, in freigegebenen Ordnern oder in Cloud-Speichern von Drittanbietern), solange sie in einer Office-Anwendung geöffnet ist. Falls Sie noch keine Vertraulichkeitsbezeichnungen verwenden, sollten Sie diese so bald wie möglich aktivieren.
Nicht gekennzeichnete Verschlüsselung und Ausnahmen, die Sie kennen sollten
Auch ohne Kennzeichnung können Dienste und Produkte die Azure Rights Management-Verschlüsselung anwenden. Die KI prüft die Berechtigungen zum Anzeigen und Extrahieren von Daten, bevor diese zurückgegeben werden. Eine automatische Vererbung für neue Elemente findet jedoch nicht statt . Zu den Lösungen, die diese Verschlüsselung nutzen, gehören Purview Message Encryption, IRM, der RMS-Connector und das Rights Management SDK.
Bei anderen Verschlüsselungsmethoden gilt: Copilot gibt keine mit S/MIME geschützten E-Mails zurück und ist beim Öffnen von S/MIME-Nachrichten in Outlook nicht verfügbar . Auch auf passwortgeschützte Dokumente kann Copilot nur zugreifen, wenn diese bereits in derselben Anwendung geöffnet sind; der Passwortschutz wird nicht übernommen. Mit CCK oder BYOK in Purview bleiben verschlüsselte Inhalte für eDiscovery, die Suche und Copilot mit den entsprechenden Berechtigungen sichtbar.
Verhinderung von Datenverlust: Blockiert Lecks an KI-Websites
Mit Purview DLP können Sie Datenschutzverletzungen in Microsoft 365 und auf Endgeräten erkennen, überwachen und verhindern. Windows-PCs mit integrierter Purview-Lösung unterstützen Endpoint DLP , das vor der Weitergabe sensibler Daten an KI-generierende Websites im Browser warnt oder diese verhindert. Ein typisches Beispiel ist das Verhindern des Einfügens von Kreditkartennummern in ChatGPT oder die Anzeige einer Warnung, die ignoriert werden kann.
Darüber hinaus kann eine DLP-Richtlinie mit KI-basiertem Standortbereich verhindern, dass Microsoft 365 Copilot Inhalte mit bestimmten Tags verarbeitet. Wenn Sie Dateien als „Streng vertraulich“ kennzeichnen und angeben, dass sie nicht zusammengefasst werden sollen, erstellt Copilot keine Zusammenfassungen dieser Dateien. Es kann jedoch weiterhin ein Link bereitgestellt werden, über den autorisierte Benutzer die Dateien in Word öffnen können.
Internes Risiko: Vorlagen zur Erkennung des missbräuchlichen Einsatzes von KI
Purviews Insider-Risikomanagement nutzt Signale von Microsoft 365 und Drittanbietern, um Datenexfiltration, IP-Diebstahl und Missbrauch zu erkennen. Die KI-gestützte Risikoanalyse identifiziert Muster wie sofortige Angriffe und Zugriffe auf geschützte Daten . Diese Ansicht ist in Microsoft Defender XDR integriert und bietet so eine vollständige Übersicht über alle Vorfälle.
Datenklassifizierung: die Grundlage von allem
Purviews Klassifizierung (sensible Informationstypen und trainierbare Klassifikatoren) hilft dabei, sensible Daten in Anfragen und Antworten von KI-Anwendungen aufzudecken . Die Ergebnisse werden in Purview-Berichten und im DSPM AI Activity Explorer angezeigt. Eine korrekte Kennzeichnung ist entscheidend, um eine hilfreiche Warnung von irrelevanten Meldungen zu unterscheiden.
Überwachen und reagieren: Prüfung, Kommunikation, elektronische Beweissicherung und Aufbewahrung
Das einheitliche Audit erfasst Nachrichten und Antworten aus KI-Interaktionen , einschließlich Informationen darüber, wann und wie die App verwendet wurde, auf welchen M365-Dienst zugegriffen wurde und welche gespeicherten Dateien verwendet wurden. Falls eine Vertraulichkeitskennzeichnung angewendet wurde, wird diese ebenfalls protokolliert. Sie können diese Ereignisse im Purview-Portal suchen und deren Details im DSPM-Aktivitäts-Explorer anzeigen.
Communications Compliance überwacht Kommunikationskanäle, einschließlich Anfragen und Antworten an KI-Anwendungen , um Verstöße gegen Vorschriften oder Verhaltensregeln (unzulässige Weitergabe, Bedrohungen, Belästigung, Inhalte für Erwachsene) aufzudecken. Es arbeitet mit Pseudonymisierung, standardmäßigem Datenschutz und rollenbasierter Zugriffskontrolle.
Im Rahmen der elektronischen Beweissicherung werden KI-Interaktionen im Postfach des Benutzers gespeichert . Innerhalb eines Falls können Sie die Suche starten, indem Sie das Postfach als Quelle auswählen und nach Copilot-bezogenen Aktivitäten filtern. Sobald Sie die Ergebnisse eingegrenzt haben, können Sie diese exportieren oder zur Überprüfung einreichen, genau wie bei anderen Beweismitteln.
Mit Data Lifecycle Management konfigurieren Sie Aufbewahrungsrichtlinien, um Anfragen und Antworten von KI-Anwendungen automatisch zu speichern oder zu löschen . Bei Überschneidungen mehrerer Richtlinien oder gesetzlichen Aufbewahrungspflichten gelten die Aufbewahrungsgrundsätze: Die längste Aufbewahrungsfrist hat Vorrang, neben anderen Kriterien.
Compliance Manager: Bewertungen und Vorlagen für KI-Regulierungen
Compliance Manager unterstützt Sie bei der Risikoanalyse, der Implementierung von Kontrollmaßnahmen und der Einhaltung gesetzlicher Bestimmungen . Für KI bietet es Analysen, die Sie bei der Prüfung von Interaktionen, der Vermeidung von Datenverlust und der Verbesserung der Rückverfolgbarkeit unterstützen. Es eignet sich ideal, um die Sorgfaltspflicht bei Audits und Zertifizierungen nachzuweisen.
ChatGPT Enterprise unter Kontrolle: Was Purview bereits unterstützt
Purview unterstützt wichtige Funktionen von ChatGPT Enterprise innerhalb der Kategorie KI-Unternehmensanwendungen . Sie sehen DSPM-Empfehlungen wie „Geführte Unterstützung bei KI-Vorschriften“ (basierend auf Compliance Manager-Vorlagen) und Richtlinien, die mit einem Klick angewendet werden können, wie „DSPM für KI: Interaktionen von KI-Unternehmensanwendungen erfassen“ oder „Sensible Informationen erkennen, die über das Netzwerk mit KI geteilt werden“.
Beachten Sie, dass Sie in Ihrer Organisation die nutzungsbasierte Abrechnung aktivieren und den Connector-Scan für Purview ausführen müssen, um die Interaktionen mit ChatGPT Enterprise zu verwalten. Anschließend funktionieren Klassifizierung, Auditierung, Kommunikation, eDiscovery und Aufbewahrung wie im restlichen Ökosystem.
Empfohlene praktische Schritte für den Einstieg
- Wählen Sie auf der DSPM-Empfehlungsseite für KI die Empfehlung für Interaktionen mit ChatGPT Enterprise erkennen und steuern von Ihren Azure AI-Abonnements und aktivieren Sie die Nachrichten- und Antworterfassung.
- Aktivieren Sie die Ein-Klick-Richtlinie Schutz der Interaktionen von Unternehmensanwendungen um Interaktionen von beliebigen kompatiblen KI-Unternehmensanwendungen zu erfassen.
- Warten Sie mindestens einen Tag, gehen Sie dann zu „Berichte“ und filtern Sie nach Kategorie. KI-Anwendungen für Unternehmen Um Trends zu erkennen: Gesamtinteraktionen, Interaktionen mit sensiblen Daten, Schwere des internen Risikos und Aufschlüsselung nach Anwendungsbereich.
- Gehen Sie zu „Details anzeigen“, um den Aktivitäts-Explorer zu öffnen und nach folgenden Kriterien zu filtern: Anwendung = ChatGPT EnterpriseWenn Sie in Content Explorer die Rolle „Inhaltsbetrachter“ besitzen, können Sie den Nachrichtentext und die zu jedem Ereignis gehörende Antwort einsehen.
- Wenn Sie Interaktionen aus Compliance-Gründen aufbewahren müssen, erstellen Sie in Purview eine Aufbewahrungsrichtlinie, die auf den entsprechenden Standort abzielt. KI-Anwendungen für Unternehmen und legen Sie den in Ihren Vorschriften festgelegten Zeitraum fest.
- Um elektronische Dokumente anzuzeigen, erstellen Sie einen eDiscovery-Fall und suchen Sie nach Eigentümer. ItemClass: verwenden
IPM.SkypeTeams.Message.ConnectedAIApp.Connector.<ChatGPTEnterprise>für lokale Maschinenaktivitäten oderIPM.SkypeTeams.Message.CloudAIApp.SaaS.<AppID>für browserbasierte Aktivitäten. Verfeinern, überprüfen und exportieren wie immer
Über die Stellenbezeichnung hinaus: Wenn Sie nicht auf Windows 11 aktualisieren können
Manche Organisationen können ihre Systeme noch nicht vollständig auf Windows 11 migrieren. In diesen Fällen ermöglichen Windows 365 Cloud-PCs die Standardisierung der Desktops, erhöhte Sicherheit und einfacheres hybrides Arbeiten mit verwalteten virtuellen Maschinen, die von jedem Gerät aus zugänglich sind. Weniger Variabilität, mehr Kontrolle und zentrale Überwachung.
Es ist offensichtlich, dass Chatbots nicht das Problem sind; die Schwierigkeit liegt vielmehr in der Art und Weise, wie ihnen Zugriff gewährt wird und welche Einschränkungen für ihren Betrieb gelten. Durch korrekte Kennzeichnung, Endpunkt- und KI-Verarbeitung mittels DLP und Überwachung durch Auditing, eDiscovery und Aufbewahrung wird die vermeintliche Hintertür effektiv von beiden Seiten geschlossen . Ergänzen Sie Ihre Lösung um Compliance Manager-Vorlagen und Funktionen zur Insider-Risikobewertung, und Sie können Copilot, ChatGPT Enterprise und das MCP unter Windows 11 und Microsoft 365 bedenkenlos nutzen.
