Heute beschäftigen wir uns mit der bereits im Titel dieses Blogbeitrags gestellten Frage. Die Frage ist dabei bewusst ziemlich speziell formuliert, denn wir wollen uns heute mit nur einer Ausprägung der verschiedenen Lizenzen beschäftigen, die Microsoft im Rahmen seines KI-gestützten Assistenztools „Copilot“ anbietet. Die Lizenz, um die es heute geht, nennt sich „Microsoft Copilot with commercial Data Protection“ und sie steht für viele Microsoft Produkte im Gegensatz zur Lizenz „Copilot for Microsoft 365“ kostenfrei zur Verfügung, bietet aber auch weniger Funktionen.
Datenschutzrechtliche Grundvoraussetzungen der Einführung von KI
Grundsätzlich sind bei der Einführung von KI-Anwendungen, die mit personenbezogenen Daten in Berührung kommen, ein paar Punkte zu beachten. Unternehmen, die solche Anwendungen nutzen wollen, benötigen in jedem Fall:
- einen Vertrag zur Auftragsverarbeitung mit dem Anbieter, sofern dieser die Anwendung betreibt,
- dieser oder der Leistungsvertrag muss die Zusicherung enthalten, dass die Daten nicht zweckfremd zum Anlernen der KI genutzt werden,
- bei Anbietern mit Sitz außerhalb der EU muss die Zulässigkeit der Drittlandsübermittlung geprüft werden,
- die KI darf nicht für eine automatisierte Entscheidungsfindung genutzt werden, also nicht im Hinblick auf Kunden und Mitarbeiter entscheiden,
- unter Umständen wird eine Datenschutzinformation in Richtung der betroffenen Personen erforderlich sein (z. B., wenn ein Chatbot direkt gegenüber Kunden eingesetzt wird),
- schließlich ist eine Datenschutz-Folgenabschätzung erforderlich.
Grundsätzlich ist der Einsatz von Microsoft Copilot nicht per se datenschutzrechtlich ausgeschlossen, sondern durchaus denkbar. Was Microsoft vorliegend mit dem „Microsoft Copilot with commercial Data Protection“ macht, wird aber vermutlich viele Unternehmen überraschen, die die „geschenkte“ Anwendung nicht ganz so genau unter die Lupe nehmen.
„Microsoft Copilot with commercial Data Protection“ ist nicht für die Verarbeitung von personenbezogenen Daten geeignet
Denn alleine die Prüfung des ersten Punktes der oben genannten Mindestanforderungen führt zu dem Ergebnis, dass „Microsoft Copilot with commercial Data Protection“ wohl nicht für die Verarbeitung personenbezogener Daten eingesetzt werden darf. Denn überraschenderweise schließt Microsoft in Bezug auf diese konkrete Ausprägung seines Copiloten keine Verträge zur Auftragsverarbeitung. Stattdessen wird die Anwendbarkeit des globalen Microsoft Vertrags zur Auftragsverarbeitung (DPA) sogar ausgeschlossen. Aus Kundensicht ist dies aber nur schwer nachvollziehbar, denn ein solcher Ausschluss ergibt sich nur aus einem der zahlreichen Microsoft-Dokumente, die man prüfen muss, wenn man Microsoft-Dienste einsetzen möchte. Konkret wird man in den sogenannten Privacy & Security Terms fündig, in denen Microsoft unter der Überschrift „Online Services excluded from the DPA“ auch „Microsoft Copilot with commercial data protection“ aufzählt.
Statt in der Rolle des Auftragsverarbeiters sieht sich Microsoft beim „Copilot with commercial Data Protection“ sogar in der Rolle des Verantwortlichen im datenschutzrechtlichen Sinne. Der Einsatz für personenbezogene Daten ist daher datenschutzrechtlich nicht möglich.
Neue Lizenz, neues Glück – aber kostenpflichtig
Wer Microssoft Copilot dennoch mit personenbezogenen Daten in Berührung bringen und nicht bereits bei dem ersten Prüfpunkt der datenschutzrechtlichen Grundvoraussetzungen ausscheiden möchte, der muss eine Lizenz abschließen, zu der Microsoft auch einen Vertrag zur Auftragsverarbeitung anbietet. Konkret geht es dann in den meisten Fällen wohl um die Lizenz „Copilot for Microsoft 365“, die jedoch mit derzeit 28,10 Euro zzgl. MwSt. pro Benutzer und Monat im Jahresabonnement zu Buche schlägt und dann aber auch noch weitere Funktionen mit sich bringt.
Fazit: Einem geschenkten Gaul …
Im Fazit kann man feststellen, dass man den Einsatz von KI-Anwendungen in der Praxis gründlich prüfen muss. Insbesondere bei kostenlosen Varianten verbergen sich häufig Fallstricke, selbst wenn der Name suggeriert, dass Geschäftsdaten geschützt und nicht zweckfremd verarbeitet werden.
19. März 2024 @ 17:10
Ich halte die Ansicht von MS ebenfalls für vertretbar, frage mich aber wieso MS Copilot damit dann aber nicht eingesetzt werden können sollte?
Es gibt ja schließlich auch noch andere Maßnahmen, die dafür sorgen, dass MS auch nicht vorübergehend („a short caching period for runtime purposes“, vgl. https://learn.microsoft.com/en-us/copilot/privacy-and-protections#microsoft-as-the-data-controller) personenbezogene Daten verarbeitet.
Letztlich hängt die Zulässigkeit aber auch nicht davon ab, ob eine Lizenz abgeschlossen wurde:
Copilot mit commercial data protection soll vor allem Unternehmen und Bildungseinrichtungen beim Schutz von Unternehmensdaten unterstützen, wenn sich berechtigte Benutzer mit ihrem Geschäfts-, Schul- oder Unikonto anmelden (vgl. https://learn.microsoft.com/de-de/copilot/overview#commercial-data-protection-explained). Dabei wird es sich regelmäßig um spezielle Lizenzmodelle handeln.
21. März 2024 @ 7:35
Vielen Dank für Ihren Kommentar und den Hinweis auf den interessanten Link, den ich noch nicht kannte. Besonders spannend fand ich den Satz: “When commercial data protection is enabled, Microsoft doesn’t retain this data beyond a short caching period for runtime purposes”. Hier kann man sich die Frage stellen, ob überhaupt eine DSGVO-relevante Datenverarbeitung vorliegt. Dies muss man aber wohl anhand des Beschlusses des Bundesverfassungsgerichts vom 18.12.2018 zu Az. 1 BvR 142/15 bejahen (hier ging es damals um die Frage, ob flüchtige Maut-Daten zum Kennzeichenabgleich genutzt werden dürfen und ob dies überhaupt eine Datenverarbeitung darstellt, was dann letztlich aber bejaht wurde). Ich würde daher die Ansicht vertreten, dass vorliegend eine Rechtsgrundlage für die Datenverarbeitung vorliegen muss. Hier käme als praktikable Rechtsgrundlage allenfalls eine Interessenabwägung nach Art. 6 Abs. 1 lit. f DSGVO in Betracht (und die Prüfung des angemessenen Datenschutzniveaus aller beteiligter Unternehmen bzw. Verarbeitungsstandorte). Im Ergebnis werden Unternehmen kaum gewährleisten können, dass jeder Chatverlauf mit personenbezogenen Daten von der Interessenabwägung gedeckt ist- zumal die betroffenen Personen argumentieren könnten, dass auch ein Schutz über einen Vertrag zur Auftragsverarbeitung möglich ist. Ich würde auch die Ansicht vertreten, dass die Nutzung von ChatGPT nicht mit einer normalen Google-Suchanfrage zu vergleichen ist. Denn wie oft gibt man Google im Rahmen einer Suchanfrage umfangreiche personenbezogene Daten über eine Person, über die Google ggf. noch nicht einmal verfügt. Die Nutzung von ChatGPT als Ersatz für eine Übersetzungsfunktion ist zum Beispiel eher vergleichbar mit einer DeepL-Nutzung, für die ein Vertrag zur Auftragsverarbeitung erforderlich ist. Oder wenn ChatGPT zum Beispiel vorhandene Personaldaten in Relation setzen soll, die man über einen Prompt eingibt, wird die Argumentation mit einer Interessenabwägung ohne Auftragsverarbeitung schwer. Die im Beitrag behandelte, kostenlose Lizenz, kann daher m.E. in Unternehmen nicht zur Nutzung mit personenbezogenen Daten freigegeben werden. Man könnte sie für nicht personenbezogene Daten nutzen. Dafür würde ich eine verbindliche Richtlinie und eine Sensibilisierungsmaßnahme der Beschäftigten empfehlen.
Beste Grüße
Sven Venzke-Caprarese
4. März 2024 @ 22:10
Halte die Ansicht von MS für valide. Konsequenterweise müsste man ansonsten auch fürs Googlen einen DPA benötigen. Nichts anderes macht Copilot (ohne MS365). Fokus liegt nicht auf der Verarbeitung von pb Daten. Copilot mit MS365 hat hingegen den Fokus auf pb Daten – daher da auch DPA.