Der AI Act formuliert nicht nur Anforderungen an Betreiber und Anbieter, sondern auch an Einführer und Händler. Einführer von KI-Systemen Ein Einführer ist gemäß Art. 3 Ziffer 6 AI Act eine in der Union ansässige oder niedergelassene natürliche oder juristische Person, die ein KI-System, das den Namen oder die Handelsmarke einer in einem Drittland niedergelassenen […]
KI
AI Act: Risikomanagement für KI-Systeme
In letzter Zeit ist der Einsatz von Künstlicher Intelligenz (abgekürzt KI, englisch: artificial intelligence, abgekürzt AI) stark angestiegen. Es gibt kaum noch ein neues Produkt, bei dem diese Buchstaben nicht als verkaufsförderndes Argument verwendet werden: die Verwendung von KI verspricht neue Potenziale für Produktivität, Kreativität und Effizienz. Wie beim Einsatz jeder neuen Technologie birgt diese […]
AI Act: Pflichten für Anbieter von KI-Systemen
Im vorherigen Beitrag haben wir uns mit den Pflichten befasst, die nach dem AI Act (KI-Verordnung) für die Betreiber von KI-Systemen gelten. In diesem Beitrag unserer Reihe nehmen wir nun die Pflichten für Anbieter solcher Systeme in den Blick. Damit der Blogbeitrag übersichtlich bleibt, behandeln wir in diesem nur KI-Systeme mit ihren unterschiedlichen Einstufungen. Die […]
AI Act: GPAI – No Risk No Fun?
In den vorherigen Blogbeiträgen unserer Reihe zum AI Act haben wir uns unter anderem mit der Klassifizierung und Regulierung von Hochrisiko-KI-Systemen befasst. Heute richten wir unser Augenmerk auf KI-Modelle mit allgemeinem Verwendungszweck – auch als „General Purpose AI“ (GPAI) bezeichnet – und deren Unterscheidung nach systemischen Risiken. Wenn Sie mehr über den Unterschied zwischen einem […]
AI Act: Hohe Komplexität – Wer muss welche Artikel beachten?
In unserem letzten Blogbeitrag haben wir uns mit der Frage beschäftigt, welche KI-Systeme als hochriskant eingestuft werden. Denn schwerpunktmäßig formuliert die neue EU-Verordnung Anforderungen an Hochrisiko-KI-Systeme. Im vorliegenden Beitrag soll es nun darum gehen, welche Unternehmen von der neuen EU-Verordnung betroffen sind. Unterschiedliche Akteure Der AI Act unterscheidet zwischen Betreibern und Anbietern von KI-Systemen oder […]
AI Act: Hochrisiko-KI-Systeme – Jetzt klassifizieren
In den vorherigen Blogbeiträgen unserer Reihe haben wir uns mit der Frage beschäftigt, ab wann die Pflichten des AI Acts gelten. Schulungspflichten und das Verbot bestimmter KI-Praktiken gelten ab dem 5. Februar 2025. Wir haben zudem dargestellt, wie verbotene KI-Praktiken identifiziert werden können, damit diese rechtzeitig eingestellt oder modifiziert werden können. Ist man mit diesen […]
CNIL veröffentlicht neue datenschutzrechtliche Anleitungen für die Entwicklung von KI-Systemen
Am 2. Juli 2024 hat die französische Datenschutzbehörde (CNIL) neue Anleitungen (sog. „How-to Sheets“) veröffentlicht, die sich mit der Entwicklung von Systemen der Künstlichen Intelligenz (KI) aus Sicht des Datenschutzes befassen. Diese folgen auf die Veröffentlichung früherer How-to Sheets zum gleichen Thema aus Juni 2024. Die neuen Anleitungen vom Juli werden bis zum 1. September […]
KI Im Schwimmbad
Der Einsatz Künstlicher Intelligenz (KI) durchzieht zunehmend mehr Bereiche unseres Lebens. Auch in Schwimmbädern kommt KI bereits zum Einsatz. Im vergangenen Jahr sind laut Statistik der DLRG mindestens 378 Menschen in Deutschland ertrunken, davon acht in Schwimmbädern. Entgegen der weit verbreiteten Annahme, Ertrinkende würden sich durch Hilferufe bemerkbar machen oder durch wildes Plantschen auffallen, erfolgt […]
AI Act: Verbotene KI-Praktiken – Schritt 1 der Klassifizierung von KI-Systemen
In den ersten beiden Blogbeiträgen dieser Reihe haben wir uns damit beschäftigt, ab wann der AI Act (KI-Verordnung) seine Wirksamkeit entfaltet und welche Schutzziele der AI Act verfolgt. Dabei haben wir auch darauf hingewiesen, dass Schulungspflichten und Verbote schon ab dem 2. Februar 2025 gelten. Darüber hinaus muss in bestimmten Fällen eine Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme […]
Schutzziele des AI Acts
In unserem ersten Beitrag der Reihe zum AI Act (KI-Verordnung) haben wir uns mit der Frage beschäftigt, ab wann der AI Act eigentlich gilt. Schulungspflichten im Hinblick auf die Erzeugung einer KI-Kompetenz bei den Beschäftigten und das Verbot für bestimmte Praktiken im KI-Bereich gelten schon ab 2. Februar 2025. Die allgemeinen Pflichten gelten hingegen erst […]
KI-Voice Bots im Kundenservice
Lange Wartezeiten in Kundenhotlines gehören gerade in den Hauptgeschäftszeiten zum Alltag. Unternehmen suchen daher zunehmend nach Möglichkeiten, den Kundenservice zu entlasten. Eine Menüsteuerung zur Anruferidentifikation und zielgerichteten internen Weiterleitung sind längst Standard. Doch auch Künstliche Intelligenz (KI) ist in der Kundenkommunikation längst auf dem Vormarsch. Dabei gehen die Funktionalitäten mittlerweile so weit, dass ein KI-gestützter […]
ChatGPT und der Datenschutz: So bewertet der LfD Niedersachsen den Chatbot
Der Landesbeauftragte für den Datenschutz (LfD) Niedersachsen hat sich in seinem Tätigkeitsbericht für das Jahr 2023 zusammen mit anderen Aufsichtsbehörden mit ChatGPT beschäftigt und eine datenschutzrechtliche Bewertung des Chatbots vorgenommen (vgl. LfD Niedersachsen, Tätigkeitsbericht 2023, S. 52 ff.). Bei ChatGPT handelt es sich um einen auf einem Large Language Model (KI-Sprachmodell) basierenden Chatbot. Über eine […]
Bundeslagebild Cybercrime – wie Cyberkriminelle vorgehen
Vor Kurzem erschien das Bundeslagebild Cybercrime 2023, vorgestellt vom Bundeskriminalamt (BKA) und dem Bundesamt für Sicherheit in der Informationstechnik (BSI). Bei diesem Dokument handelt es sich um einen jährlichen Bericht des BKA, der die aktuelle Lage und Entwicklung der Cyberkriminalität im Land darstellt. Wir wollen die Gelegenheit nutzen, um einige Aspekte davon etwas genauer zu […]
LLM-basierte Chatbots und der Datenschutz
Auch unter Beschäftigten kann die Idee, dass Large Language Models (LLM) wie ChatGPT, Luminous oder Gemini die eigene Arbeit erleichtern könnten, attraktiv erscheinen und zur Nutzung solcher Tools animieren. Problematisch kann dies werden, wenn Unternehmen ihren Beschäftigten vorab keine klaren Vorgaben für den Einsatz solcher Tools machen. Dann besteht die Gefahr, dass Beschäftigte eigenmächtig solche […]
DuD 2024 – Datenschutzkongress in Berlin
Datenschutz und Datensicherheit, Künstliche Intelligenz (KI), die Rechte betroffener Personen sowie die NIS-2-Richtlinie – was haben diese Dinge gemeinsam? Es sind nur einige der spannenden Inhalte, die auf dem dreitägigen Datenschutzkongress DuD 2024 – Datenschutz und Datensicherheit diskutiert wurden. Bereits zum 26. Mal trafen sich Datenschutzbeauftragte, Anwält*innen sowie IT-Sicherheitsverantwortliche zum Erfahrungs- und Gedankenaustausch auf der […]