Chatbots, die wie natürliche Personen schreiben und sprechen, das Vorhersagen von Trends im Finanzwesen oder aber auch das Erzeugen von Kunst – die Fähigkeiten künstlicher Intelligenz sind vielfältig. Dass sich mit dieser Technologie jedoch nicht nur Probleme lösen lassen, sondern auch neue entstehen, wie z. B. das so genannte Halluzinieren von ChatGPT und Co., wird dabei […]
Künstliche Intelligenz
Neue KI-Verordnung: Was Gesundheitsorganisationen jetzt wissen müssen!
Die Welt der Künstlichen Intelligenz entwickelt sich rasant – und das Gesundheitswesen bleibt davon nicht unberührt. Mit der im August 2024 in Kraft getretenen KI-Verordnung der Europäischen Union (KI-VO, engl. AI Act) existiert nun ein umfassender, rechtlicher Rahmen, der viele Gesundheitseinrichtungen vor Herausforderungen stellt: Was ist erlaubt, was verboten? Und wie bereitet man das Personal […]
Buchtipp (nicht nur) in eigener Sache: Realitäten in der Virtualität
Wie wird sich unser Alltag in den nächsten Jahren und Jahrzehnten durch Virtual-, Augmented- und Mixed Reality verändern? Was ist das Metaversum und welche Rolle kann Künstliche Intelligenz bei der Verwebung der echten Welt mit einer digitalen Schicht spielen? Wie werden digitale Güter und Identitäten in Zukunft abgesichert und welche gesellschaftlichen, philosophischen und auch (datenschutz-)rechtlichen […]
Stärkung der Konvergenz von KI und Datenschutzaufsicht
Der Twitter-Nachfolger X hat sich bereit erklärt, die Verarbeitung personenbezogener Daten zum Zwecke des Trainings seines KI-Chatbots Grok auszusetzen. Dies geschieht, nachdem die irische Datenschutzbehörde beim High Court, dem obersten Zivil- und Strafgericht Irlands, ein Beschwerdeverfahren gegen X eingeleitet hatte. Es ist das erste Mal, dass die Behörde von dieser besonderen Befugnis aus dem Irish […]
AI Act: Pflichten für Anbieter von KI-Systemen
Im vorherigen Beitrag haben wir uns mit den Pflichten befasst, die nach dem AI Act (KI-Verordnung) für die Betreiber von KI-Systemen gelten. In diesem Beitrag unserer Reihe nehmen wir nun die Pflichten für Anbieter solcher Systeme in den Blick. Damit der Blogbeitrag übersichtlich bleibt, behandeln wir in diesem nur KI-Systeme mit ihren unterschiedlichen Einstufungen. Die […]
AI Act: Hochrisiko-KI-Systeme – Jetzt klassifizieren
In den vorherigen Blogbeiträgen unserer Reihe haben wir uns mit der Frage beschäftigt, ab wann die Pflichten des AI Acts gelten. Schulungspflichten und das Verbot bestimmter KI-Praktiken gelten ab dem 5. Februar 2025. Wir haben zudem dargestellt, wie verbotene KI-Praktiken identifiziert werden können, damit diese rechtzeitig eingestellt oder modifiziert werden können. Ist man mit diesen […]
AI Act: Verbotene KI-Praktiken – Schritt 1 der Klassifizierung von KI-Systemen
In den ersten beiden Blogbeiträgen dieser Reihe haben wir uns damit beschäftigt, ab wann der AI Act (KI-Verordnung) seine Wirksamkeit entfaltet und welche Schutzziele der AI Act verfolgt. Dabei haben wir auch darauf hingewiesen, dass Schulungspflichten und Verbote schon ab dem 2. Februar 2025 gelten. Darüber hinaus muss in bestimmten Fällen eine Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme […]
Schutzziele des AI Acts
In unserem ersten Beitrag der Reihe zum AI Act (KI-Verordnung) haben wir uns mit der Frage beschäftigt, ab wann der AI Act eigentlich gilt. Schulungspflichten im Hinblick auf die Erzeugung einer KI-Kompetenz bei den Beschäftigten und das Verbot für bestimmte Praktiken im KI-Bereich gelten schon ab 2. Februar 2025. Die allgemeinen Pflichten gelten hingegen erst […]
Der AI Act zur Regelung des Einsatzes Künstlicher Intelligenz tritt in Kraft
Vor einigen Tagen, nämlich am 12. Juli 2024 ist die KI-Verordnung (AI Act) im Amtsblatt der Europäischen Union veröffentlich worden. Den veröffentlichten und somit finalen Text finden Sie hier. Ab wann gilt der AI Act? Der AI Act tritt nach Art. 113 AI Act am zwanzigsten Tag nach seiner Veröffentlichung in Kraft, also im August […]
KI-Voice Bots im Kundenservice
Lange Wartezeiten in Kundenhotlines gehören gerade in den Hauptgeschäftszeiten zum Alltag. Unternehmen suchen daher zunehmend nach Möglichkeiten, den Kundenservice zu entlasten. Eine Menüsteuerung zur Anruferidentifikation und zielgerichteten internen Weiterleitung sind längst Standard. Doch auch Künstliche Intelligenz (KI) ist in der Kundenkommunikation längst auf dem Vormarsch. Dabei gehen die Funktionalitäten mittlerweile so weit, dass ein KI-gestützter […]
ChatGPT und der Datenschutz: So bewertet der LfD Niedersachsen den Chatbot
Der Landesbeauftragte für den Datenschutz (LfD) Niedersachsen hat sich in seinem Tätigkeitsbericht für das Jahr 2023 zusammen mit anderen Aufsichtsbehörden mit ChatGPT beschäftigt und eine datenschutzrechtliche Bewertung des Chatbots vorgenommen (vgl. LfD Niedersachsen, Tätigkeitsbericht 2023, S. 52 ff.). Bei ChatGPT handelt es sich um einen auf einem Large Language Model (KI-Sprachmodell) basierenden Chatbot. Über eine […]
LLM-basierte Chatbots und der Datenschutz
Auch unter Beschäftigten kann die Idee, dass Large Language Models (LLM) wie ChatGPT, Luminous oder Gemini die eigene Arbeit erleichtern könnten, attraktiv erscheinen und zur Nutzung solcher Tools animieren. Problematisch kann dies werden, wenn Unternehmen ihren Beschäftigten vorab keine klaren Vorgaben für den Einsatz solcher Tools machen. Dann besteht die Gefahr, dass Beschäftigte eigenmächtig solche […]
3. Hamburger Datenschutzforum – ein Rückblick
Das 3. Hamburger Datenschutzforum, veranstaltet von der Hamburger Datenschutzgesellschaft e.V. (HDG) und dem Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit am 07.05.2024, widmete sich dem brisanten Thema „Schafft Künstliche Intelligenz den Datenschutz ab?“. Auch in diesem Jahr lud die HDG in die Handelskammer Hamburg ein. Hochkarätige Redner*innen wie Thomas Fuchs (HmbBfDI), Per Meyerdierks (Google), Iris Phan […]
Nutzung der KI – die Aufsichtsbehörden geben Hinweise
Nachdem die Datenschutzaufsichtsbehörde von Baden-Württemberg (LfDI BaWü) im November letzten Jahres ein Diskussionspapier über die Rechtsgrundlagen für den Einsatz von Künstlicher Intelligenz (KI) veröffentlicht hatte (wir berichteten), hat die Konferenz der Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) nun nachgezogen. Sie veröffentlichte die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“. Diese richtet sich an Unternehmen, die KI-Modelle […]
Verarbeitung personenbezogener Daten durch KI-basierte Sprachmodelle – Notwendigkeit eines Paradigmenwechsels?
KI-basierte Sprachmodelle wie ChatGPT werden zunehmend über entsprechende Programmier-Schnittstellen – auch API genannt – Software-Entwicklern zur Verfügung gestellt, um hierüber KI-Funktionalität in Fachanwendungen zu integrieren. Die Integration von Künstlicher Intelligenz in Fachanwendungen, die bislang weitgehend durch algorithmische Regeln und nicht durch heuristische Analysen geprägt war, mag zwar aus Sicht der Anwender und Nutzer oftmals zu […]