Vor kurzem hatten wir über Betreiberpflichten und Haftungsfragen von Krankenhäusern nach der KI-Verordnung der Europäischen Union berichtet. Im vorliegenden Artikel wird nunmehr darauf eingegangen, welche spezifischen datenschutzrechtlichen und sicherheitstechnischen Anforderungen an Krankenhäuser gestellt werden, wenn diese KI-Systeme betreiben. Hierzu gehören neben der Auswahl eines geeigneten KI-Systems und KI-Modells auch Zusatzregelungen zur Wahrung der ärztlichen Schweigepflicht […]
Künstliche Intelligenz – KI
Kuenstliche_Intelligenz_KI
Die Stimme als biometrisches Datum
Transkriptions-Tools, KI-gestützte Sprachassistenten, Live-Dolmetscher oder Voice-Generatoren sind längst keine Zukunftsvision mehr, sondern fester Bestandteil unseres beruflichen wie privaten Alltags. Was auf den ersten Blick als bloßer Effizienzgewinn erscheint, wirft bei näherer Betrachtung grundlegende datenschutzrechtliche Fragen auf, denn all diesen Technologien ist eines gemein: Sie verarbeiten die menschliche Stimme. Der vorliegende Beitrag setzt sich mit der […]
Künstliche Intelligenz hat ihren Preis
Künstliche Intelligenz wird in den nächsten Jahren unsere Gesellschaft dramatisch verändern, vergleichbar mit der aktiven Entfachung von Feuer vor ca. 400.000 Jahren, der Erfindung der Glühbirne durch Thomas Edison im Jahr 1879 oder des Internets bzw. World Wide Web im Jahr 1990 durch Tim Berners-Lee. Doch während die genannten Entdeckungen und Erfindungen ohne große Investitionen […]
KI-Systeme im Krankenhaus – Betreiberpflichten und Haftungsfragen
Der Einsatz von Künstlicher Intelligenz (KI) schreitet in Krankenhäusern schnell voran. Mit der KI-Verordnung der Europäischen Union steigen jedoch auch die regulatorischen Anforderungen: Krankenhäuser werden rechtlich zu Betreibern von KI-Systemen und unterliegen damit zahlreichen Pflichten. Die Pflichten sind davon abhängig, ob es sich bei dem eingesetzten System um ein KI-System mit allgemeinem Verwendungszweck oder mit […]
Wenn KI mithört: Was Unternehmen bei der Transkription von Gesprächen beachten müssen
Die automatische Transkription von Telefongesprächen und Videokonferenzen durch KI-Systeme verspricht Effizienzgewinne im Berufsalltag, bspw. auch im Kundenservice. Doch die rechtlichen Anforderungen sind komplex und werden von Unternehmen oft unterschätzt. Im Folgenden erhalten Sie einen Überblick über die wesentlichen datenschutzrechtlichen Rahmenbedingungen sowie die Risiken, die bei der praktischen Umsetzung zu berücksichtigen sind. Live-Transkription zur Zusammenfassung: Ein […]
AI Logging Under the EU AI Act: The Compliance Infrastructure Behind High-Risk Systems
When organizations prepare for the EU ArtificiaI Intelligence Regulation (or AI Act), the conversation usually gravitates toward high-level themes: ethical frameworks, bias mitigation, and human oversight. However, one of the most compelling obligations is remarkably easy to overlook: the requirement for systematic record-keeping through logs. While logs are usually treated as a technical byproduct of […]
Die KI-VO – mehr Regulierung, weniger Orientierung? Was ist verboten?
In der europäischen Wirtschaft wird die relativ neue KI-Verordnung viel diskutiert. Viele Unternehmen kritisieren, dass die Regeln kompliziert und schwer verständlich seien. Ein Blick in den Verordnungstext, insbesondere in Artikel 5 Absatz 1, zeigt, warum diese Kritik aufkommt. Der Text ist komplex und juristisch formuliert, was für Laien oft wie ein Buch mit sieben Siegeln […]
KI-VO: Stellungnahme der DSK zur Zuständigkeitsverteilung
Wie bereits in unserem Blogbeitrag im letzten Jahr prognostiziert, zeigt sich immer mehr, dass die Regelung der behördlichen Zuständigkeiten bezüglich der Durchführung und Überwachung der KI-Verordnung (KI-VO) zu einer massiven bürokratischen Mehrbelastung und damit einer Konterkarierung der eigentlichen Regelungsziele der KI-VO führt. Statt einer schlanken und effizienten behördlichen Aufsicht, scheint es zu einem internen Befugnisstreit […]
AI Meeting Transcripts: Efficiency Tool or Corporate Liability?
AI-powered meeting assistants have rapidly become one of the most adopted categories of workplace technology. These tools join video calls to record, transcribe, and summarize conversations, promising efficiency gains and more reliable documentation. The value proposition is clear: accurate records improve accountability, knowledge-sharing, and business continuity. But as with any technology deployed at scale, the […]
BSI White Paper on Bias in Artificial Intelligence
On July 24, 2025, the German Federal Office for Information Security (BSI), through authors Dr. Jonas Ditz und Elmar Lichtmeß, published an interesting white paper “Bias in Artifical Intelligence” (currently only available in German) that provides developers, providers, and operators of AI systems with an introduction to the issue of bias. What does the term […]
BSI-Whitepaper – Bias in der künstlichen Intelligenz
Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat am 24. Juli 2025 ein interessantes Whitepaper „Bias in der künstlichen Intelligenz“ der Autoren Dr. Jonas Ditz und Elmar Lichtmeß herausgegeben, das Entwickelnden, Anbietenden und Betreibenden von KI-Systemen eine Einführung in die Bias-Problematik gibt. Was ist unter dem Begriff Bias zu verstehen? Der englische Begriff „Bias“ […]
Intelligente tutorielle Systeme (ITS) – Chance oder Risiko für Schulen? (Teil 2)
Nachdem wir uns im ersten Teil dieser Reihe mit der datenschutzrechtlichen Verantwortlichkeit und der Rechtsgrundlage beim Einsatz von ITS beschäftigt haben, beleuchten wir in diesem zweiten Teil weitere Themenschwerpunkte, die beim Einsatz von intelligenten Lernplattformen in Schulen berücksichtigt werden müssen. Auftragsverarbeitung Oft wird die Lernplattform nicht von der Schule selbst betrieben, gehostet und gewartet, sondern […]
Intelligente tutorielle Systeme (ITS) – Chance oder Risiko für Schulen? – Teil 1
Eine Welt, in der jede*r Schüler*in nach dem individuellen Wissensstand und Lerntempo gefördert wird und Über- bzw. Unterforderung als Grund für schlechte Noten ausgeschlossen werden kann, in der die Grenzen des konventionellen analogen Präsenzunterrichts durch das adaptive Eingehen auf die Verständnisschwierigkeiten der einzelnen Schüler*innen überwunden werden können – all das erscheint möglich durch intelligente tutorielle […]
AI Literacy: What You Really Need to Know
Artificial intelligence (AI) is no longer a specialised technology reserved for a handful of tech companies. It now powers, at least tangentially, the tools, platforms, and processes of almost every business. AI’s presence in the workplace is now routine. Organisations must ensure their employees know how to use AI responsibly, both as a compliance requirement […]
Classifying ChatGPT under the AI Act: A Practical Walkthrough
This blog post explores two topics currently attracting significant attention in practice: ChatGPT and the AI Act. Using a practical example, we will show how ChatGPT can be classified under the Act. Our scenario: A company wants to provide its employees with ChatGPT and has chosen the paid ChatGPT Team licence. In this post, we […]