03
MODUL 03
Rechtliche Fallstricke — die absoluten DON'Ts
Zielgruppe: KMU-Inhaber und Führungskräfte in Österreich und Deutschland · Lesedauer: ca. 30 Minuten · Stand: Juni 2026 — Version 2.6

Quellenlogik: Primärquellen sind Gesetzestexte, Behördeninformationen, Verbandsleitfäden und dokumentierte Fälle. Interne Rechercheunterlagen wurden nur als redaktionelle Arbeitsgrundlage genutzt.

Wichtiger Hinweis: Dieses Dokument stellt eine allgemeine, unverbindliche Information dar und ersetzt keine individuelle Rechtsberatung. Bei konkreten Fragen wenden Sie sich an einen spezialisierten Rechtsanwalt oder Datenschutzbeauftragten.
Einordnung und Quellenlogik

Dieser Leitfaden ist eine unternehmerische Entscheidungs- und Umsetzungsgrundlage für KMU. Er ersetzt keine individuelle Rechts-, Steuer-, Datenschutz- oder IT-Sicherheitsberatung. Gerade bei personenbezogenen Daten, Mitarbeiterdaten, Hochrisiko-KI, Berufsgeheimnissen oder Betriebsratsfragen sollte die finale Bewertung durch die jeweils zuständige Fachperson erfolgen.

Begriffsschärfe in diesem Dokument:

  • Gesetzliche Pflicht: ausdrücklich oder unmittelbar aus Gesetz, Verordnung oder verbindlicher behördlicher Vorgabe ableitbar.
  • Rechtliche Risikozone: nicht pauschal verboten, aber nur mit sauberer Rechtsgrundlage, Dokumentation, Verträgen und Verantwortlichkeiten vertretbar.
  • Best Practice: fachlich sinnvoll, aber nicht in jedem Fall gesetzlich vorgeschrieben.
  • Praktische Empfehlung: pragmatische Handlungsempfehlung für KMU, damit Unternehmer nach dem Durchgehen dieses Leitfadens konkrete nächste Schritte ableiten können.

Quellenlogik: Die im Text verlinkten Quellen verweisen nach Möglichkeit direkt auf Studien, Behördeninformationen, Gesetzestexte, Anbieterbedingungen oder dokumentierte Fälle.

Verständlichkeitsprinzip

Dieser Leitfaden verwendet Fachbegriffe nur dort, wo sie für eine Entscheidung wirklich nötig sind. Beim ersten Auftreten werden sie möglichst einfach erklärt. Wenn ein Begriff juristisch, technisch oder englisch klingt, gilt immer die praktische Frage: Was bedeutet das für mein Unternehmen konkret?

Die wichtigste Regel beim Lesen: Sie müssen nicht jeden Paragrafen oder jede technische Abkürzung auswendig kennen. Sie sollen erkennen, wo ein Risiko liegt, welche Mindestmaßnahme sinnvoll ist und wann externe Prüfung nötig wird.

KMU-Minipfad: Rechtliche Mindestkontrolle in 2 Stunden

Ziel ist nicht, aus einem KMU eine Rechtsabteilung zu machen. Ziel ist, die größten vermeidbaren Risiken sichtbar zu machen.

In 2 Stunden:
  1. Schreiben Sie alle KI-Tools auf, die offiziell oder inoffiziell genutzt werden.
  2. Markieren Sie rot: Kundendaten, Mitarbeiterdaten, Bewerbungen, Gesundheitsdaten, Vertragsdaten, Geschäftsgeheimnisse.
  3. Prüfen Sie für jedes Tool: Gibt es einen AVV/DPA? Werden Eingaben zum Training genutzt? Wo werden Daten verarbeitet?
In 1 Tag:
  1. Erstellen Sie eine Positiv-/Negativliste zugelassener KI-Tools.
  2. Dokumentieren Sie eine KI-Basisschulung nach Art. 4 AI Act als Nachweismaßnahme.
  3. Aktualisieren Sie VVT/Datenschutzhinweise dort, wo personenbezogene Daten mit KI verarbeitet werden.
Erweiterter Pfad:

Bei HR, Kredit, Bildung, biometrischen Daten, Berufsgeheimnissen, Chatbots mit Kundenkontakt oder automatisierten Entscheidungen: keine Umsetzung ohne Datenschutzbeauftragten und spezialisierte Rechtsprüfung.

Mini-Glossar: Begriffe in diesem Modul
  • EU AI Act: EU-Gesetz für den Einsatz von Künstlicher Intelligenz. Es regelt unter anderem verbotene KI-Nutzungen, Hochrisiko-KI und Transparenzpflichten.
  • DSGVO: Datenschutz-Grundverordnung. Sie regelt, wie personenbezogene Daten verarbeitet werden dürfen.
  • Personenbezogene Daten: Informationen, die sich auf eine bestimmte Person beziehen. Beispiel: Name, E-Mail, Kundennummer, Bewerbungsunterlagen.
  • AVV / DPA: Datenschutzvertrag mit einem Dienstleister. AVV ist die deutsche Abkürzung, DPA die englische.
  • VVT: Internes Verzeichnis: Welche personenbezogenen Daten verarbeitet das Unternehmen, warum und mit welchem Tool?
  • DSFA: Datenschutz-Risikoanalyse bei besonders sensiblen oder riskanten Datenverarbeitungen.
  • Deployer / Anwender: Das Unternehmen, das ein KI-System beruflich nutzt.
  • Hochrisiko-KI: KI-Einsatz mit besonders hohen Folgen für Menschen, z. B. bei Bewerbungen, Bildung, Kredit oder Mitarbeiterbewertung.
  • Betriebsrat / Mitbestimmung: In Betrieben mit Betriebsrat müssen bestimmte technische Systeme vor Einführung mit dem Betriebsrat abgestimmt werden.
  • Art. 4 AI Act: Regel zur KI-Kompetenz. Unternehmen müssen dafür sorgen, dass Mitarbeiter KI verantwortungsvoll nutzen können.
  • Art. 50 AI Act: Regel zur Transparenz. Nutzer müssen in bestimmten Fällen erkennen können, dass sie mit KI interagieren oder KI-Inhalte sehen.

Warum rechtliche Absicherung (Compliance) bei KI nicht optional ist

Viele KMU-Inhaber glauben: "Wir sind klein, uns betrifft das kaum." Das ist riskant, weil KI-Regeln nicht nur für Konzerne gelten. Der EU AI Act gilt für jedes Unternehmen, das KI-Systeme im beruflichen Kontext einsetzt — unabhängig von der Unternehmensgröße. Und die DSGVO ist seit 2018 in Kraft und wird aktiv durchgesetzt: In Europa wurden bisher über 7 Milliarden Euro an DSGVO-Bußgeldern verhängt.

Zur Einordnung, bevor Sie die folgenden Bußgeldzahlen lesen: Die in diesem Modul genannten Beträge (bis zu 15, 20 oder 35 Millionen Euro) sind gesetzliche Höchstrahmen — kalibriert für Großkonzerne und schwerste Verstöße. Gegen KMU verhängte DSGVO-Bußgelder liegen in der Praxis meist im vier- bis fünfstelligen Bereich. Bußgelder werden nach Art. 83 DSGVO bemessen: verhältnismäßig zu Umsatz, Schwere, Dauer und Verschulden — und dokumentierte, proaktive Maßnahmen zur rechtlichen Absicherung wirken ausdrücklich bußgeldmindernd. Wir nennen die Höchstrahmen trotzdem bei jedem Verbot, denn sie zeigen, wie schwer der Gesetzgeber das jeweilige Risiko gewichtet. Die Konsequenz daraus ist nicht Angst, sondern ein nüchterner Kontrollschritt: Wer die Basismaßnahmen aus diesem Modul umsetzt — Inventar, Richtlinie, Schulung, AVV —, reduziert das realistische Risiko drastisch und steht im Prüfungsfall nachweisbar gut da.

Das Besondere an KI ist: Man kann rechtliche Risiken auslösen, ohne offiziell ein KI-Projekt gestartet zu haben. Wenn Mitarbeiter KI-Tools für berufliche Aufgaben nutzen, kann das Unternehmen je nach Kontrolle, Duldung, Weisung und Nutzungskontext als Anwender/Deployer im Sinne des EU AI Act betroffen sein. Ein bloßes mündliches Verbot reicht als Risikosteuerung regelmäßig nicht aus.

Dieses Dokument ist in drei Teile gegliedert:

TEIL A: Die 8 wichtigsten Verbote und roten Risikozonen

● DON'T #1 Bewerber-Screening oder Personalentscheidungen per KI
In einfachen Worten: Lassen Sie KI keine Bewerber aussortieren oder Mitarbeiter bewerten, solange dafür keine geprüfte Lösung, klare Dokumentation, menschliche Kontrolle und rechtliche Freigabe bestehen.

Was ist das?
Der Einsatz von KI-Systemen zur automatisierten Vorauswahl, Bewertung oder Ablehnung von Bewerbern — oder zur Unterstützung von Entscheidungen über Beförderung, Kündigung oder Gehaltseinstufung.

Warum ist das relevant?
Der EU AI Act klassifiziert KI im Personalbereich ausdrücklich als Hochrisiko-System (Anhang III, Nr. 4). Das bedeutet: Wer solche Systeme als "Anwender" (Deployer) einsetzt, unterliegt massiven Pflichten aus Art. 26 EU AI Act: menschliche Aufsicht gewährleisten, Protokolle mindestens 6 Monate aufbewahren, betroffene Mitarbeiter informieren, Betriebsanweisung des Anbieters einhalten und Risiken melden.

Die besondere Gefahr für KMU — Schatten-KI im HR-Bereich: Wenn ein Mitarbeiter ohne Freigabe ChatGPT nutzt, um Bewerbungsunterlagen zu "filtern" oder zu bewerten, entsteht eine besonders gefährliche Risikozone: Das Unternehmen kann je nach Umständen in die Rolle eines Anwenders eines Hochrisiko-KI-Systems geraten, ohne die dafür nötige Dokumentation, Aufsicht und Kontrolle aufgebaut zu haben. Genau das ist die schlechte Position: hohes Risiko, wenig Kontrolle, kaum Nachweisbarkeit.

Welche Strafe droht konkret?

  • EU AI Act: Bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes (Art. 99 Abs. 4)
  • DSGVO: Bis zu 20 Millionen Euro oder 4 % des Jahresumsatzes bei gleichzeitigem Datenschutzverstoß
  • Arbeitsrechtliche Haftung bei diskriminierenden KI-Entscheidungen
Hypothetisches Beispiel: Ein Handwerksbetrieb mit 15 Mitarbeitern bittet seine Bürokraft, eingehende Bewerbungen "mit ChatGPT vorzusortieren". Die Bürokraft gibt Lebensläufe inkl. Namen, Alter und Nationalität in ein frei zugängliches KI-Tool ein. Ergebnis: Dreifacher Verstoß — Hochrisiko-KI ohne Dokumentation der rechtlichen Absicherung, DSGVO-Verstoß durch unbefugte Datenweitergabe ohne AVV, potenzieller Diskriminierungsvorwurf.

Konkrete Lösungen:

  1. Schriftliches Verbot der KI-Nutzung im Bewerbungsprozess ohne ausdrückliche Genehmigung
  2. Falls KI im HR eingesetzt werden soll: Nur zertifizierte Enterprise-Lösungen mit vollständiger Compliance-Dokumentation
  3. Betriebsrat (sofern vorhanden) zwingend einbinden — § 87 BetrVG (Deutschland) / § 96 ArbVG (Österreich)
  4. Alle HR-relevanten KI-Entscheidungen müssen durch einen Menschen überprüft und dokumentiert werden
  5. Mitarbeiterschulung: Was im Bewerbungsbereich verboten ist und warum
● DON'T #2 Personenbezogene Kundendaten in externe KI-Systeme eingeben
In einfachen Worten: Kopieren Sie keine Kundendaten in öffentliche oder ungeprüfte KI-Tools. Nutzen Sie dafür nur freigegebene Systeme mit Datenschutzvertrag und klaren Regeln.

Was ist das?
Namen, E-Mail-Adressen, Telefonnummern, Kaufhistorie, Supportanfragen oder andere Informationen, die einem bestimmten Kunden zuzuordnen sind, in öffentliche oder nicht-vertraglich abgesicherte KI-Tools eingeben.

Warum ist das relevant?
Die DSGVO erlaubt die Weitergabe personenbezogener Daten an Dritte nur unter strengen Voraussetzungen:

  • Es muss eine Rechtsgrundlage vorliegen (Art. 6 DSGVO)
  • Mit dem KI-Anbieter muss ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO abgeschlossen worden sein
  • Die Daten dürfen nur für den vereinbarten Zweck genutzt werden

Bei vielen kostenlosen oder privaten KI-Tools fehlen für Unternehmensdaten regelmäßig die nötigen vertraglichen und organisatorischen Voraussetzungen, insbesondere AVV/DPA, klare Zweckbindung, administrierbare Datenschutzeinstellungen und belastbare Lösch-/Kontrollmöglichkeiten. Ob Eingaben für Modellverbesserung oder Training genutzt werden, hängt vom konkreten Anbieter, Produkt, Tarif und den Einstellungen ab. Für personenbezogene Kundendaten ist das ohne Prüfung nicht vertretbar.

Welche Strafe droht konkret?

  • Bußgelder bis zu 20 Millionen Euro oder 4 % des Jahresumsatzes (Art. 83 DSGVO)
  • Europaweit wurden 2024 rund 1,2 Milliarden Euro DSGVO-Bußgelder verhängt
  • Reputationsschaden und Vertrauensverlust bei Kunden
Hypothetisches Beispiel: Eine Steuerkanzlei gibt Mandantendaten (Name, Adresse, Einkommensdaten) in ChatGPT Free ein, um eine Zusammenfassung erstellen zu lassen. Ohne geeigneten Vertrag, Rechtsgrundlage und technische Schutzmaßnahmen fehlt regelmäßig die datenschutzrechtliche Absicherung — ein schwerwiegendes Risiko mit möglicher berufs- und haftungsrechtlicher Relevanz.

Konkrete Lösungen:

  1. Absolute Regel: Kundendaten dürfen nur in KI-Tools mit abgeschlossenem AVV eingegeben werden
  2. Für gelegentliche Nutzung: Daten vor der Eingabe vollständig anonymisieren
  3. Enterprise-Versionen nutzen (ChatGPT Enterprise, Microsoft Copilot M365 Business) — Datenschutzgarantien vertraglich gesichert
  4. AVV mit dem jeweiligen KI-Anbieter vor der Nutzung abschließen oder anfordern
  5. In der internen KI-Richtlinie konkret auflisten, welche Daten nie eingegeben werden dürfen
● DON'T #3 Mitarbeiterdaten in nicht-freigegebene KI-Systeme eingeben
In einfachen Worten: Gehaltsdaten, Krankenstände, Leistungsbeurteilungen oder Bewerbungsdaten gehören nicht in private oder ungeprüfte KI-Tools.

Was ist das?
Gehaltsdaten, Krankenstandsinformationen, Leistungsbeurteilungen oder andere mitarbeiterbezogene Informationen in KI-Tools eingeben — ohne dass dafür eine rechtliche Grundlage besteht.

Warum ist das relevant?
Mitarbeiterdaten sind durch das Beschäftigtendatenschutzrecht besonders geschützt — in Deutschland durch § 26 BDSG, in Österreich durch § 11 DSG. Die Eingabe in externe KI-Systeme ist nur bei klarer Rechtsgrundlage, Zweckbindung, Information der Betroffenen, geeigneter vertraglicher Absicherung und angemessenen Schutzmaßnahmen vertretbar. Bei sensiblen Mitarbeiterdaten sind die Hürden besonders hoch.

Dazu kommt: In Deutschland und Österreich unterliegt die Einführung jedes KI-Systems, das Mitarbeiterverhalten überwachen oder bewerten kann, der zwingenden Mitbestimmung des Betriebsrats (§ 87 Abs. 1 Nr. 6 BetrVG / § 96 Abs. 1 Z 3 ArbVG).

Welche Strafe droht konkret?

  • DSGVO-Bußgelder (bis 20 Mio. Euro / 4 % Umsatz)
  • Arbeitsgericht-Klagen durch betroffene Mitarbeiter
  • Unwirksamkeit von Maßnahmen, die auf rechtswidrig erhobenen Daten basieren
Hypothetisches Beispiel: Ein Geschäftsführer gibt in ChatGPT ein: "Mitarbeiter Max Müller, 38 Jahre, hat 12 Krankentage und rückläufige Leistung. Formuliere mir ein Abmahnungsschreiben." Das ist ein DSGVO-Verstoß (Gesundheitsdaten nach Art. 9 DSGVO), ein Betriebsverfassungsverstoß und eine potenzielle Haftungsfrage.

Konkrete Lösungen:

  1. Mitarbeiterdaten kategorisch von der KI-Nutzung ausschließen — schriftlich in der KI-Richtlinie festhalten
  2. Betriebsrat vor Einführung jedes KI-Systems einbinden
  3. Bei Bedarf: Nur anonymisierte Fallbeschreibungen verwenden
  4. Besondere Kategorien nach Art. 9 DSGVO (Gesundheit, Religion, Gewerkschaft) dürfen grundsätzlich nicht in KI-Systeme eingegeben werden
  5. Mitarbeiter informieren, welche Daten über sie verarbeitet werden (Art. 13/14 DSGVO)
● DON'T #4 KI-Chatbot gegenüber Kunden ohne Kennzeichnung einsetzen
In einfachen Worten: Wenn ein Kunde mit einer KI spricht, soll er das erkennen. Ein Chatbot darf nicht so tun, als wäre er ein Mensch.

Was ist das?
Einen KI-gesteuerten Chatbot auf der Website oder im Kundendienst betreiben, ohne Nutzer darüber zu informieren, dass sie mit einer KI kommunizieren.

Warum ist das relevant?
Art. 50 EU AI Act — die Transparenzpflicht — gilt ab dem 2. August 2026: Wer ein KI-System betreibt, das direkt mit Menschen interagiert, muss diese spätestens bei der ersten Interaktion informieren, dass sie mit einer KI sprechen.

Diese Frist ist fix — auch wenn andere Teile des AI Act im Rahmen des Digital-Omnibus-Pakets verschoben werden. Art. 50-Transparenzpflichten sind von diesen Verschiebungen ausdrücklich ausgenommen.

Welche Strafe droht konkret?

  • EU AI Act: Bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes
  • Wettbewerbsrechtliche Abmahnungen (unlautere Täuschung)
  • Vertrauensverlust bei Kunden
Hypothetisches Beispiel: Ein Onlineshop betreibt seit 2024 einen KI-Chatbot namens "Lisa", der antwortet wie ein Mensch, ohne auf den KI-Charakter hinzuweisen. Ab 2. August 2026 ist das ein klarer Verstoß gegen Art. 50 AI Act.

Konkrete Lösungen:

  1. Prüfen: Welche KI-Systeme interagieren direkt mit Kunden?
  2. Klaren Hinweis beim Start der Chatbot-Interaktion implementieren: z.B. "Hallo, ich bin [Name], der KI-Assistent von [Unternehmen]."
  3. Datenschutzerklärung um Abschnitt "KI-Chatbot" ergänzen
  4. AVV mit dem Chatbot-Anbieter prüfen und abschließen
  5. Frist im Kalender: Bis 1. August 2026 muss die Umsetzung abgeschlossen sein
● DON'T #5 Biometrische Echtzeit-Überwachung — ein unterschätztes Risiko
In einfachen Worten: Gesichtserkennung oder ähnliche KI-Überwachung in Geschäftsräumen ist für KMU rechtlich extrem riskant. Ohne Spezialprüfung: nicht einsetzen.

Was ist das?
KI-gestützte Kameras oder Sensoren, die Personen in öffentlich zugänglichen Räumen (Ladengeschäft, Büro, Parkplatz) in Echtzeit anhand von Gesichtserkennung oder anderen biometrischen Merkmalen identifizieren.

Was das Gesetz tatsächlich sagt — wichtige Präzisierung:
Art. 5(1)(h) EU AI Act (finale Verordnung) verbietet biometrische Echtzeit-Fernidentifizierung ausschließlich für Strafverfolgungsbehörden zu Strafverfolgungszwecken. Es handelt sich nicht um ein generelles Verbot für private Unternehmen — dieser verbreitete Irrtum kann zu falscher Rechtsargumentation führen.

Die korrekte Rechtslage für private Unternehmen (z.B. Supermärkte, Büros):
Biometrische Echtzeit-Identifizierung ist für private Unternehmen durch den AI Act nicht per se verboten, aber als Hochrisiko-KI (Anhang III) eingestuft. Das bedeutet: massiver Compliance-Aufwand (Risikomanagementsystem, CE-Kennzeichnung, technische Dokumentation, menschliche Aufsicht).

Entscheidend ist ein zweiter Rechtsrahmen: Die DSGVO Art. 9 stuft biometrische Daten als besondere Datenkategorie ein. Für deren Verarbeitung gibt es im gewerblichen Kontext (Diebstahlprävention, Zugangskontrolle etc.) in der Regel keine gültige Rechtsgrundlage. Eine freiwillige Einwilligung aller Betroffenen ist im öffentlichen Raum praktisch nicht realisierbar.

Das Ergebnis bleibt dasselbe: Finger weg — aber mit der richtigen Begründung. Wer das in einer Behördenprüfung falsch darstellt, schwächt seine eigene Position: Behörden, die merken, dass ein Unternehmen den AI-Act-Artikel 5 falsch anwendet, prüfen die DSGVO-Argumentation nach Art. 9 erfahrungsgemäß umso genauer. Eine falsche Rechtsgrundlage ist kein neutraler Fehler — sie kann als Indiz für mangelhafte Compliance-Sorgfalt gewertet werden.

Welche Strafe droht konkret?

  • Bei Verstoß gegen AI-Act-Hochrisikopflichten: Bis zu 15 Millionen Euro oder 3 % des Jahresumsatzes
  • Bei DSGVO-Verstoß (unrechtmäßige Verarbeitung biometrischer Sonderdaten): Bis zu 20 Millionen Euro oder 4 % des Jahresumsatzes
  • Die Kombination beider Rechtsrahmen macht solche Systeme für KMU faktisch kaum realisierbar

Konkrete Lösungen:

  1. Beim Kauf von Sicherheits- oder Analysesystemen explizit nachfragen: „Enthält dieses System biometrische Echtzeit-Erkennung?" Wenn ja: Ablehnen
  2. Bestehende Systeme von einem Fachbetrieb oder Rechtsanwalt prüfen lassen
  3. Alternative: Herkömmliche Videoüberwachung ohne biometrische Analyse bleibt unter DSGVO-Voraussetzungen (Art. 6 Abs. 1 lit. f, berechtigtes Interesse) zulässig
● DON'T #6 Emotionserkennung am Arbeitsplatz oder in der Schule
In einfachen Worten: Setzen Sie keine KI ein, die Gefühle, Stress oder Stimmung von Mitarbeitern analysiert. Am Arbeitsplatz ist das besonders heikel und in vielen Fällen verboten.

Was ist das?
KI-Systeme, die Mimik, Stimme oder andere Signale analysieren, um Emotionen, Stress oder psychische Zustände von Mitarbeitern oder Schülern zu erkennen.

Warum ist das relevant?
Art. 5 Abs. 1 lit. f EU AI Act verbietet den Einsatz von KI-Systemen zur Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen grundsätzlich. Dieses Verbot gilt seit 2. Februar 2025.

Praxisbeispiele, die unter dieses Verbot fallen: KI-Stressanalyse-Tools, Prüfungsüberwachungssoftware mit Aufmerksamkeitsanalyse, Call-Center-KI, die die "emotionale Stimmung" von Mitarbeitern trackt.

Welche Strafe droht konkret?

  • EU AI Act: Bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes
  • Zusätzlich schwere arbeitsrechtliche Konsequenzen

Konkrete Lösungen:

  1. Keine KI-Software kaufen oder einsetzen, die Emotionen von Mitarbeitern analysiert
  2. Bei Softwareprodukten gezielt nachfragen: "Analysiert diese Software Emotionen oder psychische Zustände?" Wenn ja: Ablehnen
  3. Bestehende Tools auf solche Funktionen prüfen und verbotene Features vertraglich deaktivieren lassen
● DON'T #7 KI-generierte Inhalte als eigene menschliche Schöpfung ausgeben
In einfachen Worten: KI-Texte, Bilder, Videos oder Audios müssen geprüft werden. Bei bestimmten Inhalten muss außerdem erkennbar sein, dass KI beteiligt war.

Was ist das?
Texte, Bilder, Videos oder andere KI-generierte Inhalte ohne Kennzeichnung als eigene kreative Arbeit präsentieren — oder KI-Outputs ohne Prüfung weitergeben.

Warum ist das relevant?
Drei Rechtsbereiche greifen zusammen:

1. EU AI Act Art. 50 (ab August 2026): KI-generierte Bilder, Videos und Audiodateien müssen als solche gekennzeichnet sein (maschinell erkennbares Wasserzeichen / Metadaten). Übergangsfrist: Für Systeme, die bereits vor dem 2. August 2026 auf dem Markt sind, gilt für das technische Wasserzeichen eine verlängerte Frist bis zum 2. Dezember 2026. Die Pflicht zur inhaltlichen Kennzeichnung gilt jedoch sofort ab August 2026.

2. Urheberrecht: KI-generierte Inhalte genießen keinen eigenen Urheberrechtsschutz, können aber fremdes Urheberrecht verletzen, wenn das KI-Modell mit geschütztem Material trainiert wurde.

3. Haftung für KI-Halluzinationen: KI-Systeme „halluzinieren" — sie erfinden Fakten, Quellen und Statistiken. Wer solche Inhalte unkritisch übernimmt und veröffentlicht, haftet für deren Inhalt. Ein US-Anwalt reichte 2023 einen Schriftsatz mit sechs erfundenen Gerichtsurteilen ein — und wurde sanktioniert.

Welche Strafe droht konkret?

  • Wettbewerbsrechtliche Abmahnungen (Streitwerte oft 10.000–50.000 Euro)
  • Schadensersatzansprüche bei KI-„Halluzinationen"
  • Berufsrechtliche Konsequenzen (Anwälte, Ärzte, Steuerberater)

Konkrete Lösungen:

  1. Jeder KI-generierte Output muss vor Weitergabe sorgfältig geprüft werden — keine Ausnahmen
  2. Intern: KI-Entwürfe kennzeichnen („KI-Entwurf, geprüft von [Name] am [Datum]")
  3. Ab August 2026: Transparenzpflichten nach Art. 50 AI Act für direkte KI-Interaktion, Deepfakes, bestimmte synthetische Inhalte und bestimmte veröffentlichte Texte von öffentlichem Interesse prüfen; technisches Wasserzeichen/maschinenlesbare Kennzeichnung für relevante Bild-/Audio-/Videoinhalte nach den jeweils geltenden Übergangsregeln beachten
  4. Keine Faktenaussagen (Statistiken, Zitate, Gesetze) aus KI-Outputs ohne eigene Verifizierung weitergeben
  5. Interne Richtlinie: KI ist Werkzeug, nicht Autor. Die Letztverantwortung liegt immer beim Menschen.
● DON'T #8 Berufsgeheimnisse in unkonforme KI-Systeme eingeben
In einfachen Worten: Anwälte, Ärzte, Steuerberater und ähnliche Berufsgruppen dürfen Mandanten- oder Patientendaten nicht einfach in KI-Tools eingeben. Hier gelten strengere Regeln als bei normalen Unternehmensdaten.
Betrifft nur bestimmte Berufsgruppen:
Anwälte, Ärzte, Zahnärzte, Apotheker, Psychologen, Therapeuten, Steuerberater, Wirtschaftsprüfer, Notare, Seelsorger — und deren Hilfspersonal (Sekretariat, IT-Beauftragte, Praktikanten).

Wenn Sie kein Berufsgeheimnisträger sind: Für Sie gelten die allgemeinen Regeln aus DON'T #2 und CAREFUL #1–#3. Dieser Abschnitt ist für Sie nicht relevant und kann übersprungen werden.

Was ist das?
Berufsgeheimnisträger unterstehen einem gesetzlichen Schweigegebot, das weit über die DSGVO hinausgeht. Wer diesem Berufsstand angehört und Mandanten- oder Patientendaten ohne rechtliche Absicherung in ein KI-System eingibt, verstößt nicht nur gegen Datenschutzrecht — sondern begeht möglicherweise eine Straftat.

Die Rechtslage in DACH:

LandNormBetroffene Berufe
Deutschland§203 StGBÄrzte, Apotheker, Anwälte, Steuerberater, Wirtschaftsprüfer, Notare, Psychologen, Seelsorger + Hilfspersonal
Österreich§121 StGB + RAO + WTBG§121 StGB: primär Gesundheitsberufe. Anwälte: RAO §9. Steuerberater/WP: WTBG §91. Enger Täterkreis als in DE.
SchweizArt. 321 StGB + nDSGBreiter als AT: Ärzte, Anwälte, Notare, Psychologen, Pflegepersonen, Seelsorger + Hilfspersonal

Warum reicht ein AVV allein nicht?
Ein Auftragsverarbeitungsvertrag (AVV) nach Art. 28 DSGVO ist notwendig — aber nicht ausreichend für §203 StGB. Das Gesetz verlangt zusätzlich eine explizite Verschwiegenheitsverpflichtung des KI-Anbieters und aller seiner Subunternehmer. Das ist ein eigenständiger Vertragsbestandteil, der im Standard-AVV nicht enthalten ist.

Konkret: ChatGPT Enterprise hat einen AVV. Das ist gut. Aber ohne eine explizite §203-Geheimhaltungsvereinbarung darf eine Anwaltskanzlei trotzdem keine Mandantendaten darin verarbeiten.

Welche Strafe droht konkret?

  • §203 StGB (DE): Freiheitsstrafe bis 1 Jahr oder Geldstrafe; bei gewerbsmäßiger Verletzung bis 2 Jahre
  • Zusätzlich: DSGVO-Bußgelder bis zu 20 Millionen Euro; berufsrechtliche Sanktionen bis zum Zulassungsentzug
  • Österreich: §121 StGB analog + Kammerverfahren nach RAO/WTBG
  • Schweiz: Art. 321 StGB + nDSG-Bußgelder
Warnung aus der Praxis: Die bisher dokumentierten Fälle betreffen überwiegend KI-Halluzinationen und unkritische Übernahme von KI-Output, nicht zwingend Datenpannen. Die praktische Lehre ist dennoch ähnlich: Die volle Verantwortung liegt beim Berufsträger. OGH Österreich (Oktober 2025), AG Köln (Juli 2025) und LG Frankfurt (September 2025) haben alle dasselbe Muster gezeigt: unkritische KI-Nutzung, reale Konsequenzen, Haftung beim Menschen.

7 Schritte vor dem ersten KI-Einsatz (konsolidiert aus BRAK, ÖRAK, BStBK, SAV):

  1. Dateninventur: Welche Daten kommen in die KI? Anonyme Recherche oder Mandanten-/Patientendaten? Grundsatz: Was nicht im Wartezimmer besprochen würde, darf nicht in einen KI-Prompt.
  2. Anbieter-Due-Diligence: AVV vorhanden? §203-Zusatzvereinbarung vorhanden? Zero-Data-Retention (kein Modell-Training mit Mandantendaten)? EU-/CH-Serverstandort?
  3. US-Cloud-Prüfung: US-Anbieter sind selbst mit EU-Rechenzentrum riskant — der US CLOUD Act erlaubt US-Behörden Zugriff, unabhängig vom Serverstandort. Bei US-Anbietern: kundengesteuerte Verschlüsselung (Bring Your Own Key) prüfen.
  4. Infrastrukturentscheidung:
    • ● Sicherste Option: On-Premise / lokale Modelle (Daten verlassen die Kanzlei/Praxis nicht)
    • ● Vertretbar: BSI-C5:2026-zertifizierte EU-Cloud mit §203-Vertrag
    • ● Kritisch: Multi-Tenant-US-Cloud ohne §203-Zusatzvereinbarung
    • ● Verboten: Kostenlose Versionen (ChatGPT Free, Gemini Free etc.)
  5. Datentrennung: Mandatsdaten vor der Eingabe pseudonymisieren (Namen durch Codes ersetzen). Mandatsakte nie direkt hochladen.
  6. Interne KI-Policy: Schriftliche Kanzlei-/Praxisrichtlinie mit erlaubten Tools, verbotenen Datenkategorien und Prüfpflichten. Vorlagen: BStBK (DE), KSW (AT), kantonale Kammern (CH).
  7. EU AI Act Art. 4: Seit Februar 2025 gilt die Schulungspflicht auch für Kanzleien und Praxen. Mitarbeiter müssen KI-Output kritisch beurteilen können — das ist gesetzliche Pflicht.

Anbieter, die im Markt mit Berufsgeheimnis-, Legal- oder Sovereign-AI-Fokus auftreten:

AnbieterLandBesonderheit
Noxtua / Beck-NoxtuaDE§203-Vertrag, BSI C5, ISO 27001/42001, Integration beck-online
BEAMON AIATÖRAK-Kooperation, kein Modell-Training, EU-Daten
AI:ssociateATÖRAK-Kooperation, automatische Pseudonymisierung, AT-Rechtsdatenbank
Aleph Alpha (Pharia)DE/EUSovereign AI, On-Premise-Option, erklärbare KI
LegartisCH/EUISO 27001, CH/EU-Server, kein Modell-Training
Microsoft Copilot M365 EnterpriseEUNur Enterprise-Tier + Professional Secrecy Amendment aktiv beantragen
⚠️ Hinweis: „§203-konform" ist kein offizieller Zertifizierungsstatus. Anbieterversprechen müssen durch tatsächliche Vertragsgestaltung und technische Maßnahmen nachgewiesen werden — nicht nur durch Marketingaussagen.

Offizielle Verbandsleitlinien (zur Vertiefung):

  • Deutschland: BRAK „Hinweise zum Einsatz von KI" (Jan. 2025) | BStBK FAQ „KI in der Steuerberatung" (Jan. 2026) | BÄK/KBV Hinweise (Okt. 2025)
  • Österreich: ÖRAK Beschluss + Checkliste für KI-Dienstleister (Sept. 2025) | KSW KI-Governance-Leitlinie + Muster-KI-Richtlinie (2025)
  • Schweiz: SAV „Wegleitung für den Umgang mit KI" (Juni 2024)

TEIL B: Die Vorsichtsliste — 7 Risikobereiche mit konkreten Maßnahmen

● CAREFUL #1 DSGVO bei KI-Projekten — VVT, AVV, DSFA
In einfachen Worten: Sobald KI personenbezogene Daten verarbeitet, müssen Sie wissen: Welche Daten? Welches Tool? Welche Rechtsgrundlage? Welcher Datenschutzvertrag?

Sobald KI personenbezogene Daten verarbeitet, gelten alle DSGVO-Pflichten vollumfänglich. Die drei wichtigsten Dokumente:

VVT — Art. 30 DSGVO
Jeder KI-Tool-Einsatz mit personenbezogenen Daten muss im VVT dokumentiert sein. Die Ausnahme für Unternehmen unter 250 Mitarbeitern gilt nicht, wenn die KI ein Risiko für Personen darstellt.
AVV — Art. 28 DSGVO
Für jeden KI-Anbieter, der personenbezogene Daten verarbeitet, muss ein AVV abgeschlossen sein. Bei Microsoft 365 Copilot ist der AVV Teil der Enterprise-Lizenz. Bei kostenlosen Tools gibt es keinen AVV — daher: keine personenbezogenen Daten eingeben.
DSFA — Art. 35 DSGVO
Eine DSFA ist zwingend bei KI im HR-Bereich, bei umfangreicher Verarbeitung sensibler Daten, oder bei automatisierten Entscheidungen mit erheblichen Auswirkungen auf Personen.

Konkrete Lösungen:

  1. KI-Inventar erstellen: Alle genutzten KI-Tools erfassen (inkl. Schatten-KI)
  2. VVT für alle KI-Verarbeitungen anlegen und mindestens jährlich prüfen
  3. AVV mit jedem KI-Anbieter, der Kundendaten verarbeitet, abschließen
  4. DSFA-Prüfung bei KI im HR, mit Gesundheitsdaten oder bei automatisierten Entscheidungen
  5. Datenschutzerklärung anpassen, wenn KI-Tools mit Kundendaten arbeiten
  6. DSB (Österreich) bietet kostenlose Informationen zu DSGVO und AI Act: dsb.gv.at
● CAREFUL #2 Gratis-KI-Modelle — die unsichtbaren Risiken
In einfachen Worten: Kostenlose KI-Tools sind für Unternehmensdaten riskant, weil Vertrag, Kontrolle und Datenschutz oft nicht ausreichen.

Kostenlose KI-Tools sind praktisch — aber rechtlich ein Minenfeld. Werden Eingaben zum Training genutzt? Wer haftet bei Datenpannen?

Die entscheidende Frage: Nutzt der Anbieter meine Eingaben zum Training seiner Modelle?

Wichtige Unterscheidung:

  • OpenAI ChatGPT Free/Plus: Standardmäßig werden Konversationen für Training genutzt. Opt-out möglich, aber: Kein AVV.
  • OpenAI ChatGPT Enterprise/Team: Training ausgeschlossen. AVV verfügbar.
  • Microsoft Copilot (M365 Business/Enterprise): Keine Nutzung zum Training öffentlicher Modelle. Daten bleiben im Enterprise-Tenant.
  • Google Gemini Business/Workspace: Ähnliche Enterprise-Garantien wie Microsoft.
Zusatzrisiko Geschäftsgeheimnisse: Nach dem Geschäftsgeheimnisgesetz (GeschGehG Deutschland / UWG Österreich) sind Informationen nur geschützt, wenn "angemessene Geheimhaltungsmaßnahmen" getroffen wurden. Wer strategische Daten in ein öffentliches KI-Tool eingibt, riskiert den rechtlichen Schutzstatus zu verlieren.

Konkrete Lösungen:

  1. AGB und Datenschutzerklärung jedes kostenlosen Tools prüfen: Training auf Nutzerdaten? Datenspeicherort?
  2. Opt-out von Training-Nutzung aktivieren, wo möglich
  3. Absolute Regel: In kostenlose Tools kommen nur anonymisierte Daten — niemals Kunden-, Mitarbeiter-, Vertrags- oder Finanzinformationen
  4. Für produktiven Unternehmenseinsatz: Bezahlte Business-/Enterprise-Versionen mit AVV
  5. Liste der zugelassenen und verbotenen KI-Tools intern dokumentieren
● CAREFUL #3 Bezahlte Enterprise-Modelle — DPA, Subprozessoren, Datenspeicherort
In einfachen Worten: Auch bezahlte KI-Produkte müssen geprüft werden. Wichtig ist, was im Vertrag steht, wo Daten liegen und welche Unterauftragnehmer beteiligt sind.

Auch bei bezahlten Enterprise-Lösungen gibt es Fallstricke. Ein Enterprise-Vertrag ist kein Freifahrtschein.

DPA/AVV
Das Kerndokument für DSGVO-Compliance. Beim Microsoft Copilot heißt es "Microsoft Products and Services Data Protection Addendum" und schließt aus, dass Daten zum Training öffentlicher Modelle genutzt werden.
Subprozessoren
KI-Anbieter nutzen ihrerseits oft Subdienstleister (Cloud-Provider). Diese müssen im DPA aufgeführt sein. Besonders Subprozessoren außerhalb der EU sind kritisch zu prüfen.
Datenspeicherort
EU/EWR ist unkritisch. USA erfordern Standardvertragsklauseln (SCCs) oder einen Angemessenheitsbeschluss der EU. Microsoft, Google und OpenAI bieten EU-Data-Residency-Optionen an — diese sollten aktiviert werden.

Konkrete Lösungen:

  1. DPA/AVV anfordern und auf DSGVO-Konformität prüfen
  2. Subprozessor-Liste prüfen: Verarbeitung in Drittländern?
  3. Datenspeicherort klären: EU-Datenresidenz-Option aktivieren wenn vorhanden
  4. Vertraglich sicherstellen: Anbieter informiert über Änderungen bei Subprozessoren
  5. Jährliche Überprüfung der vereinbarten Datenschutzstandards
● CAREFUL #4 Mitarbeiter-Monitoring durch KI — Betriebsrat ist Pflicht
In einfachen Worten: Wenn ein KI-Tool Mitarbeiter überwachen oder bewerten kann, wird es arbeitsrechtlich sensibel. Mit Betriebsrat: frühzeitig einbinden.

KI-Systeme, die Mitarbeiteraktivitäten oder Produktivität überwachen, sind an strenge Mitbestimmungsrechte des Betriebsrats geknüpft.

§ 87 Abs. 1 Nr. 6 BetrVG (Deutschland) / § 96 Abs. 1 Z 3 ArbVG (Österreich):
Die Einführung von Systemen, die Verhalten oder Leistung von Arbeitnehmern überwachen können, unterliegt der zwingenden Mitbestimmung. Das gilt auch für Microsoft 365 Copilot wegen der Metadaten-Erfassung.

Haftungsrisiko Organisationsverschulden: Wenn KI die Arbeitslast erhöht, ohne den Validierungsaufwand für KI-Outputs einzurechnen, entsteht ein Organisationsverschulden. Fehler aus struktureller Überlastung werden arbeitsrechtlich dem Arbeitgeber zugerechnet.

Konkrete Lösungen:

  1. Vor jedem KI-System prüfen: Kann dieses Tool Mitarbeiterverhalten überwachen?
  2. Falls ja: Betriebsrat vor der Einführung einbinden, Betriebsvereinbarung abschließen
  3. Mitarbeiter transparent über erfasste Daten informieren
  4. Klare Trennung: KI-Metadaten werden nicht für Leistungsbeurteilungen oder Kündigungsentscheidungen genutzt
  5. Ressourcenplanung anpassen: KI-Output-Prüfung kostet Zeit — diese muss eingeplant werden
● CAREFUL #5 KI-Kompetenz-Schulungspflicht — Art. 4 EU AI Act
In einfachen Worten: Mitarbeiter sollen wissen, wie sie KI sicher nutzen, welche Fehler KI macht und welche Daten tabu sind. Das sollte dokumentiert werden.

Seit dem 2. Februar 2025 gilt die Schulungspflicht nach Art. 4 EU AI Act. Wer noch nicht geschult hat, hat Handlungsbedarf.

Mindestinhalte der Schulung:

  • Grundlagen: Was ist KI, wie funktioniert sie (Laienverständlich)?
  • Was sind "Halluzinationen" und warum sind KI-Outputs nicht automatisch korrekt?
  • Welche Daten dürfen nicht eingegeben werden (DSGVO, Geschäftsgeheimnisse)?
  • Welche KI-Tools sind im Unternehmen zugelassen und welche nicht?
  • Menschliche Aufsicht: Jeder KI-Output muss vor Weiterverwendung geprüft werden

Nachweis: Die Schulung muss dokumentiert werden: Wer hat teilgenommen? Wann? Mit welchen Inhalten? Teilnehmerliste mit Unterschriften.

Für KMU: Ein 90-minütiger interner Workshop reicht aus — wenn er die genannten Inhalte abdeckt und dokumentiert wird. Kein teures externes Seminar notwendig.

Konkrete Lösungen:

  1. 90-minütigen internen Workshop organisieren
  2. Inhalte abdecken: KI-Grundlagen, Datenschutzregeln, freigegebene Tools, Prüfpflicht, Haftung
  3. Teilnehmerliste und Schulungsmaterial mindestens 3 Jahre aufbewahren
  4. Neue Mitarbeiter bei Eintritt schulen
  5. Jährliche Auffrischung bei wesentlichen Änderungen
  6. Kostenloser Onlinekurs: appliedai.de/ki-kompetenz-kurs
● CAREFUL #6 EU AI Act Fristen-Übersicht
In einfachen Worten: Nicht alle Regeln gelten gleichzeitig. Für Unternehmer zählt: Schulung jetzt, Transparenz ab August 2026, Hochrisiko-Themen geplant später — aber früh vorbereiten.
Diese Übersicht ist die zentrale Fristen-Referenz für alle Module dieses Leitfadens. Wo andere Module AI-Act-Fristen erwähnen, gilt im Zweifel der Stand dieser Tabelle.

Bereits in Kraft (seit 2. Februar 2025) — GILT JETZT:

  • Verbote für „inakzeptables Risiko" (Art. 5): Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen, Social Scoring, biometrische Echtzeit-Identifizierung durch Strafverfolgungsbehörden — höchste Bußgelder (bis 35 Mio. / 7 % Umsatz)
  • KI-Kompetenzpflicht (Art. 4): Schulungspflicht für alle Unternehmen, die KI einsetzen — gilt weiterhin, auch nach dem Digital Omnibus

Seit 2. August 2025 in Kraft — GILT JETZT:

  • Regeln für GPAI-Modelle (General Purpose AI, Kapitel V): Gilt für Hersteller von Basismodellen wie OpenAI (GPT), Google (Gemini) und Meta (Llama). Schwellenwert für „systemisches Risiko": 10²⁵ Floating Point Operations beim Training. Diese Anbieter müssen technische Dokumentation und Transparenz über ihre Trainingsdaten bereitstellen. Für Deployer (also KMU, die diese Modelle nutzen) bedeutet das: Sie können von ihren KI-Anbietern verlangen, dass diese die für Compliance notwendigen Informationen liefern.

Ab 2. August 2026 — getrennt von der geplanten Hochrisiko-Verschiebung zu planen:

  • Transparenzpflichten für KI-Chatbots (Art. 50): Kennzeichnungspflicht bei erster Interaktion
  • Watermarking/Kennzeichnung für KI-generierte Bilder und Audio: Übergangsfrist bis 2. Dezember 2026 für Systeme, die vor dem 2. August 2026 bereits auf dem Markt sind

Hochrisiko-Pflichten (Annex III, HR, Bildung, Kredit) — Verschiebung nach vorläufiger Omnibus-Einigung vorgesehen:

Nach der vorläufigen Einigung vom 7. Mai 2026 ist vorgesehen, bestimmte Hochrisiko-Pflichten zu verschieben und den Aufwand für kleinere Unternehmen zu reduzieren. Bis zur formalen Annahme und Veröffentlichung im EU-Amtsblatt bleibt diese Änderung eine Planungsannahme, nicht endgültige Rechtslage.

Hinweis zum Geltungsbereich: Der EU AI Act gilt unmittelbar in allen EU-Mitgliedstaaten — also sowohl in Deutschland als auch in Österreich. Die zuständigen nationalen Marktüberwachungsbehörden (Deutschland: Bundesnetzagentur; Österreich: RTR — Rundfunk und Telekom Regulierungs-GmbH) haben noch keine belastbare Vollzugspraxis zu den geplanten Hochrisiko-Verschiebungen etabliert. Für die Schweiz gilt der EU AI Act nicht direkt — dort ist ein eigenes KI-Gesetz in Diskussion, aber noch nicht verabschiedet. Die Grundpflichten aus Datenschutz, Vertragssorgfalt und Schulung bleiben unabhängig davon relevant.

Praktisch bedeutet das: mit der voraussichtlichen Verschiebung planen, aber nicht auf Nichtvollzug spekulieren. Verbindlich ist erst die formale Annahme und Veröffentlichung.
  • Annex III Hochrisiko (HR, Bildung, Kredit, Scoring): Geplant ab 2. Dezember 2027 (ursprünglich: 2. August 2026)
  • Annex I Hochrisiko (in Produkten verbaut: Aufzüge, Medizingeräte etc.): Geplant ab 2. August 2028

Nach vorläufiger Omnibus-Einigung vorgesehen: Small Mid-Cap (SMC) — für viele Mittelständler relevant:

Nach der vorläufigen Omnibus-Einigung soll eine neue Unternehmenskategorie eingeführt werden:

  • Definition: Weniger als 750 Mitarbeiter UND Jahresumsatz unter 150 Millionen Euro (oder Bilanzsumme unter 129 Mio. €)
  • Vorgesehene Vorteile: Erleichterungen ähnlich wie bisher für KMU (<250 MA), etwa vereinfachte Konformitätsbewertung, Zugang zu Regulatory Sandboxes (Testumgebungen mit reduzierter Compliance-Last) und reduzierte Bußgeldrahmen — vorbehaltlich der finalen Fassung.
  • Bedeutung für Sie: Die bisherige KMU-Grenze lag bei 250 Mitarbeitern. Mittelständische Unternehmen mit 250–750 Mitarbeitern könnten nach der finalen Fassung entlastet werden. Prüfen Sie vorsorglich, ob Sie voraussichtlich unter die SMC-Kategorie fallen.

Ebenfalls neu: Bias (systematische Verzerrung)-Korrektur in nicht-hochriskanten KI-Systemen:

Bisher war die Nutzung biometrischer Sonderdaten (Art. 9 DSGVO, z.B. Angaben zu Geschlecht, Herkunft) für KI-Training strikt auf Hochrisiko-Systeme beschränkt. Nach dem geplanten Omnibus-Ansatz soll auch bei bestimmten nicht-hochriskanten KI-Systemen ein begrenzter Spielraum zur Verarbeitung solcher Daten entstehen — ausschließlich zur Erkennung und Korrektur von Diskriminierungen (Bias-Testing) und nur unter engen Schutzvoraussetzungen. Bis zur formalen Verabschiedung bleibt diese Aussage als Planungsannahme zu behandeln. Für Unternehmen, die eigene KI-Modelle entwickeln oder anpassen, ist das ein wichtiger neuer Spielraum.

Hintergrund — Warum ändert sich der AI Act gerade?

Die Regulierungsreformen sind kein Zufall: Die EU hat erkannt, dass der gleichzeitige Vollzug von DSGVO, AI Act, NIS2 und Data Act für europäische Unternehmen — insbesondere KMU — eine kaum bewältigbare Last darstellt. Mario Draghi (Ex-EZB-Präsident) und Enrico Letta (Ex-Ministerpräsident Italien) haben in vielbeachteten Berichten (2024/2025) dokumentiert, dass Europa in eine „Innovationslücke" gegenüber USA und China gerät — und dass Überregulierung ein zentraler Treiber ist. Die EU-Kommission hat daraufhin eine 25%-Reduktion der Berichtspflichten versprochen (für KMU sogar 35%). Der Digital Omnibus ist als Umsetzungsinstrument dafür vorgesehen. Der strategische Trend deutet auf Vereinfachung hin; die konkrete Rechtslage hängt von der finalen Fassung ab.

Konkrete Lösungen:

  1. Compliance-Kalender anlegen: Feb. 2025 (Schulungspflicht ✓), Aug. 2026 (Chatbot-Transparenz), Dez. 2027 (Hochrisiko vorbereiten)
  2. Prüfen: Falle ich voraussichtlich unter die geplante SMC-Kategorie? (<750 MA, <150 Mio. €) → falls ja, kann der Compliance-Aufwand für Hochrisiko-KI nach finaler Annahme geringer werden
  3. Omnibus-Status verfolgen: Formale Veröffentlichung im EU-Amtsblatt abwarten (Quelle: artificialintelligenceact.eu)
  4. Für Hochrisiko-Themen schon jetzt vorbereiten — wer früh anfängt, ist weniger gestresst
  5. Aktuellen Compliance-Stand dokumentieren — Schutz bei Behördenprüfungen
Illustration: EU AI Act Zeitplan — Fristen von 2025 bis 2028

Abb. 6 — EU AI Act: Die wichtigsten Fristen für KMU von Februar 2025 bis August 2028

● CAREFUL #7 Schatten-KI — das unterschätzte Datenleck
In einfachen Worten: Das größte Risiko ist oft nicht das offizielle KI-Projekt, sondern die heimliche Nutzung durch Mitarbeiter ohne Regeln und ohne freigegebene Tools.

Schatten-KI bezeichnet die Nutzung von KI-Tools durch Mitarbeiter ohne Wissen oder Genehmigung des Unternehmens. Laut übereinstimmenden Erhebungen verschiedener Anbieter (Salesforce State of Data & AI Report, IBM Institute for Business Value, Microsoft Work Trend Index) nutzen 50–77 % der Mitarbeiter KI-Tools, ein erheblicher Anteil ohne IT-Genehmigung. Je nach Studie geben 35–45 % zu, explizit verbotene Tools zu verwenden. Die treibende Kraft ist nicht Böswilligkeit, sondern Produktivitätsdruck und Bequemlichkeit.

Drei konkrete Risiken:

1. Rechtliche Haftung trotz Unwissenheit: Das Unternehmen haftet als "Anwender", sobald ein Mitarbeiter ein KI-Tool für berufliche Zwecke nutzt — auch ohne Wissen der Geschäftsführung. Ein mündliches Verbot belegt im Schadensfall sogar, dass das Risiko bekannt war, aber nicht wirksam gemanagt wurde.
2. Datenlecks durch Browser-Extensions: Viele KI-Tools funktionieren als Browser-Erweiterungen mit Lesezugriff auf alle Browser-Inhalte — inkl. CRM-Daten, E-Mails, interne Dokumente. Herkömmliche IT-Sicherheitssysteme erkennen das oft nicht.
3. Verlust von Geschäftsgeheimnissen: Wer strategische Daten in öffentliche KI-Tools eingibt, riskiert den rechtlichen Schutzstatus nach GeschGehG/UWG zu verlieren.
Die Lösung ist selten das bloße Verbot, sondern wirksame Governance: Ein pauschales Verbot ohne Alternativen treibt Mitarbeiter noch tiefer in die Schatten-KI. Besser: Kontrollierten Einsatz erlauben — mit klaren Regeln, zugelassenen Tools und Schulungen.

Konkrete Lösungen:

  1. Schriftliche KI-Nutzungsrichtlinie mit Positiv- und Negativliste und klarer Begründung
  2. Mitarbeiter schulen und Richtlinie unterschreiben lassen (Nachweis der Kenntnisnahme)
  3. IT-Dienstleister: Browser-Extensions technisch einschränken (Whitelisting-Strategie)
  4. Realistische Enterprise-Alternativen anbieten — gutes freigegebenes Tool senkt die Versuchung
  5. Regelmäßige Kommunikation in Teammeetings — nicht einmalig, sondern dauerhaft
  6. Konsequenzen kommunizieren: Vorsätzliche Eingabe von Kundendaten in verbotene Tools (trotz Schulung) kann als grobe Fahrlässigkeit gewertet werden
Illustration: Schatten-KI als Eisberg — sichtbare offizielle Tools vs. versteckte Nutzung

Abb. 7 — Der Schatten-KI-Eisberg: Offiziell freigegebene Tools sind nur die sichtbare Spitze

TEIL C: Compliance-Checkliste "Bin ich compliant?"

Anleitung: Beantworte jede Frage mit Ja, Nein oder Noch nicht. Für jedes "Nein" oder "Noch nicht" besteht Handlungsbedarf.

Grundlegende Maßnahmen

#FrageStatus
1Ich habe ein KI-Inventar: Ich weiß, welche KI-Tools meine Mitarbeiter für berufliche Zwecke nutzen (auch nicht-offizielle).☐ Ja / ☐ Nein
2Ich habe eine schriftliche KI-Nutzungsrichtlinie, die alle Mitarbeiter kennen und deren Kenntnisnahme dokumentiert ist.☐ Ja / ☐ Nein
3Ich habe eine Schulung zum Thema KI-Kompetenz (Art. 4 EU AI Act) durchgeführt und dokumentiert (Teilnehmerliste, Datum, Inhalte).☐ Ja / ☐ Nein
4Alle KI-Tools mit Kundendaten-Zugriff haben einen gültigen AVV nach Art. 28 DSGVO.☐ Ja / ☐ Nein

Verbote — Diese Fragen sollten mit Nein beantwortet werden

#FrageStatus
5Mein Unternehmen nutzt KI für automatisierte Personalentscheidungen ohne vollständige AI-Act-Hochrisiko-Compliance.☐ Ja (Handlungsbedarf!) / ☐ Nein
6Mitarbeiter geben Kundendaten regelmäßig in kostenlose KI-Tools ein (ohne AVV).☐ Ja (Handlungsbedarf!) / ☐ Nein
7Wir setzen Kameras zur biometrischen Echtzeit-Erkennung in öffentlich zugänglichen Räumen ein.☐ Ja (Handlungsbedarf!) / ☐ Nein
8Wir nutzen KI-Tools, die Emotionen oder psychische Zustände von Mitarbeitern analysieren.☐ Ja (Handlungsbedarf!) / ☐ Nein

Transparenz & Kennzeichnung

#FrageStatus
9Unser KI-Chatbot informiert Nutzer vor der ersten Interaktion, dass sie mit einer KI sprechen (Vorbereitung auf Art. 50, Frist 2.8.2026).☐ Ja / ☐ Noch nicht / ☐ Kein Chatbot
10KI-generierte Inhalte werden intern als solche dokumentiert und von einer Person geprüft.☐ Ja / ☐ Nein

Datenschutz-Dokumentation

#FrageStatus
11Das VVT enthält Einträge für alle KI-Verarbeitungen mit personenbezogenen Daten.☐ Ja / ☐ Nein
12Ich habe geprüft, ob für unsere KI-Nutzung eine DSFA erforderlich ist.☐ Ja / ☐ Nein
13Unsere Datenschutzerklärung enthält Informationen über den Einsatz von KI-Tools.☐ Ja / ☐ Nein

Mitarbeiter & Betriebsrat

#FrageStatus
14Falls Betriebsrat vorhanden: Dieser wurde vor Einführung von KI-Tools eingebunden und eine Betriebsvereinbarung wurde abgeschlossen.☐ Ja / ☐ Kein Betriebsrat
15KI-Tools werden nicht zur systematischen Leistungsüberwachung einzelner Mitarbeiter genutzt.☐ Ja / ☐ Nein
16Mitarbeiter wurden informiert, welche Daten durch KI-Tools über sie verarbeitet werden.☐ Ja / ☐ Nein

Technische Absicherung

#FrageStatus
17Für den produktiven Einsatz mit Unternehmensdaten nutze ich ausschließlich Enterprise-Versionen mit Datenschutzgarantien.☐ Ja / ☐ Nein
18Der Datenspeicherort unserer Enterprise-KI-Tools ist bekannt und DSGVO-konform (bevorzugt EU/EWR).☐ Ja / ☐ Nein

Haftung & Governance

#FrageStatus
19Es ist klar definiert, wer in unserem Unternehmen für KI-Compliance verantwortlich ist (eine konkrete Person).☐ Ja / ☐ Nein
20Wir haben einen Prozess für den Fall, dass ein KI-generierter Fehler einen Schaden verursacht hat (Dokumentation, Meldung, Behebung).☐ Ja / ☐ Nein

Auswertung:

● 15–20 Ja
Gute Ausgangsbasis — mindestens jährliche Überprüfung empfehlenswert
● 10–14 Ja
Mittleres Risiko — identifizierte Lücken priorisiert schließen
● Unter 10 Ja
Erheblicher Handlungsbedarf — Beratung durch Rechtsanwalt/Datenschutzberater dringend empfohlen
● Ja bei Fragen 5–8
Sofortiger Handlungsbedarf — es liegen wahrscheinlich aktive Rechtsverstöße vor
ANHANG A: Regulatorischer Hintergrund — Warum ändert sich der AI Act gerade?

Für Unternehmer, die verstehen wollen, warum der AI Act seit seiner Verabschiedung bereits mehrfach nachjustiert wird und wohin der Trend geht:

Der Draghi- und der Letta-Bericht (2024/2025) haben die europäische Regulierungsdiskussion fundamental verschoben. Mario Draghi (Ex-EZB-Präsident) diagnostizierte in seinem Bericht zur EU-Wettbewerbsfähigkeit, dass Europa gegenüber USA und China in eine „Innovationslücke" gefallen sei — nicht wegen mangelnder Forschung, sondern weil sich Unternehmen nicht skalieren lassen, wenn sie gleichzeitig DSGVO, AI Act, NIS2, Data Act und DORA einhalten müssen. Enrico Letta (Ex-Ministerpräsident Italien) ergänzte, dass insbesondere KMU unverhältnismäßig hohe Compliance-Kosten tragen.

Das politische Ergebnis: Die EU-Kommission hat sich zu einer 25%-Reduktion der Berichtspflichten verpflichtet (für KMU sogar 35%). Der Digital Omnibus ist als Umsetzungsinstrument dafür vorgesehen. Der strategische Trend deutet auf Vereinfachung hin; die konkrete Rechtslage hängt von der finalen Fassung ab. Unternehmen, die jetzt mit moderaten Compliance-Maßnahmen beginnen, sind gut positioniert — eine vollständige Compliance-Panik ist nicht angebracht.

ANHANG B: Die Quasi-Hersteller-Falle — für die wenigen, die KI selbst anpassen
Vorab: Das betrifft die meisten KMU nicht. Wer Standard-Tools nutzt — Copilot, ChatGPT Enterprise, branchenspezifische Lösungen — kann diesen Anhang überfliegen. Relevant wird es, wenn Sie KI-Modelle anpassen oder unter eigenem Namen anbieten.

Der EU AI Act (Art. 25) definiert: Wer ein KI-System wesentlich verändert, wird rechtlich selbst zum Anbieter (Provider) — mit allen Pflichten, die sonst nur Hersteller wie OpenAI oder Microsoft haben: technische Dokumentation, Risikomanagementsystem, CE-Kennzeichnung.

Drei Auslöser für diesen Rollenwechsel:

  1. Das System läuft unter dem eigenen Unternehmenslogo / der eigenen Marke im Markt (White-Labeling)
  2. Der Einsatzzweck wird so geändert, dass das System zum Hochrisiko-System wird (z.B. ein allgemeines Textmodell wird für automatisierte Bewerberselektion eingesetzt)
  3. Eine technische Änderung (Fine-Tuning, Erweiterung) verändert die Systemeigenschaften wesentlich

Für Unternehmen, die einen Softwareanbieter beauftragen, ein „eigenes" KI-Tool zu bauen: Vertraglich klären, wer dabei die Anbieter-Pflichten übernimmt. Diese Frage ist oft nicht geregelt.

ANHANG C: Weiterführende Ressourcen

Offizielle Quellen:

Herausgeber: x10aix.tech — Projekt der Dräxler Versicherungsberatung GmbH
Anschrift: Hetzendorfer Strasse 73a, 1120 Wien
Kontakt: contact@x10aix.tech
Erstellt: Juni 2026 | Version 2.6 — Quellenrevision, Fristen- und Art.-4-Hinweise auf Primärquellen gestützt.

Haftungsausschluss: Diese Publikation wurde mit Unterstützung von KI erstellt und stellt eine allgemeine, unverbindliche Information dar. Die Inhalte ersetzen keine individuelle rechtliche oder unternehmerische Beratung. Alle Rechtsangaben entsprechen dem Stand Juni 2026 und können sich durch Gesetzesänderungen (insbesondere durch das Digital-Omnibus-Paket) ändern.

KI-Kompass Updates erhalten

Benachrichtigung bei neuer Version — keine Werbung, kein Spam.

Sie wollen wissen, wo Ihr Unternehmen aktuell steht?

In einem AI Sounding Board prüfen wir gemeinsam, welche KI-Nutzung bei Ihnen bereits stattfindet, wo Risiken entstehen und welche nächsten Schritte wirtschaftlich sinnvoll sind.

▸ AI Sounding Board anfragen