Auslöser: Sie entwickeln KI, lassen ein System entwickeln, bieten es unter eigenem Namen an oder verändern ein vorhandenes System beziehungsweise dessen Zweck in möglicherweise relevanter Weise. Ergebnis: begründete Rolleneinordnung mit erfüllbaren Pflichten und Vertragsaufträgen. Fachrollen: KI-Rechtsfachperson, Produkt- und Technikverantwortliche; Geschäftsführung entscheidet über den abgegrenzten Auftrag.
Welche Rolle übernehmen Sie tatsächlich?
Die Bezeichnung im Angebot reicht nicht. Ein Unternehmen kann einen fremden Dienst betreiben und zugleich für ein darauf aufbauendes eigenes System Anbieterfragen auslösen. Unterscheiden Sie das Basismodell, den eingekauften Dienst und Ihr konkretes System. Wer entwickelt oder beauftragt die Entwicklung? Unter wessen Namen wird welches System angeboten oder in Betrieb genommen? Wer bestimmt Zweck, Funktionen und Änderungen?
Ein zusätzlicher Wissensbestand, eine veränderte Anweisung oder ein eigenes Logo erlauben für sich allein keine abschließende Rollenzuordnung. Maßgeblich sind die tatsächliche Gestaltung und das anwendbare Recht. Auch ein unentgeltliches Angebot oder die Nutzung im eigenen Unternehmen macht diese Prüfung nicht automatisch entbehrlich.
Zwei Fragen getrennt prüfen
Allgemeine Anbieterrolle: Die KI-Verordnung knüpft unter anderem an Entwicklung beziehungsweise Entwickelnlassen und das Inverkehrbringen oder die Inbetriebnahme unter eigenem Namen an. Prüfen Sie diese Frage unabhängig davon, ob ein Hochrisikofall vorliegt. Daraus können etwa Pflichten zur Gestaltung direkter KI-Interaktion folgen. „Wir verwenden nur ein zugekauftes Modell“ ist keine hinreichende Begründung für ausschließlich fremde Verantwortung. Rollen- und Transparenzquellen.
Besonderer Rollenwechsel bei Hochrisikosystemen: Hier sind unter anderem eigenes Kennzeichnen eines bereits angebotenen Systems, wesentliche Veränderungen und Änderungen der Zweckbestimmung zu prüfen. Entscheidend sind der betroffene Systemtyp, die konkrete Änderung und der zeitliche Geltungsbereich. Der besondere Hochrisikopfad ist keine allgemeine Erklärung für jede Anpassung. Umgekehrt hebt ein künftiger Geltungsbeginn bestimmter Anforderungen bereits geltende Datenschutz-, Transparenz- oder Vertragspflichten nicht auf. Die Details werden am aktuellen Rechtsstand geprüft; eine historische Fristentabelle genügt nicht. Geltungsstand und Prüfgrenzen.
So wird die Prüfung entscheidbar
Produkt und Technik erstellen gemeinsam eine kurze Systembeschreibung mit ursprünglichem und geplantem Zweck, Nutzern, Entscheidungsfolgen, Daten, Modell-/Dienstversion und eigener Veränderung. Ergänzen Sie den Entwicklungsauftrag und die Außendarstellung. Eine Beschreibung „Chatbot für Kunden“ lässt beispielsweise offen, ob nur Produktinformationen erklärt oder verbindliche Zusagen erzeugt werden.
Die Rechtsfachperson hält je System die Rolle, Begründung, anwendbaren Anforderungen und erforderlichen Nachweise fest. Dazu gehören je nach Fall verbotene Zwecke, Transparenz, Datenschutz und Hochrisikoanforderungen. Eigene Entwicklung oder Veränderung eines allgemeinen KI-Modells braucht zudem die Prüfung modellbezogener Pflichten. Unternehmensgröße und Vertragsüberschrift ersetzen die Prüfung der Voraussetzungen möglicher Erleichterungen nicht.
Vertraglich vereinbaren Sie, wer die nötigen Informationen, Prüfunterlagen, technischen Zugriffe und Unterstützung liefert. Halten Sie fest, was bei Updates, Beschwerden, Vorfällen und einem Dienstleisterwechsel passiert. Der Vertrag muss zu den tatsächlichen gesetzlichen Rollen passen. Eine Klausel „der Dienstleister übernimmt Compliance“ belegt weder die vollständige Übertragung von Pflichten noch deren Umsetzung.
Beispiel: Ein Kundenassistent unter eigener Marke
Fiktiv: Ein Projektfertiger lässt eine Anwendung entwickeln, die Kundenfragen aus freigegebenen Produktunterlagen beantwortet. Das Sprachmodell stammt von einem anderen Unternehmen; die Anwendung erscheint unter der Marke des Projektfertigers. Vor Kundenbetrieb klärt die Rechtsfachperson die Rolle für diese Anwendung und die Pflichten der beteiligten Unternehmen.
Der Vertrag soll einen erkennbaren KI-Hinweis, einen begrenzten Antwortumfang und die Übergabe offener Vertragsfragen vorsehen. Der Test zeigt jedoch, dass die Anwendung Liefertermine ohne belegte Freigabe zusagt. Damit fehlt zusätzlich eine notwendige betriebliche Voraussetzung: keine Freigabe für direkte Kundenantworten. Ein intern geprüfter Entwurfsablauf wäre ein gesondert zu beschreibender und freizugebender Umfang. Der Modellanbietername löst weder Rollen- noch Ergebnisfrage.
Ergebnis und Rückkehr
D05 enthält je betroffener Rolle die rechtlichen Bedingungen, vertraglichen Zusagen und zusätzlichen internen Regeln. Status: erfüllt mit Umsetzung/Nachweis, offen mit Klärungsauftrag oder nicht relevant mit fallbezogener Begründung; jeweils Fachperson und Datum. D06 nennt das konkret freigegebene System, die Version, den Zweck, ausgeschlossene Funktionen und Änderungsanlässe.
Die Entscheidung wäre falsch, wenn Ihr Produktauftrag stillschweigend voraussetzt, dass alle Pflichten beim Modelllieferanten bleiben oder benötigte Unterlagen später sicher erhältlich sind. Fehlende notwendige Nachweise verhindern den betroffenen Einsatz. H4 übernimmt Aufsicht und Ergebnisverantwortung, H6 Änderungen und Ausstieg. Danach zurück zu H3, D05/D06.