KI-Transparenz

Hinweis: Diese Seite dient ausschließlich der allgemeinen Information über die EU KI-Verordnung und deren Auswirkungen auf unsere Zusammenarbeit. Sie stellt keine Rechtsberatung dar und ersetzt keine individuelle rechtliche Prüfung. Bei Widersprüchen zwischen dieser Informationsseite und unseren Allgemeinen Geschäftsbedingungen (AGB) gehen die AGB vor. Rechtsverbindliche Regelungen zu KI-Projekten finden sich ausschließlich in den AGB, insbesondere § 4 (KI-Regulierung), § 8 (KI-Transparenz) und § 10 (Haftungsbeschränkung).

Die Verordnung (EU) 2024/1689 — auch bekannt als EU AI Act oder KI-Verordnung (KI-VO) — ist das weltweit erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz. Sie trat am 1. August 2024 in Kraft und wird stufenweise bis 2027 vollständig anwendbar.

Ziel der Verordnung ist es, vertrauenswürdige KI in der EU zu fördern und gleichzeitig Grundrechte, Sicherheit und Transparenz zu schützen. Die KI-VO gilt für alle Akteure, die KI-Systeme in der EU entwickeln, bereitstellen oder einsetzen.

Die wichtigsten Meilensteine:

Datum	Pflicht
02.02.2025	Verbot unzulässiger KI-Praktiken (bereits aktiv)
02.08.2025	Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI)
02.08.2026	Transparenzpflichten (Art. 50) und Hochrisiko-Systeme
02.08.2027	Vollständige Anwendung aller Bestimmungen

Die KI-VO klassifiziert KI-Systeme in vier Risikostufen:

Risikostufe	Beschreibung	Anforderungen
Unzulässig	Manipulative KI, Social Scoring, biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum	Verboten seit 02.02.2025
Hoch	KI in kritischen Bereichen: HR-Entscheidungen, Kreditwürdigkeitsprüfung, Biometrie, kritische Infrastruktur	Konformitätsbewertung, CE-Kennzeichnung, technische Dokumentation, 10 Jahre Aufbewahrung
Begrenzt	Chatbots, KI-generierte Inhalte, Deepfakes, Emotionserkennung	Transparenzpflichten: Kennzeichnung und Offenlegung
Minimal	Spamfilter, KI-gestützte Empfehlungssysteme, einfache Automatisierungen	Keine besonderen Pflichten, freiwillige Verhaltenskodizes empfohlen

Die meisten KI-Projekte, die Kuroko Labs für Kunden entwickelt — wie Chatbots, KI-Agenten, RAG-Systeme und Content-Generierung — fallen in die Kategorie „Begrenztes Risiko" und unterliegen primär den Transparenzpflichten nach Art. 50.

Die KI-VO unterscheidet drei zentrale Rollen mit unterschiedlichen Pflichten:

Rolle	Wer?	Pflichten
Anbieter (Provider)	OpenAI, Anthropic, Google, Meta — Unternehmen, die KI-Modelle entwickeln und in Verkehr bringen	Modellsicherheit, Dokumentation, Konformitätsbewertung
Integrator	Kuroko Labs — integriert KI-Modelle in kundenspezifische Lösungen	Technische Dokumentation, Transparenzhinweise bereitstellen, Unterstützung des Betreibers bei Compliance
Betreiber (Deployer)	Unsere Kunden — setzen das fertige KI-System in ihrem Geschäftsbetrieb ein	Einhaltung der Nutzungsbedingungen, Überwachung im Betrieb, Endnutzer-Information, Datenschutz-Folgenabschätzung

Kuroko Labs unterstützt als Integrator die fachgerechte Integration von KI-Modellen in Ihre Lösung. Die Verantwortung für die korrekte Risikoklassifizierung und etwaige regulatorische Konformitätsbewertungen für den konkreten Einsatzzweck verbleibt beim Auftraggeber als Betreiber (Deployer) im Sinne des Art. 3 Nr. 4 KI-VO (vgl. AGB § 2 Abs. 5). Nach Projektübergabe obliegt die vollständige Betreiber-Verantwortung dem Kunden.

Ab dem 2. August 2026 gelten folgende Transparenzpflichten:

• Interaktionshinweis: Endnutzer müssen vor Beginn der Interaktion darüber informiert werden, dass sie mit einem KI-System interagieren — es sei denn, dies ist offensichtlich.
• Kennzeichnung KI-generierter Inhalte: Text, Bild, Audio und Video, die von KI generiert wurden, müssen maschinenlesbar als solche gekennzeichnet werden.
• Deepfake-Kennzeichnung: Synthetisch erzeugte oder manipulierte Inhalte, die reale Personen oder Ereignisse darstellen, müssen klar als KI-generiert offengelegt werden.
• Emotionserkennung / Biometrie: Personen, deren Emotionen erkannt oder deren biometrische Daten kategorisiert werden, müssen vorab informiert werden.

Kuroko Labs unterstützt die Umsetzung dieser Transparenzanforderungen in KI-Projekten im Rahmen des jeweiligen Projektvertrags. Die Verantwortung für die Einhaltung der Transparenzpflichten im laufenden Betrieb liegt beim Auftraggeber als Betreiber (vgl. AGB § 8 Abs. 2).

Nach der Übergabe eines KI-Projekts sind Sie als Betreiber verantwortlich für:

• Endnutzer-Information: Stellen Sie sicher, dass Ihre Endnutzer wissen, wann sie mit einem KI-System interagieren.
• Kennzeichnungspflicht: KI-generierte Inhalte müssen als solche gekennzeichnet sein, bevor sie veröffentlicht oder weitergegeben werden.
• Überwachung: Beobachten Sie das KI-System im laufenden Betrieb auf unerwartetes Verhalten und dokumentieren Sie Vorfälle.
• Datenschutz: Wenn Ihr KI-System personenbezogene Daten verarbeitet, sind Sie für die Einhaltung der DSGVO verantwortlich, einschließlich einer Datenschutz-Folgenabschätzung (DPIA) gemäß Art. 35 DSGVO.
• Human Oversight: Bei Hochrisiko-Systemen muss eine menschliche Aufsicht gewährleistet sein.
• Dokumentation: Bewahren Sie die von Kuroko Labs bereitgestellte technische Dokumentation mindestens 10 Jahre auf.

Detaillierte vertragliche Regelungen finden Sie in unseren Allgemeinen Geschäftsbedingungen (§ 4 und § 8).

Abhängig vom jeweiligen Projektvertrag kann die Übergabe eines KI-Projekts unter anderem folgende Dokumentation umfassen:

• Model Card: Beschreibung des eingesetzten KI-Modells, seiner Fähigkeiten, Einschränkungen und bekannter Risiken.
• Data Card: Informationen über die verwendeten Trainingsdaten und Datenquellen (soweit zutreffend).
• Risikoklassifizierung: Einordnung des Systems gemäß EU AI Act mit Begründung.
• Human-Oversight-Anleitung: Beschreibung, wie menschliche Aufsicht im Betrieb sichergestellt werden kann.
• Technische Integrationsdokumentation: API-Beschreibungen, Konfiguration und Betriebsanleitung.
• DPIA-Template: Vorlage für die Datenschutz-Folgenabschätzung (sofern personenbezogene Daten verarbeitet werden).

Art und Umfang der Dokumentation richten sich nach dem individuellen Projektvertrag und der Risikoklassifizierung des jeweiligen KI-Systems.

Kuroko Labs orientiert sich an folgenden Grundsätzen für den verantwortungsvollen Einsatz von Künstlicher Intelligenz:

• Transparenz: Wir kommunizieren offen, wo und wie KI eingesetzt wird.
• Menschliche Kontrolle: KI-Systeme unterstützen menschliche Entscheidungsfindung — sie ersetzen sie nicht. Wir implementieren Human-in-the-Loop-Mechanismen, wo dies erforderlich ist.
• Datenqualität: Wir achten auf die Qualität und Integrität der Daten, die in KI-Systemen verarbeitet werden.
• Sicherheit: KI-Systeme werden mit angemessenen Sicherheitsmaßnahmen entwickelt.
• Halluzinations-Risiko: KI-generierte Inhalte können fehlerhaft, unvollständig oder sachlich unrichtig sein. Eine menschliche Überprüfung von KI-Ausgaben vor Verwendung ist stets erforderlich (vgl. AGB § 4 Abs. 2).
• Bias-Bewusstsein: Wir achten im Rahmen unserer Möglichkeiten darauf, dass KI-Systeme keine unfairen Vorurteile (Bias) verstärken. Eine vollständige Freiheit von Bias kann jedoch nicht garantiert werden.
• Fortlaufende Verbesserung: Wir verfolgen die regulatorische Entwicklung und passen unsere Prozesse entsprechend an.

Die KI-Verordnung sieht erhebliche Bußgelder bei Verstößen vor:

Verstoß	Bußgeld
Verbotene KI-Praktiken	Bis zu 35 Mio. EUR oder 7 % des weltweiten Jahresumsatzes
Transparenzverstöße (Art. 50)	Bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes
Falsche Angaben gegenüber Behörden	Bis zu 7,5 Mio. EUR oder 1 % des weltweiten Jahresumsatzes

Zusätzlich können DSGVO-Bußgelder (bis zu 20 Mio. EUR oder 4 % des Jahresumsatzes) hinzukommen, wenn KI-Systeme personenbezogene Daten verarbeiten. Bußgelder treffen den jeweiligen Verpflichteten — bei Verstößen gegen die Kennzeichnungspflichten durch den Betreiber (Deployer) haftet Kuroko Labs als Integrator nicht (vgl. AGB § 8 Abs. 2).

Der Einsatz von KI-Systemen, die personenbezogene Daten verarbeiten, unterliegt zusätzlich den Anforderungen der Datenschutz-Grundverordnung (DSGVO). Insbesondere:

• Art. 22 DSGVO — Automatisierte Entscheidungsfindung: Betroffene Personen haben das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet. Kuroko Labs empfiehlt grundsätzlich die Einbindung menschlicher Überprüfung.
• Art. 35 DSGVO — Datenschutz-Folgenabschätzung (DPIA): Für KI-Systeme, die personenbezogene Daten in großem Umfang verarbeiten, ist eine DPIA durchzuführen. Kuroko Labs stellt hierfür Templates bereit.
• Rechtsgrundlage: Die Verarbeitung personenbezogener Daten durch KI-Systeme erfolgt in der Regel auf Grundlage von Art. 6 Abs. 1 lit. b DSGVO (Vertragserfüllung) oder Art. 6 Abs. 1 lit. f DSGVO (berechtigtes Interesse).

Weitere Informationen finden Sie in unserer Datenschutzerklärung.

Deutschland setzt die EU KI-Verordnung durch das KI-Marktüberwachungsgesetz (KI-MIG) um, das am 11. Februar 2026 vom Bundeskabinett beschlossen wurde und sich im parlamentarischen Verfahren befindet.

Wesentliche Punkte:

• Die Bundesnetzagentur wird als zentrale KI-Aufsichtsbehörde in Deutschland fungieren.
• Es werden keine zusätzlichen Anforderungen über den EU AI Act hinaus eingeführt.
• Regulatorische Sandboxes werden eingerichtet, um Innovation zu fördern.
• Sektorspezifische Aufsicht: BaFin für KI im Finanzsektor, BSI für KI-Cybersicherheit.

Für Fragen zu unseren KI-Transparenzhinweisen, zur KI-Verordnung oder zu Ihren Pflichten als Betreiber wenden Sie sich bitte an:

Kuroko Labs GmbH
Poccistraße 5, 85375 Neufahrn bei Freising
E-Mail: kurokolabs@gmail.com
Telefon: +49 176 30472811

Weitere rechtliche Informationen:

• Allgemeine Geschäftsbedingungen (AGB) — insbesondere § 4 (KI-Regulierung) und § 8 (KI-Transparenz)
• Datenschutzerklärung
• Impressum

Aktualitätshinweis: Die KI-Regulierung befindet sich im Aufbau. Die Inhalte dieser Seite geben den Kenntnisstand zum angegebenen Datum wieder und werden bei wesentlichen Änderungen der Rechtslage aktualisiert. Es obliegt dem Auftraggeber, sich eigenständig über die jeweils geltende Rechtslage zu informieren. Für die Haftungsregelungen verweisen wir auf AGB § 10.