KI-Kennzeichnungspflichten für die Spielwarenbranche in der Praxis

Der Artikel bietet zunächst eine Einordnung der Transparenzanforderungen und der Betreiberverantwortung für Unternehmen in der Spielwarenindustrie. Anschließend werden die Reichweite der Informationspflichten sowie die Kennzeichnung KI-generierter Inhalte und der Umgang mit Deepfakes praxisnah erläutert. Darüber hinaus enthält der Artikel konkrete Hinweise zur Ausgestaltung von Kennzeichnungspflichten hinsichtlich Form und Zeitpunkt der Kennzeichnung. Ein kurzer Ausblick zeigt zudem auf, welche weiteren rechtlichen Anforderungen bei der Nutzung von KI-generierten Inhalten zu beachten sind. Abschließend fasst der Beitrag die wesentlichen Punkte in praxisnahen Handlungsempfehlungen für die Spielwarenbranche zusammen:

KI-Kennzeichnungspflichten für die Spielwarenindustrie in der Praxis

Von Büsra Aydin

Mit der Verordnung (EU) 2024/1689 („KI-Verordnung“, KI-VO) etabliert der europäische Gesetzgeber erstmals einen umfassenden und unmittelbar geltenden Rechtsrahmen für den Einsatz künstlicher Intelligenz. Einen grundlegenden Baustein bilden die Transparenzpflichten des Art. 50 KI-VO, die ab dem 2. August 2026 verbindlich zur Anwendung gelangen. Sie verpflichten insbesondere Betreiber von KI-Systemen dazu, gegenüber Nutzern offenzulegen, wenn Inhalte künstlich generiert oder in entscheidender Weise durch KI beeinflusst worden sind.

Gerade für die Spielwarenbranche, in der KI zunehmend in Marketing, Produktvisualisierung und digitalen Spielumgebungen eingesetzt wird, entfalten diese Vorgaben erhebliche praktische Relevanz. Dies gilt umso mehr, als sich die Kommunikation häufig an Kinder und Eltern richtet und damit besonders schutzbedürftige Ziel­gruppen betroffen sind.

Für die Spielwarenbranche eröffnen sich damit zwei Seiten derselben Medaille: Einerseits steigt der regula­torische Druck, insbesondere beim Einsatz realitätsnaher KI-Inhalte in Kinderwerbung und digitalen Spielwelten; andererseits können Unternehmen, die frühzeitig transparente Kennzeichnungskonzepte etablieren, sich als vertrauenswürdige und verantwortungsvolle Akteure im Markt positionieren.

1. Rechtliche Einordnung und Betreiberverantwortung

Art. 50 KI-VO normiert Transparenzpflichten, die funktional an die konkrete Nutzungssituation anknüpfen. Während Anbieter in erster Linie technische und systembezogene Anforderungen, etwa hinsichtlich maschinen­lesbarer Kennzeichnungen, zu erfüllen haben, adressiert die Vorschrift Betreiber als diejenigen Akteure, die KI-Systeme im konkreten Anwendungskontext einsetzen und deren Ergebnisse gegenüber Dritten verwenden.

Betreiber ist hierbei jede natürliche oder juristische Person, die ein KI-System unter eigener Verantwortung nutzt. Für die Praxis der Spielwarenbranche erfasst dies insbesondere Unternehmen, die KI-generierte Inhalte im Rahmen von Werbung, Produktdarstellung, digitalen Plattformen oder interaktiven Spielsystemen einsetzen.

Teleologisch dient Art. 50 KI-VO der Vermeidung von Irreführung und der Sicherung des Vertrauens in digitale Inhalte. Entscheidend ist daher stets die Perspektive des durchschnittlichen Nutzers und die konkrete Wirkung des jeweiligen Inhalts.

2. Reichweite der Informationspflichten

Die Transparenzanforderungen greifen in unterschiedlichen Konstellationen, die durch eine ausschlaggebende gemeinsame Voraussetzung verbunden sind: das Risiko, dass Nutzer Inhalte fälschlicherweise als menschlich erstellt oder authentisch wahrnehmen, obwohl sie tatsächlich auf KI beruhen.

Zunächst besteht eine Offenlegungspflicht, wenn eine Interaktion mit einem KI-System erfolgt, ohne dass dies für den Nutzer offensichtlich ist. Dies betrifft insbesondere dialogbasierte Anwendungen wie sprachgesteuerte Spielzeuge, digitale Assistenten oder KI-gestützte Kommunikationsfunktionen in Apps. In solchen Fällen muss bereits zu Beginn der Interaktion erkennbar sein, dass keine menschliche Kommunikation vorliegt.

Den Schwerpunkt der praktischen Relevanz bildet jedoch die Kennzeichnung KI-generierter Inhalte. Erfasst sind sämtliche Medienformen, wie Text, Bild, Audio und Video, sofern diese vollständig durch KI erzeugt oder in einer Weise verändert wurden, die ihren Aussagegehalt prägt. Eine Kennzeichnungspflicht besteht somit nicht nur bei vollständig generierten Inhalten, sondern auch dann, wenn die KI einen wesentlichen, das Gesamtbild bestimmenden Beitrag geleistet hat. Maßgeblich ist, ob der Inhalt ohne den KI-Einsatz in dieser konkreten Form nicht entstanden wäre oder ob die KI die Wahrnehmung durch den Nutzer erheblich beeinflusst.

Demgegenüber bleiben rein unterstützende oder technisch untergeordnete KI-gestützte Einsätze, wie orthografische Korrekturen, geringfügige Bildoptimierungen oder Farbangleichungen, außer Betracht, da sie keinen eigenständigen inhaltlichen Aussagegehalt begründen. Spielwarenhersteller müssen somit nicht jeden Einsatz von KI kennzeichnen, sollten aber genau hinsehen, sobald KI aus einem Entwurf eine scheinbar reale Szene macht oder die Tonalität einer Botschaft maßgeblich prägen.

3. Deepfakes als Hauptanwendungsfall

Eine besondere Ausprägung der Kennzeichnungspflicht betrifft sogenannte Deepfakes. Nach Art. 3 Nr. 60 KI-VO handelt es sich hierbei um KI-generierte oder manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und geeignet sind, bei einem durchschnittlichen Betrachter den Eindruck von Echtheit oder Authentizität hervorzurufen.

Art. 50 Abs. 4 KI-VO knüpft hieran eine spezifische Offenlegungspflicht: Betreiber haben sicherzustellen, dass betroffene Personen darüber informiert werden, wenn sie mit derartigen Inhalten konfrontiert werden. Rein fiktive, offensichtlich künstliche Darstellungen unterliegen der Kennzeichnungspflicht in der Regel nicht, solange für den durchschnittlichen Betrachter eindeutig erkennbar ist, dass es sich nicht um reale Personen oder Ereignisse handelt. Dies betrifft beispielsweise cartoonhafte oder bewusst unrealistische Visualisierungen.

Anders verhält es sich bei fotorealistischen Darstellungen. Werden KI-generierte Inhalte so gestaltet, dass sie klassische Fotografien oder reale Szenen nachahmen und beim Betrachter den Eindruck von Echtheit erzeugen, besteht regelmäßig ein ausreichendes Täuschungspotential. In diesen Fällen ist eine Kennzeichnung unabhängig von der tatsächlichen Existenz der dargestellten Personen erforderlich.

Für die Praxis lässt sich daraus eine klare Leitlinie ableiten: Je höher der Grad der Realitätsnähe und je größer die Gefahr, dass ein Inhalt als authentisch missverstanden wird, desto eher ist eine Kennzeichnung rechtlich geboten.

4. Anforderungen an Form und Zeitpunkt der Kennzeichnung

Die KI-VO enthält bewusst keine starren formalen Vorgaben hinsichtlich des Wortlauts, der Gestaltung oder Platzierung der Kennzeichnung. Maßgeblich ist vielmehr, dass die Offenlegung ihren Zweck erfüllt und für den Nutzer tatsächlich wirksam ist. Die Kennzeichnung muss klar erkennbar, verständlich formuliert, gut lesbar und leicht zugänglich sein. Schriftgröße, Farbe oder Layout sind nicht vorgeschrieben, sollten aber so gewählt werden, dass der Hinweis nicht in den Hintergrund tritt. Sie hat grundsätzlich spätestens zum Zeitpunkt der ersten Wahrnehmung des Inhalts zu erfolgen und darf nicht in allgemeinen Hinweisen oder schwer auffindbaren Bereichen verborgen werden. Die beschriebenen Anforderungen gelten für alle Medienformen gleichermaßen. Die konkrete Umsetzung muss jedoch jeweils an das Medium angepasst werden:

Bei Textinhalten genügt regelmäßig ein klarer Hinweis im unmittelbaren Kontext des Inhalts. Gängige und rechtlich unbedenkliche Formulierungen sind etwa „Dieser Inhalt wurde unter Einsatz von KI erstellt“, „KI-generiert“ oder „Teilweise bzw. vollständig KI-generierter Inhalt“, sofern keine vollständige redaktionelle Eigenverantwortung den KI-Einsatz in den Hintergrund treten lässt.

Für Bildinhalte ist eine unmittelbare Verknüpfung von Inhalt und Kennzeichnung erforderlich. Dies kann durch klar erkennbare begleitende Hinweise oder durch integrierte visuelle Elemente wie Overlays erfolgen. Eine bloße Hinterlegung in Metadaten oder Verweise an andere Stelle genügt regelmäßig nicht, da diese für den durchschnittlichen Nutzer im Moment der Betrachtung nicht wahrnehmbar sind.

Bei Video- und Audioinhalten ist zusätzlich zu berücksichtigen, dass die Wahrnehmung zeitlich erfolgt. Eine einmalige Kennzeichnung zu Beginn wird daher häufig nicht ausreichen. Vielmehr ist sicherzustellen, dass der Hinweis während der Nutzung hinreichend präsent bleibt, etwa durch wiederkehrende Einblendungen oder kontextbezogene Hinweise.

5. Weitere rechtliche Anforderungen

Die Einhaltung der Transparenzpflichten nach Art. 50 KI-VO entbindet nicht von der Beachtung weiterer rechtlicher Rahmenbedingungen. Insbesondere sind bei der Nutzung KI-generierter Inhalte mögliche Rechte Dritter zu prüfen, etwa urheberrechtliche, markenrechtliche oder persönlichkeitsrechtliche Positionen. Die Nutzung generativer KI ist insoweit grundsätzlich zulässig, setzt jedoch oftmals eine entsprechende vertragliche Absicherung voraus. Datenschutzrechtliche Anforderungen sind demgegenüber nur dann einschlägig, wenn ein Personenbezug vorliegt. Werden ausschließlich fiktive, nicht existierende Personen erzeugt, fehlt es regelmäßig an einer Verarbeitung personenbezogener Daten. Eine andere Bewertung kann jedoch geboten sein, wenn reale Personen nachgebildet oder in täuschender Weise imitiert werden.

6. Handlungsempfehlungen für die Spielwarenbranche

Art. 50 KI-VO etabliert ein differenziertes Transparenzregime, das für die Spielwarenbranche erhebliche praktische Relevanz hat. Für Unternehmen lassen sich daraus folgende konkrete To-Dos ableiten:

• Unternehmen sollten zunächst prüfen, welche Inhalte ein relevantes Täuschungspotential aufweisen beispielsweise fotorealistische Produktvisualisierungen, interaktive Spielfiguren oder Marketingmaterial, das in digitalen Umgebungen eingesetzt wird.
• Sämtliche KI-generierte Inhalte sind medienübergreifend transparent zu kennzeichnen, wobei die Hinweise klar verständlich, gut sichtbar und spätestens beim ersten Kontakt mit dem Nutzer erkennbar sein müssen. Dabei kommt es nicht auf Schriftgröße, Farbe oder exakte Formulierungen an, sondern auf die Wirksamkeit der Information im Nutzungskontext.
• Unternehmen sollten klare Verantwortlichkeiten für Prüfung, Kennzeichnung und Freigabe von KI-generierten Inhalten festlegen und die Umsetzung regelmäßig kontrollieren, um Konsistenz und Rechtskonformität sicherzustellen.
• Gängige Formulierungen wie „Teilweise/ vollständig KI-generierter Inhalt“ sind hierfür ausreichend, solange sie für die Nutzergruppe sofort verständlich sind.

Insgesamt gilt: KI-Transparenz ist nicht nur gesetzliche Pflicht, sondern ein strategisches Instrument, um Vertrauen zu stärken und digitale Inhalte verantwortungsvoll zu gestalten. 

Zum Gesetz zur Durchführung der KI-Verordnung geht es hier.

Für weitergehende Fragen zur Einordnung konkreter Anwendungsfälle oder zur praktischen Umsetzung steht Ihnen gerne Rain Büsra Aydin zur Verfügung: Fon: +49 (0) 821 45 40 543, E-Mail: buesra.aydin@schmid-frank.de.

Ihr Ansprechpartner beim DVSI: GF Ulrich Brobeil, Fon: 0911/477112-11; E-Mail: brobeil@dvsi.de