Wie erfolgt die Kennzeichnung gemäß den „Maßnahmen zur Kennzeichnung von KI-generierten synthetischen Inhalten"? 128

Was ist die „Maßnahmen zur Kennzeichnung von durch künstliche Intelligenz erzeugten synthetischen Inhalten“?

Die „Maßnahmen zur Kennzeichnung von durch künstliche Intelligenz erzeugten synthetischen Inhalten“ wurden gemeinsam vom Büro für Internetinformation des Staates, dem Ministerium für Industrie und Informationstechnologie, dem Ministerium für öffentliche Sicherheit sowie der staatlichen Verwaltung für Radio und Fernsehen veröffentlicht und treten am 1. September 2025 in Kraft. Die Maßnahmen zielen darauf ab, die Kennzeichnung von durch künstliche Intelligenz erzeugten synthetischen Inhalten zu regulieren, die legitimen Rechte und Interessen von Bürgern, juristischen Personen und anderen Organisationen zu schützen und das öffentliche Interesse der Gesellschaft zu wahren.

Wie erfolgt die Kennzeichnung?

Explizite Kennzeichnung:

Sie erfolgt in den Benutzeroberflächen für erzeugte synthetische Inhalte oder Interaktionsszenen in Form von Text, Ton, Grafiken usw., sodass sie für die Benutzer deutlich wahrnehmbar ist. Beispiele:

• Bei Textinhalten ist an geeigneter Stelle am Anfang, am Ende oder in der Mitte ein Text- oder Symbolhinweis hinzuzufügen.

• Bei Audioinhalten ist am Anfang, am Ende oder in der Mitte ein Sprach- oder Audiotempohinweis hinzuzufügen.

• Bei Bildern ist an geeigneter Stelle ein deutlich sichtbarer Hinweis hinzuzufügen.

• Bei Videos ist im Startbild, im Umfeld der Wiedergabe oder an geeigneter Stelle in der Mitte ein deutlich sichtbarer Hinweis hinzuzufügen.

Implizite Kennzeichnung:

Sie wird mithilfe technischer Maßnahmen in die Dateidaten der erzeugten synthetischen Inhalte eingebettet und ist für die Benutzer nicht ohne Weiteres wahrnehmbar. Die Metadaten der Datei müssen Attributinformationen zur Erzeugung synthetischer Inhalte, den Namen oder Code des Diensteanbieters, die Inhaltsnummer usw. enthalten, um Herkunft, Attribute und Verwendungszweck der Datei zu dokumentieren.

• Kennzeichen „Erzeugter synthetischer Inhalt“: gibt an, ob es sich um erzeugten synthetischen Inhalt handelt.

• Informationen zum Diensteanbieter: einschließlich Name oder Code des Anbieters des Dienstes zur Erzeugung synthetischer Inhalte.

• Inhaltsnummer: vom Anbieter des Dienstes zur Erzeugung synthetischer Inhalte vergebene eindeutige Nummer für diesen Inhalt.

• Reservierte Felder: können zur Dokumentation von Sicherheitsinformationen wie der Integrität und Konsistenz der Kennzeichnung verwendet werden.

Vorgaben zur Verbreitung

• Anbieter von Verbreitungsdiensten müssen die in den Dateimetadaten enthaltenen impliziten Kennzeichnungen überprüfen und rund um den veröffentlichten Inhalt deutlich sichtbare Hinweise anbringen.

• Auch wenn keine implizite Kennzeichnung festgestellt wurde, der Benutzer den Inhalt jedoch als erzeugten synthetischen Inhalt deklariert, muss ein Hinweis angebracht werden.

• Bei mutmaßlich erzeugten synthetischen Inhalten sind geeignete Maßnahmen zu ergreifen, um die Öffentlichkeit darauf hinzuweisen.

Pflichten der Benutzer

Wenn Benutzer über Online-Informationsverbreitungsdienste erzeugte synthetische Inhalte veröffentlichen, müssen sie diese aktiv deklarieren und die Kennzeichnungsfunktion zur Kennzeichnung verwenden.

Organisationen und Einzelpersonen dürfen Kennzeichnungen weder mutwillig entfernen, manipulieren, fälschen noch verbergen.

Pflichten der Plattformen

• Plattformen für die Verteilung von Internetanwendungen müssen die Materialien zur Kennzeichnung im Zusammenhang mit Diensten zur Erzeugung synthetischer Inhalte durch künstliche Intelligenz überprüfen.

• Diensteanbieter müssen in den Nutzungsvereinbarungen die Methoden und Regelungen zur Kennzeichnung klar festlegen.

Behandlung von Verstößen

Verstöße gegen diese Maßnahmen werden je nach Zuständigkeit von den Behörden für Internetinformation, Telekommunikation, öffentliche Sicherheit sowie Radio und Fernsehen behandelt.

Um die Umsetzung dieser Maßnahmen zu unterstützen, haben die staatliche Verwaltung für Marktregulierung sowie das staatliche Komitee für Normung außerdem die verbindliche nationale Norm „Technik für Netzwerksicherheit – Methode zur Kennzeichnung von durch künstliche Intelligenz erzeugten synthetischen Inhalten“ veröffentlicht und entsprechende Praxisanleitungen erstellt.

Die „Maßnahmen zur Kennzeichnung von durch künstliche Intelligenz erzeugten synthetischen Inhalten“ treten am 1. September 2025 in Kraft.

Details: https://www.cac.gov.cn/2025-03/14/c_1743654685899683.htm