Chinas oberste Internetaufsichtsbehörde, das Büro der Zentralen Kommission für Cyberspace-Angelegenheiten, hat am Montag eine viermonatige landesweite Kampagne zum verstärkten Schutz von Minderjährigen im Netz gestartet.

Die Kampagne richtet sich gegen schädliche KI-generierte Inhalte, sexuelle Ausbeutung, Verletzungen der Privatsphäre, exzessiven Konsum sowie algorithmenbedingte Suchtgefahren. Sie wird in zwei Phasen durchgeführt und verpflichtet die Online-Plattformen zu größerer Verantwortung bei Inhalten, die Minderjährige betreffen, wie aus einer Mitteilung der Behörde hervorgeht.

Die erste Phase, die auf die Sommerferien ausgerichtet ist, befasst sich mit Risiken in der gesamten Wertschöpfungskette von Online-Inhalten – von der Erstellung über die Verbreitung bis hin zu Interaktion und Vermarktung – um eine sicherere digitale Umgebung für Kinder in der Ferienzeit zu schaffen.

Die Behörden wollen gezielt gegen den Einsatz von KI vorgehen, mit der klassische Zeichentrickfiguren verfälscht oder gewalttätige sowie verängstigende Elemente verstärkt werden. Auch Inhalte, die zu gefährlichem Verhalten anregen – etwa sogenannte „Suffocation Challenges“ – sollen unterbunden werden.

Die Kampagne richtet sich zudem gegen Accounts, die Kinder durch inszenierte Videos zu Themen wie Schulschwänzen, Lernunwilligkeit oder sogenanntem „Lying Flat“ zur Schau stellen.

Bei Online-Interaktionen werden Personen ins Visier genommen, die unter dem Vorwand von Freundschaft Minderjährige zum Versenden privater Fotos bewegen, sowie Gruppen, die unter dem Deckmantel von Animations-Angeboten pornografische Comics oder andere illegale Inhalte verbreiten.

Die Kampagne adressiert zudem Online-Betrug, bei dem Minderjährige zu Vorauszahlungen verleitet werden, sowie Dienste, die KI-gestützte Gesichtstausch-Technologien anbieten oder Kindern beibringen, wie sie Gesichtserkennungen umgehen können.

Die zweite Phase konzentriert sich auf Inhalte, die die körperliche oder seelische Gesundheit von Minderjährigen beeinträchtigen können, und verschärft die Regulierung in drei Bereichen: Empfehlungsalgorithmen, Bildungsinhalte und speziell für Minderjährige entwickelte Online-Modi.

Plattformen sind demnach verpflichtet, ihre Empfehlungssysteme zu verbessern und dürfen keine Algorithmen einsetzen, die Internetsucht oder übermäßigen Konsum fördern.

Die Anforderungen an die Prüfung klassischer Animationsinhalte für Kinder sowie von Inhalten, die als Frühförderung gekennzeichnet sind, werden verschärft.

Zudem soll die Häufigkeit und Dauer von Videos mit Kindern angemessen begrenzt werden. Accounts dürfen nicht wiederholt Minderjährige unter dem Vorwand der Weitergabe von Bildungserfahrungen zur Erzielung von Aufmerksamkeit oder Gewinn einsetzen.

Die Behörden prüfen, ob die auf Plattformen eingerichteten Minderjährigen-Modi über eine angemessene Identitätsverifikation für Ein- und Ausstieg verfügen und ob sie Funktionen enthalten, die zu Trinkgeldern, Abstimmungen oder Rankings animieren.

Besondere Aufmerksamkeit gilt auch Kinder-Smartwatches – einschließlich schädlicher Inhalte in Chat- und Eingabefunktionen, Drittanbieter-Apps, die zum Bezahlen verleiten, sowie der Verbreitung von illegalen oder unangemessenen Informationen.

Ein Vertreter der obersten Internetaufsichtsbehörde betonte, dass die lokalen Behörden neu aufkommende Online-Risiken für Minderjährige genau verfolgen, die Durchsetzung der Regeln verstärken und Plattformen bei Verstößen zur Rechenschaft ziehen sollten.