Im Kampf gegen „Deepfakes“ und andere KI-gestützte Fälschungen hat China auf der „2024 Inclusion Conference on the Bund“ in Shanghai nun den ersten Standard des Landes vorgestellt, der die funktionalen, technischen und Leistungskriterien für Dienstleistungen zur Erkennung gefälschter digitaler Gesichter im Finanzbereich umreißt. Dies sei ein wichtiger Schritt, um gegen diese Art der Kriminalität vorzugehen, so Experten.

China hat auf der „2024 Inclusion Conference on the Bund“ in Shanghai den ersten Standard des Landes vorgestellt, der die funktionalen, technischen und Leistungskriterien für Dienstleistungen zur Erkennung gefälschter digitaler Gesichter im Finanzbereich umreißt. Dieser Standard, der erste seiner Art für die von künstlicher Intelligenz (KI) unterstützte sogenannte „Face-Swapping“-Technologie in Chinas Finanzdienstleistungsbereich, umfasst laut China News Services (CNS) auch entsprechende Test- und Bewertungsmethoden. Der neue Standard lege detaillierte Anforderungen an Funktionalität und Leistung fest, so der Bericht. Auf der funktionalen Ebene sollten die betreffenden Institutionen in der Lage sein, gefälschte digitale Gesichter in verschiedenen Szenarien zu erkennen, einschließlich Ersatz, Aktivierung und Deepfakes.

Im Hinblick auf die Leistungsfähigkeit sollten die Einrichtungen außerdem einen Datensatz mit mindestens 5.000 echten digitalen Gesichtern sowie Datensätze mit gefälschten Gesichtern verschiedener Fälschungsarten erstellen, um komplexe Szenarien im wirklichen Leben zu erfassen. Zu den Schlüsselfaktoren gehören unterschiedliche Hauttöne, Lichtverhältnisse, Klarheitsgrade und die Frage, ob die Stimme enthalten ist oder nicht.

Dies sei ein wichtiger Schritt, um die KI-Sicherheit voranzutreiben, betonte Qin An, stellvertretender Direktor des Expertenausschusses für Terrorismusbekämpfung und Cybersicherheit bei der China Society of Police Law, der Global Times am Sonntag. Er fügte hinzu, dass über diesen Standard hinaus auch definierte Qualifikationsstandards für Zertifizierungsstellen im Bereich der KI-Technologien entscheidend für die Gewährleistung der Datensicherheit seien.

Kürzlich wurden in der Messaging-App Telegram mehrere Chaträume entdeckt, in denen mutmaßlich gefälschtes pornografisches Material mit manipulierten Fotos normaler Frauen („Deepfakes“) erstellt und verbreitet wurde, wobei viele der Opfer und Täter Jugendliche waren, wie die Korea Times berichtete. Der Vorfall erregte in China Aufmerksamkeit, nachdem Netizens, die angaben, südkoreanische Frauen zu sein, laut thepaper.cn ihre Befürchtung zum Ausdruck brachten, dass der Vorfall in ihrem Land übersehen werden könnte.