Nachdem die jährliche Gala zum Verbraucherschutz des chinesischen Staatsfernsehens CCTV die sogenannte „KI-Vergiftung“ durch eine als Generative Engine Optimization (GEO) bekannte kommerzielle Technik ins Rampenlicht gerückt hatte, gaben einige Start-up-Unternehmen der GEO-Branche am Montag Erklärungen ab. Dabei betonten sie, sich zur Einhaltung der Vorschriften bei der KI-Suchoptimierung zu verpflichten.

CCTV berichtete am Sonntag unter Berufung auf Branchenvertreter, dass einige GEO-Dienstleister ihren Kunden versprochen hätten, ihre Produkte gegen eine Gebühr häufig in den von KI generierten Standardantworten erscheinen zu lassen, wobei sogar falsche Werbeinhalte als „Standardantworten“ in KI-Antworten präsentiert werden könnten.

Die Gala deckte Aktivitäten wie die Generierung falscher Informationen, KI-Datenvergiftung, Manipulation von Rankings und böswilligen Wettbewerb unter Verwendung von GEO auf, was als wachsende Bedrohung für die Integrität großer KI-Modelle angesehen werde, berichtete Jiemian News.

Am Montag veröffentlichte Henan Henghui Hehuan auf seinem offiziellen WeChat-Konto eine Erklärung, in der es hieß, dass sich sein Produkt „Zhaixing GEO“ an den Grundsatz „Technologie für das Gute, Compliance an erster Stelle“ halte. Das Unternehmen ziehe „entschlossen eine klare Grenze zwischen sich selbst und illegalen Betreibern des Schwarz- und Graumarktes“.

Laut der Erklärung verpflichtete sich das Unternehmen, den Zufluss von Inhalten streng zu kontrollieren, den Einsatz digitaler Marketingtechniken oder gefälschter Zugriffe zur Verbesserung von Rankings entschieden abzulehnen und „keinerlei regelwidrigen GEO-Verhalten zu unterstützen, daran teilzunehmen oder zu tolerieren“. Die Erklärung forderte zudem Branchenkollegen auf, Integrität zu wahren, regelkonform zu handeln, fair zu konkurrieren und gemeinsam das KI- und Such-Ökosystem zu säubern.

Ein in Shanghai ansässiges Unternehmen, ABKE, veröffentlichte ebenfalls eine dringende Erklärung, in der es sich gegen jede Form von falscher Werbung, Datenfälschung oder böswilliger Manipulation von KI-Ergebnissen aussprach. In der Erklärung von ABKE hieß es, das Unternehmen beteilige sich nicht an, entwickle oder biete keine Dienste an, die in Branchenberichten als „Gehirnwäsche-KI“, „Manipulation von Standardantworten“ oder Schwarzmarktangebote zur „einwöchigen Ranking-Steigerung“ beschrieben werden.

Der CCTV-Bericht deckte auf, wie GEO-Tools, die ursprünglich zur Optimierung der Informationsveröffentlichung und zur Verbesserung der Werbewirksamkeit entwickelt wurden, zweckentfremdet werden können. Er zitierte einige Branchenakteure mit der Aussage, dass systematisch gezielte Falschinformationen in großem Umfang online gestellt werden könnten, um dann von KI-Trainings- und Abrufsystemen erfasst zu werden und anschließend als Antworten mit hoher Priorität auf Nutzeranfragen aufzutauchen.

Experten definieren „KI-Vergiftung“ als das absichtliche Einbringen erfundener Informationen – zum Beispiel gefälschte Expertenidentitäten oder vorgetäuschte Forschungsberichte – in das Informationsökosystem, damit KI-Systeme diese Unwahrheiten lernen und reproduzieren. Solche Akteure werden wegen ihres Potenzials, Korpusdaten zu verunreinigen, als „Vergifter“ bezeichnet.

Pan Helin, ein in Beijing ansässiger erfahrener Ökonomen, ist der Meinung, dass die Behörden das ökologische Umfeld für Internetinformationen aktiv verbessern, die Qualität der Internetinformationen steigern und das Angebot an objektiven, neutralen und wissenschaftlichen Informationen erhöhen sollten.

Im Januar bezeichnete die Staatliche Verwaltung für Marktregulierung KI-generierte Werbung ausdrücklich als eine zentrale Herausforderung für die Regulierung der Internetwerbung im Jahr 2026 und forderte eine verstärkte Überwachung und Steuerung solcher Praktiken.