Google verschärft Maßnahmen gegen Deepfake-Pornografie

Um Deepfakes, insbesondere in sexualisierten Kontexten, entgegenzuwirken, vereinfacht Google das Entfernen und passt das Ranking-System an.

Google hat in letzter Zeit durch seine neuen generativen KI-Features und die Ankündigung, das Support-Ende für Third Party Cookies bei Chrome doch nicht einzuführen, auf sich aufmerksam gemacht. Trotz dieser Entwicklungen bleibt Google für viele Nutzer das Synonym für Internetsuche – eine Suche, die Google kontinuierlich verändert. So überraschte das Unternehmen im Juni mit dem Ende des Continuous Scrolling und dem Abschluss des June 2024 Spam Updates. Jetzt gibt es ein weiteres Ranking-Update, das auf ein spezifisches und wachsendes Problem reagiert.

Google und der Kampf gegen Fake Content und sexualisierte Deepfakes

Im März führte Google neue Spam-Richtlinien ein, um illegitime Inhalte aus den Suchergebnissen auszuschließen. Allerdings werden nicht nur Fake News, sondern auch andere Fake-Inhalte, einschließlich sexualisierter Deepfakes, auf verschiedenen Plattformen, auch Google, verbreitet. Die rasante Entwicklung generativer KI erleichtert dies zusätzlich. Besonders problematisch ist der Anstieg an KI-generierten, sexualisierten Deepfakes, die ohne Einwilligung der abgebildeten Personen verbreitet werden.

Emma Higham, Product Manager bei Google, erläutert auf dem Blog “the Keyword”:

„Da sich die Technologie zur Generierung von Bildern in den letzten Jahren stetig verbessert hat, gibt es einen besorgniserregenden Anstieg an generierten Bildern und Videos, die Menschen in sexuell expliziten Kontexten darstellen und ohne deren Zustimmung im Internet verbreitet werden.“

Um diesem Problem zu begegnen, hat Google den Prozess zur Entfernung solcher Inhalte aus den Suchergebnissen vereinfacht. Wird eine Anfrage zur Entfernung von nicht einvernehmlich geteilter Fake-Pornografie erfolgreich bearbeitet, sollen Googles Systeme auch ähnliche Suchanfragen filtern und entsprechende Inhalte entfernen. Auch Duplikate sollen nach einem Scan erkannt und sofort entfernt werden.

Darüber hinaus passt Google das Ranking-System an, um bei Suchanfragen mit einem erhöhten Risiko für die Anzeige von Fake-Pornografie das Anzeigerisiko zu minimieren. Highham erklärt:

„Bei Suchanfragen, die spezifisch nach diesem Inhalt suchen und Namen von Personen enthalten, werden wir versuchen, qualitativ hochwertige, nicht explizite Inhalte – wie relevante Nachrichtenartikel – anzuzeigen, sofern verfügbar. Die Updates, die wir in diesem Jahr vorgenommen haben, haben die Anzeige expliziter Bildergebnisse bei diesen Suchanfragen um über 70 % reduziert. Mit diesen Änderungen können Menschen über die Auswirkungen von Deepfakes auf die Gesellschaft lesen, anstatt Seiten mit nicht einvernehmlichen Fake-Bildern zu sehen.“

Google versucht auch, legitime pornografische Inhalte besser von Fake-Porn zu unterscheiden und letztere schlechter zu ranken. Webseiten, die eine hohe Anzahl an Entfernungen von Inhalten aufweisen, werden von der Suchmaschine aktiv abgewertet. Angesichts der kontinuierlichen Entwicklung neuer KI-Features und der Integration von AI Overviews in die Standardsuche, wird es für Google immer schwieriger, gegen Spam, Fake Porn, Deepfakes und Co. vorzugehen. Deshalb sind umfangreiche Sicherheitssysteme im Interesse der Nutzer von großer Bedeutung.

Fazit

Google nimmt den Kampf gegen nicht einvernehmlich geteilte sexualisierte Deepfakes ernst und hat Maßnahmen zur besseren Entfernung und Anpassung des Ranking-Systems ergriffen. Diese Maßnahmen sollen die Verbreitung solcher Inhalte minimieren und die Nutzer vor schädlichen und nicht legitimen Inhalten schützen. Mit kontinuierlichen Updates und verbesserten Sicherheitssystemen strebt Google danach, die Integrität seiner Suchergebnisse zu wahren und ein sichereres Internet zu gewährleisten.