Marken von Walt Disney Co, NBCUniversal und Coca-Cola Co bis hin zu einem Kinderkrankenhaus gehörten zu den mehr als 30 Werbetreibenden, die auf den Profilseiten von Twitter-Accounts auftauchten, die mit Links zu ausbeuterischem Material hausieren gingen. Dies geht aus einer von Reuters durchgeführten Überprüfung von Accounts hervor, die in einer neuen Untersuchung über sexuellen Kindesmissbrauch im Internet von der Cybersicherheitsgruppe Ghost Data identifiziert wurden.
Einige der Tweets enthalten Schlüsselwörter im Zusammenhang mit "Vergewaltigung" und "Teenager" und erschienen neben beworbenen Tweets von Werbetreibenden, so die Untersuchung von Reuters. In einem Beispiel erschien ein beworbener Tweet für die Schuh- und Accessoire-Marke Cole Haan neben einem Tweet, in dem ein Nutzer sagte, dass er mit "Teenager-/Kinder"-Inhalten handele.
"Wir sind entsetzt", sagte David Maddocks, Brand President bei Cole Haan, gegenüber Reuters, nachdem er darüber informiert wurde, dass die Werbung des Unternehmens neben solchen Tweets erschien. "Entweder wird Twitter das Problem beheben, oder wir werden es mit allen Mitteln beheben, was auch bedeutet, dass wir keine Twitter-Anzeigen kaufen.
In einem anderen Beispiel twitterte ein Nutzer, der nach Inhalten von "Yung girls ONLY, NO Boys" suchte, woraufhin sofort ein beworbener Tweet für das in Texas ansässige Scottish Rite Children's Hospital folgte. Scottish Rite hat mehrere Anfragen für einen Kommentar nicht beantwortet.
In einer Erklärung sagte die Twitter-Sprecherin Celeste Carswell, dass das Unternehmen "null Toleranz gegenüber der sexuellen Ausbeutung von Kindern" habe und mehr Ressourcen in die Sicherheit von Kindern investiere, einschließlich der Einstellung neuer Mitarbeiter, um Richtlinien zu schreiben und Lösungen zu implementieren.
Sie fügte hinzu, dass Twitter eng mit seinen Werbekunden und Partnern zusammenarbeitet, um den Vorfall zu untersuchen und Maßnahmen zu ergreifen, die verhindern, dass er sich wiederholt.
Über Twitters Probleme bei der Identifizierung von Inhalten, die den Missbrauch von Kindern zum Gegenstand haben, wurde erstmals Ende August in einer Untersuchung der Tech-Nachrichtenseite The Verge berichtet. Reuters berichtet hier zum ersten Mal über den sich abzeichnenden Widerstand von Werbekunden, die für Twitters Einnahmequellen entscheidend sind.
Wie alle Social Media Plattformen verbietet Twitter Darstellungen von sexueller Ausbeutung von Kindern, die in den meisten Ländern illegal sind. Aber es erlaubt generell Inhalte für Erwachsene und ist die Heimat eines florierenden Austauschs von pornografischen Bildern, die etwa 13% aller Inhalte auf Twitter ausmachen, wie aus einem internen Dokument des Unternehmens hervorgeht, das Reuters vorliegt.
Twitter lehnte es ab, sich zum Umfang der nicht jugendfreien Inhalte auf der Plattform zu äußern.
Ghost Data hat mehr als 500 Konten identifiziert, die über einen Zeitraum von 20 Tagen in diesem Monat offen Material über sexuellen Missbrauch von Kindern geteilt oder angefordert haben. Twitter hat es versäumt, mehr als 70% der Konten während des Untersuchungszeitraums zu entfernen, so die Gruppe, die die Ergebnisse exklusiv mit Reuters geteilt hat.
Reuters konnte die Richtigkeit der Ergebnisse von Ghost Data nicht unabhängig bestätigen, überprüfte aber Dutzende von Konten, die online blieben und Material für "13+" und "jung aussehende Nacktbilder" anforderten.
Nachdem Reuters am vergangenen Donnerstag eine Stichprobe von 20 Konten mit Twitter geteilt hatte, entfernte das Unternehmen etwa 300 weitere Konten aus dem Netzwerk, aber mehr als 100 weitere blieben laut Ghost Data und einer Reuters-Überprüfung am folgenden Tag noch auf der Seite.
Reuters teilte dann am Montag die vollständige Liste von mehr als 500 Konten, nachdem sie von Ghost Data zur Verfügung gestellt worden war, die Twitter überprüft und wegen Verletzung seiner Regeln dauerhaft gesperrt hatte, so Carswell von Twitter am Dienstag.
In einer E-Mail an Werbetreibende am Mittwochmorgen, noch vor der Veröffentlichung dieser Geschichte, sagte Twitter, es habe "entdeckt, dass Anzeigen innerhalb von Profilen liefen, die mit dem öffentlichen Verkauf oder der Aufforderung zum sexuellen Missbrauch von Kindern zu tun hatten".
Andrea Stroppa, der Gründer von Ghost Data, sagte, die Studie sei ein Versuch gewesen, die Fähigkeit von Twitter zu bewerten, das Material zu entfernen. Er sagte, er habe die Studie persönlich finanziert, nachdem er einen Tipp zu diesem Thema erhalten hatte.
Aus den Transparenzberichten auf der Twitter-Website geht hervor, dass das Unternehmen im vergangenen Jahr mehr als 1 Million Konten wegen sexueller Ausbeutung von Kindern gesperrt hat.
Dem National Center for Missing and Exploited Children, einer staatlich finanzierten gemeinnützigen Organisation, die den Informationsaustausch mit den Strafverfolgungsbehörden erleichtert, wurden laut dem Jahresbericht dieser Organisation etwa 87.000 Meldungen gemacht.
"Twitter muss dieses Problem so schnell wie möglich beheben. Solange das nicht geschieht, werden wir jede weitere bezahlte Aktivität auf Twitter einstellen", sagte ein Sprecher von Forbes.
"Es gibt keinen Platz für diese Art von Inhalten im Internet", sagte ein Sprecher des Autoherstellers Mazda USA in einer Erklärung gegenüber Reuters und fügte hinzu, dass das Unternehmen als Reaktion darauf nun verbietet, dass seine Anzeigen auf Twitter-Profilseiten erscheinen.
Ein Sprecher von Disney bezeichnete den Inhalt als "verwerflich" und sagte, man werde "unsere Anstrengungen verdoppeln, um sicherzustellen, dass die digitalen Plattformen, auf denen wir werben, und die Medienkäufer, die wir nutzen, ihre Bemühungen verstärken, um zu verhindern, dass sich solche Fehler wiederholen."
Ein Sprecher von Coca-Cola, das einen beworbenen Tweet auf einem von den Forschern verfolgten Konto erscheinen ließ, sagte, dass es das Material, das mit seiner Marke in Verbindung gebracht wird, nicht duldet und dass "jeder Verstoß gegen diese Standards inakzeptabel ist und sehr ernst genommen wird."
NBCUniversal sagte, es habe Twitter gebeten, die mit den unangemessenen Inhalten verbundenen Anzeigen zu entfernen.
CODE WORTS
Twitter ist nicht der einzige Anbieter, der mit Moderationsfehlern im Zusammenhang mit der Sicherheit von Kindern im Internet zu kämpfen hat. Kinderschützer sagen, dass die Zahl der bekannten Bilder von sexuellem Kindesmissbrauch in den letzten Jahren von Tausenden auf Zehnmillionen angestiegen ist, da Raubtiere soziale Netzwerke wie Metas Facebook und Instagram genutzt haben, um Opfer zu pflegen und explizite Bilder auszutauschen.
Bei den von Ghost Data identifizierten Konten haben fast alle Händler von Material über sexuellen Kindesmissbrauch das Material auf Twitter vermarktet und dann die Käufer angewiesen, sie über Messaging-Dienste wie Discord und Telegram zu erreichen, um die Zahlung abzuschließen und die Dateien zu erhalten, die auf Cloud-Speicherdiensten wie dem in Neuseeland ansässigen Mega und dem in den USA ansässigen Dropbox gespeichert waren, so der Bericht der Gruppe.
Ein Sprecher von Discord sagte, das Unternehmen habe einen Server und einen Nutzer gesperrt, weil sie gegen die Regeln verstoßen hätten, die das Teilen von Links oder Inhalten, die Kinder sexualisieren, verbieten.
Mega sagte, dass ein Link, auf den sich der Ghost Data-Bericht bezieht, Anfang August erstellt und kurz darauf von dem Nutzer gelöscht wurde, den es nicht identifizieren wollte. Mega sagte, dass es das Konto des Nutzers zwei Tage später dauerhaft geschlossen hat.
Dropbox und Telegram erklärten, dass sie eine Reihe von Tools zur Moderation von Inhalten verwenden, gaben aber keine weiteren Details an, wie sie auf den Bericht reagieren würden.
Dennoch stellt die Reaktion der Werbetreibenden ein Risiko für das Geschäft von Twitter dar, das mehr als 90 % seiner Einnahmen durch den Verkauf digitaler Werbeplatzierungen an Marken erzielt, die Produkte an die 237 Millionen täglich aktiven Nutzer des Dienstes vermarkten wollen.
Twitter kämpft auch vor Gericht mit dem Tesla-CEO und Milliardär Elon Musk, der versucht, aus einem 44 Milliarden Dollar schweren Deal zum Kauf des Social Media-Unternehmens auszusteigen, weil er sich über die Verbreitung von Spam-Konten und deren Auswirkungen auf das Geschäft beschwert.
Ein Team von Twitter-Mitarbeitern kam in einem Bericht vom Februar 2021 zu dem Schluss, dass das Unternehmen mehr investieren müsse, um Material zur Ausbeutung von Kindern in großem Umfang zu identifizieren und zu entfernen, und wies darauf hin, dass das Unternehmen einen Rückstau an Fällen habe, die für eine mögliche Meldung an die Strafverfolgungsbehörden zu überprüfen seien.
"Während die Menge an (Inhalten zur sexuellen Ausbeutung von Kindern) exponentiell zugenommen hat, hat Twitter nicht in Technologien investiert, um das Wachstum zu erkennen und zu bewältigen", heißt es in dem Bericht, der von einem internen Team erstellt wurde, das einen Überblick über den Stand des Materials zur sexuellen Ausbeutung von Kindern auf Twitter geben und rechtlichen Rat zu den vorgeschlagenen Strategien einholen sollte.
"Die jüngsten Berichte über Twitter bieten einen veralteten, zeitlich begrenzten Blick auf nur einen Aspekt unserer Arbeit in diesem Bereich und spiegeln nicht genau wider, wo wir heute stehen", sagte Carswell.
Die Menschenhändler verwenden oft Codewörter wie "cp" für Kinderpornographie und sind "absichtlich so vage wie möglich", um nicht entdeckt zu werden, so die internen Dokumente. Je härter Twitter gegen bestimmte Schlüsselwörter vorgeht, desto mehr werden die Nutzer dazu gedrängt, verschleierte Texte zu verwenden, die "tendenziell schwieriger für (Twitter) zu automatisieren sind", heißt es in den Dokumenten.
Stroppa von Ghost Data sagte, dass solche Tricks die Suche nach dem Material erschweren würden, wies aber darauf hin, dass sein kleines Team von fünf Forschern ohne Zugang zu den internen Ressourcen von Twitter in der Lage war, innerhalb von 20 Tagen Hunderte von Konten zu finden.
Twitter reagierte nicht auf eine Bitte um weitere Kommentare. (Berichte von Sheila Dang in New York und Katie Paul in Palo Alto; weitere Berichte von Dawn Chmielewski in Los Angeles; Bearbeitung durch Kenneth Li und Edward Tobin)
