Musk versprach, Twitter von Kindesmissbrauchsinhalten zu befreien. Es war ein hartes Stück Arbeit.

Über 120.000 Aufrufe eines Bildes, das einen sexuellen Übergriff zeigt. Eine Empfehlungsmaschine, die vorschlägt, dass ein Benutzer Inhalten folgt, die sich auf ausgebeutete Kinder beziehen. Benutzer veröffentlichen ständig missbräuchliches Material, Verzögerungen bei der Entfernung, wenn es entdeckt wird, und Reibungen mit Organisationen, die es überwachen.

Alles, seit Elon Musk Ende November in einem Tweet erklärte, dass „die Beseitigung der Ausbeutung von Kindern Priorität Nr. 1 ist“.

Ella Irwin, Sicherheitschefin von Twitter, sagte, dass sie unter Mr. Musks Besitz schnell vorgegangen sei, um Material zum sexuellen Missbrauch von Kindern zu bekämpfen, das auf der Website – wie auf den meisten Technologieplattformen – unter den Vorbesitzern weit verbreitet war. „Twitter 2.0“ wird anders, versprach das Unternehmen.

Eine Überprüfung der New York Times ergab jedoch, dass die Bilder, die allgemein als Kinderpornografie bekannt sind, auf der Plattform bestehen blieben, darunter weit verbreitetes Material, das die Behörden als am einfachsten zu erkennen und zu beseitigen erachten.

Nachdem Herr Musk Ende Oktober die Zügel übernommen hatte, eliminierte oder verlor Twitter Mitarbeiter, die mit dem Problem vertraut waren, weitgehend und konnte die Verbreitung von zuvor von den Behörden identifizierten Missbrauchsbildern nicht verhindern, wie die Überprüfung zeigt. Twitter hat auch aufgehört, für einige Erkennungssoftware zu zahlen, die als Schlüssel zu seinen Bemühungen angesehen wird.

Währenddessen diskutieren Leute in Dark-Web-Foren, wie Twitter eine Plattform bleibt, auf der sie das Material leicht finden können, ohne entdeckt zu werden, laut Transkripten dieser Foren von einer Anti-Missbrauchs-Gruppe, die sie überwacht.

„Wenn Sie Kanalratten hereinlassen“, sagte Julie Inman Grant, Australiens Online-Sicherheitskommissarin, „wissen Sie, dass die Pest kommen wird.“

In einem Twitter-Audio-Chat mit Frau Irwin Anfang Dezember sagte ein unabhängiger Forscher, der mit Twitter zusammenarbeitet, dass illegale Inhalte seit Jahren öffentlich auf der Plattform verfügbar sind und Millionen von Aufrufen erhalten haben. Aber Ms. Irwin und andere bei Twitter sagten, ihre Bemühungen unter Mr. Musk würden sich auszahlen. Während des ersten vollen Monats des neuen Eigentümers sperrte das Unternehmen fast 300.000 Konten wegen Verstoßes gegen die Richtlinien zur „sexuellen Ausbeutung von Kindern“, 57 Prozent mehr als gewöhnlich, sagte das Unternehmen.

Die beschleunigten Bemühungen im Januar, sagte Twitter, als 404.000 Konten gesperrt wurden. „Unser jüngster Ansatz ist aggressiver“, erklärte das Unternehmen am Mittwoch in einer Reihe von Tweets und sagte, es sei auch hart gegen Personen vorgegangen, die nach dem ausbeuterischen Material suchen, und habe die erfolgreichen Suchen seit Dezember um 99 Prozent reduziert.

Frau Irwin sagte in einem Interview, dass der Großteil der Sperrungen Konten betraf, die sich mit dem Material befassten oder behaupteten, es zu verkaufen oder zu verteilen, und nicht diejenigen, die es veröffentlichten. Sie bestritt nicht, dass Inhalte des sexuellen Missbrauchs von Kindern weiterhin offen auf der Plattform verfügbar sind, und sagte, dass „wir absolut wissen, dass uns immer noch einige Dinge fehlen, die wir besser erkennen können müssen“.

Sie fügte hinzu, Twitter stelle Mitarbeiter ein und setze „neue Mechanismen“ ein, um das Problem zu bekämpfen. „Wir haben ununterbrochen daran gearbeitet“, sagte sie.

Wired, NBC und andere haben die anhaltenden Kämpfe von Twitter mit Bildern von Kindesmissbrauch unter Mr. Musk detailliert beschrieben. Am Dienstag bat Senator Richard J. Durbin, Demokrat aus Illinois, das Justizministerium, die Aufzeichnungen von Twitter zur Behandlung des Problems zu überprüfen.

Um die Fortschrittsbehauptungen des Unternehmens zu bewerten, erstellte The Times ein individuelles Twitter-Konto und schrieb ein automatisiertes Computerprogramm, das die Plattform nach Inhalten durchsuchen konnte, ohne die eigentlichen Bilder anzuzeigen, deren Anzeige illegal ist. Das Material war nicht schwer zu finden. Tatsächlich hat Twitter durch seinen Empfehlungsalgorithmus dazu beigetragen, es zu fördern – eine Funktion, die Konten vorschlägt, denen man auf der Grundlage der Benutzeraktivität folgen kann.

Unter den Empfehlungen war ein Konto, das ein Profilbild in oberkörperfreier Länge enthielt. Das Kind auf dem Foto ist laut dem Canadian Centre for Child Protection ein bekanntes Opfer sexuellen Missbrauchs, das dabei half, ausbeuterisches Material auf der Plattform für The Times zu identifizieren, indem es es mit einer Datenbank mit zuvor identifizierten Bildern abgeglichen hat.

Derselbe Benutzer folgte anderen verdächtigen Konten, darunter einem, der ein Bild von Jungen „geliked“ hatte, die eine andere Länge sexuell angreifen. Bis zum 19. Januar hatte das Bild, das seit mehr als einem Monat auf Twitter war, mehr als 122.000 Aufrufe, fast 300 Retweets und mehr als 2.600 Likes erhalten. Twitter entfernte das Bild später, nachdem das kanadische Zentrum es für das Unternehmen gemeldet hatte.

In den ersten Stunden der Suche fand das Computerprogramm eine Reihe von Bildern, die zuvor als missbräuchlich identifiziert wurden – und Konten, die weitere Verkäufe anboten. Die Times markierte die Posts, ohne Bilder anzusehen, und schickte die Webadressen an Dienste, die von Microsoft und dem kanadischen Zentrum betrieben werden.

Ein Konto bot Ende Dezember ein vergünstigtes „Weihnachtspaket“ mit Fotos und Videos an. Dieser Benutzer twitterte ein teilweise verdecktes Bild eines Kindes, das von etwa 8 Jahren bis zur Jugend missbraucht worden war. Twitter entfernte den Post fünf Tage später, aber erst, nachdem das kanadische Zentrum dem Unternehmen wiederholte Mitteilungen geschickt hatte.

Insgesamt fand das Computerprogramm Bilder von 10 Opfern, die über 150 Mal auf mehreren Konten auftauchten, zuletzt am Donnerstag. Die begleitenden Tweets bewarben oft Videos von Kindesvergewaltigungen und enthielten Links zu verschlüsselten Plattformen.

Alex Stamos, Direktor des Stanford Internet Observatory und ehemaliger Top-Sicherheitsmanager bei Facebook, fand die Ergebnisse alarmierend. „In Anbetracht des Fokus, den Musk auf die Sicherheit von Kindern gelegt hat, ist es überraschend, dass sie nicht die Grundlagen tun“, sagte er.

Unabhängig davon führte das kanadische Zentrum zur Bestätigung der Ergebnisse von The Times einen Test durch, um festzustellen, wie oft eine Bildserie mit bekannten Opfern auf Twitter erschien. Analysten fanden 31 verschiedene Videos, die von mehr als 40 Konten geteilt wurden, von denen einige retweetet und tausendfach geliked wurden. Die Videos zeigten einen jungen Teenager, der online erpresst worden war, sich über einen Zeitraum von Monaten an sexuellen Handlungen mit einem vorpubertären Kind zu beteiligen.

Das Zentrum führte auch einen umfassenderen Scan gegen die explizitesten Videos in seiner Datenbank durch. Es gab mehr als 260 Zugriffe mit mehr als 174.000 Likes und 63.000 Retweets.

„Das Volumen, das wir mit minimalem Aufwand finden können, ist ziemlich beachtlich“, sagte Lloyd Richardson, der Technologiedirektor des kanadischen Zentrums. „Es sollte nicht die Aufgabe externer Personen sein, diese Art von Inhalten auf ihrem System zu finden.“

Im Jahr 2019 berichtete The Times, dass viele Technologieunternehmen ernsthafte Lücken bei der Überwachung der Ausbeutung von Kindern auf ihren Plattformen hatten. Im vergangenen Dezember führte Frau Inman Grant, die australische Online-Sicherheitsbeauftragte, eine Prüfung durch, bei der festgestellt wurde, dass viele der gleichen Probleme bei einer Stichprobe von Technologieunternehmen bestehen blieben.

Die australische Überprüfung umfasste Twitter nicht, aber einige der Schwierigkeiten der Plattform ähneln denen anderer Technologieunternehmen und liegen laut mehreren aktuellen und ehemaligen Mitarbeitern vor Mr. Musks Ankunft.

Twitter, das 2006 gegründet wurde, begann im vergangenen Herbst mit der Verwendung eines umfassenderen Tools zum Scannen nach Videos von sexuellem Missbrauch von Kindern, sagten sie, und das Engineering-Team, das sich der Suche nach illegalen Fotos und Videos widmet, wurde erst 10 Monate zuvor gegründet. Darüber hinaus sind die Vertrauens- und Sicherheitsteams des Unternehmens ständig unterbesetzt, obwohl das Unternehmen sie trotz eines breiten Einstellungsstopps, der im vergangenen April begann, weiter ausbaute, sagten vier ehemalige Mitarbeiter.

Im Laufe der Jahre hat das Unternehmen interne Tools entwickelt, um einige Bilder zu finden und zu entfernen, und das nationale Zentrum lobte das Unternehmen oft für die Gründlichkeit seiner Berichte.

Die Plattform hatte in den letzten Monaten auch Probleme mit ihrem Missbrauchsmeldesystem, das es Benutzern ermöglicht, das Unternehmen zu benachrichtigen, wenn sie auf Material zur Ausbeutung von Kindern stoßen. (Twitter bietet einen Leitfaden zum Melden missbräuchlicher Inhalte auf seiner Plattform.)

Die Times nutzte ihr Forschungskonto, um mehrere Profile zu melden, die behaupteten, die Inhalte im Dezember und Januar zu verkaufen oder zu handeln. Viele der Accounts blieben aktiv und erschienen sogar als Empfehlungen für den eigenen Account der Times. Das Unternehmen sagte, es würde mehr Zeit brauchen, um herauszufinden, warum solche Empfehlungen erscheinen würden.

Um das Material zu finden, verlässt sich Twitter auf eine Software, die von einer Anti-Trafficking-Organisation namens Thorn entwickelt wurde. Twitter hat die Organisation nicht bezahlt, seit Mr. Musk laut mit der Beziehung vertrauten Personen vermutlich einen Teil seiner größeren Bemühungen zur Kostensenkung übernommen hat. Twitter hat auch aufgehört, mit Thorn zusammenzuarbeiten, um die Technologie zu verbessern. Die Zusammenarbeit hatte branchenweite Vorteile, da andere Unternehmen die Software nutzen.

Frau Irwin lehnte es ab, sich zu den Geschäften von Twitter mit bestimmten Anbietern zu äußern.

Die Beziehung von Twitter zum Nationalen Zentrum für vermisste und ausgebeutete Kinder hat sich laut den dort arbeitenden Personen ebenfalls ausgewirkt.

John Shehan, ein leitender Angestellter des Zentrums, sagte, er sei besorgt über die „hohe Fluktuation“ bei Twitter und darüber, wo das Unternehmen „in Vertrauen und Sicherheit und seiner Verpflichtung steht, Material über sexuellen Missbrauch von Kindern zu identifizieren und von seiner Plattform zu entfernen“.

Nach dem Übergang in den Besitz von Herrn Musk reagierte Twitter nach Angaben des Zentrums zunächst langsamer auf die Benachrichtigungen des Zentrums über sexuelle Missbrauchsinhalte, eine Verzögerung, die für Missbrauchsüberlebende von großer Bedeutung ist, die mit jedem neuen Beitrag erneut viktimisiert werden. Twitter hat wie andere Social-Media-Sites eine wechselseitige Beziehung zum Zentrum. Die Website benachrichtigt das Zentrum (das dann die Strafverfolgungsbehörden benachrichtigen kann), wenn sie auf illegale Inhalte aufmerksam wird. Und wenn das Zentrum von illegalen Inhalten auf Twitter erfährt, benachrichtigt es die Website, damit die Bilder und Konten entfernt werden können.

Ende letzten Jahres war die Reaktionszeit des Unternehmens mehr als doppelt so hoch wie im gleichen Zeitraum ein Jahr zuvor unter dem früheren Eigentümer, obwohl das Zentrum weniger Benachrichtigungen gesendet hatte. Im Dezember 2021 brauchte Twitter durchschnittlich 1,6 Tage, um auf 98 Mitteilungen zu reagieren; Letzten Dezember, nachdem Mr. Musk das Unternehmen übernommen hatte, dauerte es 3,5 Tage, um auf 55 zu antworten. Im Januar hatte es sich stark verbessert und es dauerte 1,3 Tage, um auf 82 zu antworten.

Das kanadische Zentrum, das in diesem Land die gleiche Funktion erfüllt, sagte, es habe Verzögerungen von bis zu einer Woche gegeben. In einem Fall entdeckte das kanadische Zentrum am 6. Januar ein Bild, das den Missbrauch eines nackten Mädchens im Alter von 8 bis 10 Jahren zeigte. Die Organisation sagte, sie habe etwa eine Woche lang täglich Benachrichtigungen verschickt, bevor Twitter das Bild entfernte.

Darüber hinaus scheinen Twitter und das US National Center uneins über die Verpflichtung von Twitter zu sein, Accounts zu melden, die behaupten, illegales Material zu verkaufen, ohne es direkt zu posten.

Das Unternehmen hat dem nationalen Zentrum die Hunderttausende von Konten, die es gesperrt hat, nicht gemeldet, weil die Regeln verlangen, dass sie „hohes Vertrauen haben, dass die Person die illegalen Bilder wissentlich überträgt“, und diese Konten diese Schwelle nicht erreicht haben, Frau Irwin genannt.

Herr Shehan vom nationalen Zentrum bestritt diese Auslegung der Regeln und stellte fest, dass Technologieunternehmen auch gesetzlich verpflichtet sind, Benutzer zu melden, selbst wenn sie nur behaupten, das Material zu verkaufen oder zu erbitten. Bislang, so zeigen die Daten des nationalen Zentrums, hat Twitter monatlich etwa 8.000 Meldungen gemacht, ein kleiner Bruchteil der Konten, die es gesperrt hat.

Frau Inman Grant, die australische Aufsichtsbehörde, sagte, sie sei nicht in der Lage gewesen, mit den örtlichen Vertretern des Unternehmens zu kommunizieren, weil die Kontakte ihrer Agentur in Australien gekündigt oder entlassen worden seien, seit Mr. Musk übernommen habe. Sie befürchtete, dass der Personalabbau zu mehr Handel mit ausbeuterischen Bildern führen könnte.

„Diese lokalen Kontakte spielen eine wichtige Rolle bei der Behandlung zeitkritischer Angelegenheiten“, sagte Frau Inman Grant, die zuvor Sicherheitsbeauftragte bei Twitter und Microsoft war.

Frau Irwin sagte, dass das Unternehmen weiterhin mit der australischen Agentur in Kontakt stehe, und allgemein drückte sie ihre Zuversicht aus, dass Twitter „sehr viel besser wird“, während sie die bevorstehenden Herausforderungen anerkennt.

„Wir klopfen uns auf keinen Fall auf die Schulter und sagen: ‚Mann, wir haben das auf den Punkt gebracht’“, sagte Frau Irwin.

Straftäter tauschen weiterhin Tipps in Dark-Web-Foren darüber aus, wie sie das Material auf Twitter finden können, laut Beiträgen, die vom kanadischen Zentrum gefunden wurden.

Am 12. Januar beschrieb ein Benutzer, dass er Hunderten von „legitimen“ Twitter-Konten folgte, die Videos von Jungen verkauften, die dazu verleitet wurden, explizite Aufnahmen von sich selbst zu senden. Ein anderer Benutzer stellte Twitter als einen einfachen Ort vor, um Videos über sexuellen Missbrauch aller Art anzusehen. „Die Leute teilen so viel“, schrieb der Benutzer.

Ryan Mac und Chang Che trugen zur Berichterstattung bei.