„Ein unsichtbarer Käfig“: Wie China die Zukunft überwacht

0 39

Unterstützt durch

Lesen Sie die Hauptgeschichte weiter

„Ein unsichtbarer Käfig“: Wie China die Zukunft überwacht

  • Schicken Sie jedem Freund eine Geschichte

    Als Abonnent haben Sie 10 Geschenkartikel jeden Monat zu geben. Jeder kann lesen, was Sie teilen.

    Geben Sie diesen Artikel
  • Lesen Sie in der App

Durch Paul Mozur, Muyi Xiaound John Liu

25. Juni 2022
阅读简体中文版

Die mehr als 1,4 Milliarden Menschen, die in China leben, werden ständig überwacht. Sie werden von Polizeikameras aufgezeichnet, die überall sind, an Straßenecken und U-Bahn-Decken, in Hotellobbys und Wohnhäusern. Ihre Telefone werden verfolgt, ihre Einkäufe überwacht und ihre Online-Chats werden zensiert.

Jetzt wird sogar ihre Zukunft überwacht.

Die neueste Generation von Technologie durchforstet die riesigen Datenmengen, die über ihre täglichen Aktivitäten gesammelt werden, um Muster und Abweichungen zu finden, die versprechen, Verbrechen oder Proteste vorherzusagen, bevor sie passieren. Sie zielen in den Augen der chinesischen Regierung auf potenzielle Unruhestifter – nicht nur auf Menschen mit krimineller Vergangenheit, sondern auch auf gefährdete Gruppen, darunter ethnische Minderheiten, Wanderarbeiter und Menschen mit einer Vorgeschichte von psychischen Erkrankungen.

Sie können die Polizei warnen, wenn ein Opfer eines Betrugs versucht, nach Peking zu reisen, um bei der Regierung einen Zahlungsantrag zu stellen, oder wenn ein Drogenkonsument zu oft dieselbe Nummer anruft. Sie können den Beamten jedes Mal signalisieren, wenn sich eine Person mit einer Vorgeschichte einer psychischen Erkrankung einer Schule nähert.

Um den digitalen Stolperdrähten auszuweichen, bedarf es umfangreicher Ausweichmanöver. In der Vergangenheit konnte Zhang Yuqiao, ein 74-jähriger Mann, der die meiste Zeit seines Erwachsenenlebens Petitionen an die Regierung gerichtet hat, einfach die Hauptverkehrsstraßen meiden, um den Behörden auszuweichen, und sich auf den Weg nach Peking machen, um für eine Entschädigung zu kämpfen Folter seiner Eltern während der Kulturrevolution. Jetzt schaltet er seine Telefone aus, bezahlt bar und kauft mehrere Zugtickets zu falschen Zielen.

Obwohl weitgehend unbewiesen, erweitern die neuen chinesischen Technologien, die in Beschaffungs- und anderen Dokumenten, die von der New York Times überprüft wurden, detailliert sind, die Grenzen sozialer und politischer Kontrolle und integrieren sie immer tiefer in das Leben der Menschen. Im einfachsten Fall rechtfertigen sie die Erstickung der Überwachung und verletzen die Privatsphäre, während sie im Extremfall die Gefahr einer Automatisierung systemischer Diskriminierung und politischer Unterdrückung eingehen.

Überwachungskameras wurden im April in einem Wohngebiet in Mudanjiang, Provinz Heilongjiang, aufgestellt. Anerkennung… China Daily/Über Reuters

Für die Regierung ist die soziale Stabilität von größter Bedeutung und jede Bedrohung muss beseitigt werden. Während seines Jahrzehnts als Chinas oberster Führer hat Xi Jinping den Sicherheitsstaat verhärtet und zentralisiert, eine techno-autoritäre Politik entfesselt, um ethnische Unruhen in der westlichen Region von Xinjiang zu unterdrücken und einige der schwersten Coronavirus-Lockdowns der Welt durchzusetzen. Der immer begrenzte Raum für abweichende Meinungen verschwindet schnell.

„Big Data sollte als Motor für die innovative Entwicklung der öffentlichen Sicherheitsarbeit und als neuer Wachstumspunkt für die Förderung der Kampffähigkeiten genutzt werden“, sagte Herr Xi 2019 bei einem nationalen Arbeitstreffen für öffentliche Sicherheit.

Die Algorithmen, die in anderen Ländern umstritten wären, werden oft als Triumphe ausposaunt.

Im Jahr 2020 lehnten die Behörden in Südchina den Antrag einer Frau ab, nach Hongkong zu ziehen, um mit ihrem Ehemann zusammen zu sein, nachdem eine Software sie darauf aufmerksam gemacht hatte, dass die Ehe verdächtig sei, berichtete die örtliche Polizei. Eine anschließende Untersuchung ergab, dass die beiden nicht oft zur gleichen Zeit am selben Ort waren und die Frühlingsfestferien nicht zusammen verbracht hatten. Die Polizei stellte fest, dass die Eheschließung vorgetäuscht worden war, um eine Einwanderungserlaubnis zu erhalten.

Im selben Jahr veranlasste in Nordchina eine automatische Warnung über das häufige Betreten eines Wohngebiets durch einen Mann mit verschiedenen Begleitern die Polizei zu Ermittlungen. Laut staatlichen Medien entdeckten sie, dass er Teil eines Pyramidensystems war.

Die Einzelheiten dieser neuen Sicherheitstechnologien werden in Forschungsberichten der Polizei, Patenten und Präsentationen von Überwachungsunternehmen sowie in Hunderten von Dokumenten zur öffentlichen Auftragsvergabe beschrieben, die von The Times geprüft und bestätigt wurden. Viele der Beschaffungsdokumente wurden von ChinaFile geteilt, einem von der Asia Society herausgegebenen Online-Magazin, das systematisch jahrelange Aufzeichnungen auf Regierungswebsites gesammelt hat. Ein weiteres Set, das Software beschreibt, die von den Behörden in der Hafenstadt Tianjin gekauft wurde, um Petenten daran zu hindern, ins benachbarte Peking zu gehen, wurde von IPVM, einer Veröffentlichung der Überwachungsindustrie, bereitgestellt.

Das chinesische Ministerium für öffentliche Sicherheit reagierte nicht auf Anfragen nach Kommentaren, die per Fax an sein Hauptquartier in Peking und sechs lokale Abteilungen im ganzen Land gesendet wurden.

Der neue Überwachungsansatz basiert teilweise auf datengesteuerter Polizeisoftware aus den Vereinigten Staaten und Europa, einer Technologie, von der Rechtegruppen sagen, dass sie Rassismus in Entscheidungen kodiert hat, z. B. welche Nachbarschaften am stärksten überwacht werden und welche Gefangenen auf Bewährung entlassen werden. China treibt es auf die Spitze und zapft landesweite Datenreservoirs an, die es der Polizei ermöglichen, undurchsichtig und ungestraft zu operieren.

Eine Analyse der New York Times von über 100.000 Bewerbungsdokumenten der Regierung ergab, dass Chinas Bestreben, digitale und biologische Daten seiner Bürger zu sammeln, umfassender und invasiver ist als bisher bekannt.

Oft wissen die Leute nicht, dass sie beobachtet werden. Die Polizei sieht sich kaum einer externen Prüfung der Wirksamkeit der Technologie oder der von ihr veranlassten Maßnahmen ausgesetzt. Die chinesischen Behörden verlangen keine Durchsuchungsbefehle zur Erhebung personenbezogener Daten.

Am blutigsten Rand werfen die Systeme ständige Science-Fiction-Rätsel auf: Wie ist es möglich zu wissen, dass die Zukunft genau vorhergesagt wurde, wenn die Polizei eingreift, bevor sie passiert?

Selbst wenn die Software nicht auf menschliches Verhalten schließen kann, kann sie als erfolgreich angesehen werden, da die Überwachung selbst Unruhen und Kriminalität hemmt, sagen Experten.

„Dies ist ein unsichtbarer Technologiekäfig, der der Gesellschaft auferlegt wird“, sagte Maya Wang, eine leitende China-Forscherin bei Human Rights Watch, „deren unverhältnismäßige Hauptlast Gruppen von Menschen zu spüren bekommen, die in der chinesischen Gesellschaft bereits stark diskriminiert werden.“

Produkte von Megvii, einem Start-up-Unternehmen für künstliche Intelligenz, ausgestellt in einem Ausstellungszentrum der Technologiebranche in Peking. Anerkennung… Florence Lo/Reuters

„Nirgendwo zu verstecken“

2017 hatte einer der bekanntesten Unternehmer Chinas eine kühne Vision für die Zukunft: ein Computersystem, das Verbrechen vorhersagen könnte.

Der Unternehmer Yin Qi, der Megvii, ein Start-up-Unternehmen für künstliche Intelligenz, gründete, sagte den chinesischen Staatsmedien, das Überwachungssystem könne der Polizei eine Suchmaschine für Kriminalität bieten, riesige Mengen an Bildmaterial analysieren, um Muster zu erkennen und die Behörden vor Verdächtigen zu warnen Verhalten. Er erklärte, wenn Kameras erkennen, dass eine Person zu viel Zeit an einem Bahnhof verbringt, könnte das System einen möglichen Taschendieb markieren.

„Es wäre beängstigend, wenn tatsächlich Leute hinter der Kamera zuschauen würden, aber dahinter steckt ein System“, sagte Herr Yin. „Es ist wie die Suchmaschine, mit der wir jeden Tag im Internet surfen – es ist sehr neutral. Es soll wohlwollend sein.“

Er fügte hinzu, dass bei einer solchen Überwachung „die Bösen sich nirgendwo verstecken können“.

Fünf Jahre später wird seine Vision langsam Wirklichkeit. Interne Megvii-Präsentationen, die von The Times überprüft wurden, zeigen, wie die Produkte des Start-ups vollständige digitale Dossiers für die Polizei zusammenstellen.

„Bauen Sie eine multidimensionale Datenbank auf, die Gesichter, Fotos, Autos, Fälle und Vorfallaufzeichnungen speichert“, heißt es in einer Beschreibung eines Produkts mit dem Namen „intelligente Suche“. Die Software analysiert die Daten, um „gewöhnliche Menschen auszugraben, die unschuldig erscheinen“, um „illegale Handlungen in der Wiege zu ersticken“.

Ein Megvii-Sprecher sagte in einer per E-Mail gesendeten Erklärung, dass sich das Unternehmen der verantwortungsvollen Entwicklung künstlicher Intelligenz verschrieben habe und dass es darum gehe, das Leben sicherer und bequemer zu machen, und „nicht darum, eine bestimmte Gruppe oder Einzelperson zu überwachen“.

Eine interne Präsentationsfolie für das Produkt „intelligente Suche“ von Megvii. Balkendiagramme sortieren Gruppen von überwachten Personen nach Kategorie.

Ähnliche Technologien werden bereits eingesetzt. Im Jahr 2022 kaufte die Polizei in Tianjin eine Software des Megvii-Konkurrenten Hikvision, die darauf abzielt, Proteste vorherzusagen. Das System sammelt Daten über Heerscharen chinesischer Petenten, ein allgemeiner Begriff in China, der Menschen beschreibt, die versuchen, Beschwerden über lokale Beamte bei höheren Behörden einzureichen.

Anschließend bewertet es die Petenten nach der Wahrscheinlichkeit, dass sie nach Peking reisen werden. Künftig sollen die Daten zum Trainieren von Machine-Learning-Modellen verwendet werden, heißt es in einem Beschaffungsdokument.

Lokale Beamte wollen solche Reisen verhindern, um politische Verlegenheit oder die Aufdeckung von Fehlverhalten zu vermeiden. Und die Zentralregierung will nicht, dass sich Gruppen verärgerter Bürger in der Hauptstadt versammeln.

Ein Hikvision-Vertreter lehnte es ab, sich zu dem System zu äußern.

Unter Herrn Xi sind die offiziellen Bemühungen zur Kontrolle der Petenten zunehmend invasiv geworden. Zekun Wang, ein 32-jähriges Mitglied einer Gruppe, die jahrelang Wiedergutmachung wegen eines Immobilienbetrugs suchte, sagte, die Behörden hätten 2017 Mitbewerber in Shanghai abgefangen, bevor sie überhaupt Tickets nach Peking kaufen konnten. Er vermutete, dass die Behörden ihre Kommunikation auf der Social-Media-App WeChat beobachteten.

Das Hikvision-System in Tianjin, das in Zusammenarbeit mit der Polizei im nahe gelegenen Peking und in der Provinz Hebei betrieben wird, ist ausgefeilter.

Die Plattform analysiert die Wahrscheinlichkeit, dass Personen Anträge stellen, basierend auf ihren sozialen und familiären Beziehungen, vergangenen Reisen und persönlichen Situationen gemäß dem Beschaffungsdokument. Es hilft der Polizei, ein Profil von jedem zu erstellen, mit Feldern für Beamte, um das Temperament des Demonstranten zu beschreiben, einschließlich „paranoid“, „akribisch“ und „aufbrausend“.

Viele Menschen, die eine Petition wegen der missbräuchlichen Behandlung eines tragischen Unfalls durch die Regierung oder wegen Vernachlässigung in dem Fall einreichen, gehen in den Algorithmus ein. „Erhöhen Sie das Frühwarnrisikoniveau einer Person, wenn sie einen niedrigen sozialen Status hat oder eine größere Tragödie erlebt hat“, heißt es im Beschaffungsdokument.

Eine Polizeistreife in Xichang, Provinz Sichuan. Software ermöglicht es chinesischen Behörden, Personen anhand vorgefasster Meinungen über ihre Eigenschaften anzusprechen. Anerkennung… Costfoto/Future Publishing über Getty Images

Automatisierung von Vorurteilen

Als die Polizei in Zhouning, einem ländlichen Kreis in der Provinz Fujian, 2018 einen neuen Satz von 439 Kameras kaufte, listete sie die Koordinaten auf, wo sie hingehen würden. Einige hingen laut einem Beschaffungsdokument über Kreuzungen und andere in der Nähe von Schulen.

Neun wurden vor den Häusern von Menschen installiert, die etwas gemeinsam haben: psychische Erkrankungen.

Während einige Software versucht, Daten zu nutzen, um neue Bedrohungen aufzudecken, basiert ein häufigerer Typ auf den vorgefassten Meinungen der Polizei. In über hundert Beschaffungsdokumenten, die von The Times überprüft wurden, zielte die Überwachung auf schwarze Listen von „Schlüsselpersonen“.

Zu diesen Personen gehörten laut einigen Beschaffungsunterlagen psychisch Kranke, verurteilte Kriminelle, Flüchtlinge, Drogenkonsumenten, Petenten, mutmaßliche Terroristen, politische Agitatoren und Bedrohungen der sozialen Stabilität. Andere Systeme zielten auf eingewanderte Arbeiter, untätige Jugendliche (Jugendliche ohne Schule oder Arbeit), ethnische Minderheiten, Ausländer und HIV-Infizierte ab

Die Behörden entscheiden, wer auf die Listen kommt, und es gibt oft kein Verfahren, um die Leute zu benachrichtigen, wenn sie es tun. Sobald sich Personen in einer Datenbank befinden, werden sie selten entfernt, sagten Experten, die befürchteten, dass die neuen Technologien die Ungleichheiten innerhalb Chinas verstärken und den am wenigsten begünstigten Teilen der Bevölkerung eine Überwachung auferlegen.

In vielen Fällen geht die Software über die bloße Ausrichtung auf eine Bevölkerung hinaus und ermöglicht es den Behörden, digitale Stolperdrähte einzurichten, die auf eine mögliche Bedrohung hinweisen. In einer Megvii-Präsentation über ein konkurrierendes Produkt von Yitu ermöglichte die Schnittstelle des Systems der Polizei, ihre eigenen Frühwarnungen zu entwickeln.

Mit einem einfachen Ausfüllmenü kann die Polizei Alarme auf bestimmte Parameter stützen, darunter wo eine Person auf der schwarzen Liste erscheint, wann sich die Person bewegt, ob sie sich mit anderen Personen auf der schwarzen Liste trifft und wie oft bestimmte Aktivitäten ausgeführt werden. Die Polizei könnte das System so einstellen, dass jedes Mal eine Warnung gesendet wird, wenn zwei Personen mit einer Vorgeschichte von Drogenkonsum in dasselbe Hotel einchecken oder wenn vier Personen mit einer Vorgeschichte von Protesten denselben Park betreten.

Yitu antwortete nicht auf per E-Mail gesendete Anfragen nach Kommentaren.

Eine Schnittstelle eines Yitu-Produkts, mit der die Polizei Parameter festlegen kann, um Warnungen bei verdächtigem Verhalten zu erhalten. Kredite Anerkennung… Die New York Times

Im Jahr 2020 kaufte die Polizei in der Stadt Nanning eine Software, die laut a Angebotsdokument. In Yangshuo, einer Touristenstadt, die für ihre jenseitigen Karstberge berühmt ist, kauften die Behörden ein System, das sie warnt, wenn ein Ausländer ohne Arbeitserlaubnis zu viel Zeit in fremdsprachigen Schulen oder Bars verbrachte, ein offensichtlicher Versuch, Leute zu erwischen, die ihre Visa überschreiten oder illegal arbeiten.

In Shanghai beschrieb eine von einer Partei betriebene Veröffentlichung, wie die Behörden mithilfe von Software diejenigen identifizierten, die den üblichen Wasser- und Stromverbrauch überschritten. Das System sendet eine „digitale Pfeife“ an die Polizei, wenn es verdächtige Konsummuster findet.

Die Taktik war wahrscheinlich darauf ausgelegt, Wanderarbeiter aufzuspüren, die oft auf engstem Raum zusammenleben, um Geld zu sparen. An einigen Orten betrachtet die Polizei sie als eine schwer fassbare und oft verarmte Gruppe, die Kriminalität in die Gemeinschaften bringen kann.

Die automatisierten Warnungen führen nicht zu der gleichen Reaktion der Polizei. Oft gebe die Polizei Warnungen Vorrang, die auf politische Probleme wie Proteste oder andere Bedrohungen der sozialen Stabilität hinweisen, sagte Suzanne E. Scoggins, Professorin an der Clark University, die Chinas Polizeiarbeit studiert.

Zuweilen hat die Polizei ganz offen die Notwendigkeit erklärt, Personen zu profilieren. „Durch die Anwendung von Big Data malen wir ein Bild von Menschen und geben ihnen Etiketten mit unterschiedlichen Attributen“, sagte Li Wei, ein Forscher an der nationalen Polizeiuniversität Chinas, 2016 in einer Rede. „Für diejenigen, die eine oder mehrere Arten von Labels erhalten, leiten wir ihre Identität und ihr Verhalten ab und führen dann gezielte präventive Sicherheitsmaßnahmen durch.“

Auf dem Weg zum Techno-Totalitarismus

Herr Zhang fing zuerst an, bei der Regierung um Entschädigung für die Folter seiner Familie während der Kulturrevolution zu ersuchen. Seitdem hat er eine Petition wegen angeblicher Polizeiangriffe auf seine Familie eingereicht.

Als China seine techno-autoritären Werkzeuge ausgebaut hat, musste er Spionagefilmtaktiken anwenden, um die Überwachung zu umgehen, die, wie er sagte, „Hightech und nazifiziert“ geworden ist.

Überwachungskameras im Umkreis von 100 Metern von Zhang Yuqiaos Wohnung. An anderen Orten in seinem Dorf gebe es keine Kameras, sagte er. Anerkennung… Zhang Yuqiao

Als er im Januar von seinem Dorf in der Provinz Shandong nach Peking reiste, schaltete er sein Telefon aus und bezahlte den Transport bar, um seinen digitalen Fußabdruck zu minimieren. Er kaufte Zugtickets zum falschen Ziel, um die Verfolgung durch die Polizei zu vereiteln. Er heuerte Privatfahrer an, um Kontrollpunkte zu umgehen, an denen sein Personalausweis Alarm auslöste.

Das System in Tianjin hat eine Besonderheit für Leute wie ihn, die „ein gewisses Aufklärungsbewusstsein“ haben und regelmäßig das Fahrzeug wechseln, um einer Entdeckung zu entgehen, heißt es im Beschaffungsdokument der Polizei.

Ob er das System ausgelöst hat oder nicht, Herr Zhang hat eine Veränderung bemerkt. Immer wenn er sein Telefon ausschalte, tauchen Beamte in seinem Haus auf, um zu überprüfen, ob er nicht zu einer neuen Reise nach Peking aufgebrochen ist.

Die Behörden „tun alles Erforderliche, um die Leute zum Schweigen zu bringen, die die Probleme ansprechen“, sagte Herr Zhang. Anerkennung… Zhang Yuqiao

Selbst wenn Polizeisysteme das Verhalten nicht genau vorhersagen können, könnten die Behörden sie aufgrund der Bedrohung als erfolgreich betrachten, sagte Noam Yuchtman, Wirtschaftsprofessor an der London School of Economics, der die Auswirkungen der Überwachung in China untersucht hat.

„In einem Kontext, in dem es keine wirkliche politische Rechenschaftspflicht gibt“, sagte er, könne ein Überwachungssystem, das häufig Polizisten entsendet, „ziemlich gut funktionieren“, um Unruhen zu entmutigen.

Sobald die Metriken festgelegt und die Warnungen ausgelöst wurden, haben die Polizeibeamten wenig Flexibilität und zentralisieren die Kontrolle. Sie werden nach ihrer Reaktionsfähigkeit auf automatisierte Alarme und ihrer Wirksamkeit bei der Verhinderung von Protesten bewertet, laut Experten und öffentlichen Polizeiberichten.

Die Technologie hat Machtungleichgewichte verschlüsselt. Einige Ausschreibungsunterlagen beziehen sich auf eine „rote Liste“ von Personen, die das Überwachungssystem ignorieren muss.

In einem nationalen Beschaffungsdokument heißt es, die Funktion sei für „Menschen, die Schutz der Privatsphäre oder VIP-Schutz benötigen“. Ein anderer aus der Provinz Guangdong wurde konkreter und stellte fest, dass die rote Liste für Regierungsbeamte bestimmt sei.

Herr Zhang drückte seine Frustration darüber aus, wie die Technologie die politischen Machthaber von den normalen Menschen abgeschnitten habe.

„Die Behörden lösen Probleme nicht ernsthaft, sondern tun alles, um die Leute zum Schweigen zu bringen, die die Probleme ansprechen“, sagte er. „Das ist ein großer Rückschritt für die Gesellschaft.“

Herr Zhang sagte, dass er immer noch an die Macht der Technologie glaube, Gutes zu tun, aber dass sie in den falschen Händen eine „Geißel und eine Fessel“ sein könnte.

„Wenn man früher sein Zuhause verließ und aufs Land zog, führten alle Wege nach Peking“, sagte er. „Jetzt ist das ganze Land ein Netz.“

Überwachungskameras an einem Laternenpfahl in Peking. Anerkennung… Roman Pilipey/EPA, über Shutterstock

Isabelle Qian und Aaron Krolik steuerten Forschung und Berichterstattung bei. Produktion von Agnes Chang und Alexander Cardia.

Die New York Times

Leave A Reply

Your email address will not be published.

This website uses cookies to improve your experience. We'll assume you're ok with this, but you can opt-out if you wish. Accept Read More