Was bisher geschah:

Viva Las Vegas!

Die neue Rolle Chinas und seine Hinwendung zu einer auf Informationstechnologien, Big Data und KI basierenden Ökonomie ließ sich jüngst anlässlich der Consumer Electronics Show (CES) in Las Vegas ausmachen. Von den insgesamt 4.229 Ausstellern auf der Leistungsschau der Tech-Branche stammte Anfang Januar gut jeder dritte aus China. Beim Bau von Elektroautos sind die Asiaten mittlerweile vorne mit dabei; der Online-Händler Alibaba präsentierte Apollo, seine neue Plattform für autonomes Fahren. Tencent hat indes Facebook als wertvollstes Social-Media-Unternehmen der Welt abgelöst. Aber auch bei kommerziellen Drohnen hat der chinesische Anbieter DJI amerikanische Konkurrenten wie Go Pro oder die Franzosen von Parrot regelrecht zertrümmert, berichtet die Süddeutsche Zeitung. Derweil mischt Huawei die Smartphone-Branche auf. Richard Yu, der CEO von Huaweis Konsumgütersparte, sagte in seiner Keynote: „Bei der 3G-Technologie sind wir hinterhergelaufen, bei 4G haben wir die anderen eingeholt und in der kommenden Ära von 5G werden wir weltweit führend sein.“ Chinesische Hersteller demonstrierten eindrücklich, dass sie den Übergang von „Made in China“ zu „Created in China“ abgeschlossen haben.

Kulturrevolution 2.0

Die kommunistische Partei hat schon viele Versuche hinter sich, aus seinem Riesenvolk bessere Menschen zu machen. Die Kulturrevolution ist der vielleicht bekannteste: Vor etwa fünfzig Jahren machte Mao Tsedong eine bürokratische Klasse aus, die sich ausgebreitet und die Ideale der Revolution verraten habe. Zunächst als Basisbewegung zur Beseitigung von Missständen geplant, mutierte sie letztlich zu einer zehn Jahre andauernden Säuberungskampagne, in der Hunderttausende ihr Leben ließen. Die Enkel jener Bürokraten schlagen jetzt zurück und wollen ihrerseits die Bürgerinnen und Bürger umerziehen: Mit Social Scoring soll eine großangelegte Disziplinierung der 1,4 Milliarden Chinesinnen und Chinesen gelingen. Begleitet wird diese panoptische, gläserne Big-Data-Kampagne von einem neuerlichen „großen Sprung nach vorn“. Letzterer bezeichnete eine ebenfalls vom weisen Führer ein paar Jahre zuvor initiierte Kampagne für eine autochthone Industrialisierung, die grandios schief ging und in der größten Hungersnot der Menschheitsgeschichte endete. Diesmal soll dieser Sprung mittels Big Data und Künstlicher Intelligenz glücken statt mit Mini-Hochöfen.

Die KP hat Künstliche Intelligenz als Machtinstrument entdeckt. „Heute bedient und berauscht sich der Sicherheitsapparat an Big Data“, schreibt der SZ-Autor Kai Strittmatter und zitiert Wang Yongquing, Generalsekretär des Parteikomitees für Politik und Recht: „Big Data offenbart einem die Zukunft.“ Die Partei müsse „eine vollständige Sammlung von grundlegenden Informationen über alle Orte, alle Sachen, alle Angelegenheiten und alle Menschen anlegen: von den Trends und Informationen darüber, was sie essen, wie sie wohnen, wohin sie reisen und was sie konsumieren“.* Das hatte dieser 2015 dem KP-Blatt mit dem programmatischen Namen „Wahrheitssuche“ diktiert.

Social Scoring – Schufa auf chinesich

Scoring, also das Erstellen einer Bewertung aufgrund vorliegender Daten, gibt es nicht nur in China und nicht erst seit der Digitalisierung. Die Schufa (Schutzgemeinschaft für allgemeine Kreditsicherung) beispielsweise macht seit Jahrzehnten nichts anderes: Sie berechnet für am Zahlungsverkehr in Deutschland Teilnehmende einen individuellen Koeffizienten, der den Grad der Bonität ausdrückt. Berücksichtigt werden dabei neben der Kreditgeschichte und dem Zahlungsverkehr auch Leasingverträge, Telekommunikationskonten, Ratenzahlungsgeschäfte sowie Bürgschaften. Der Score wird dann Banken, Vermietern oder Mobilfunkanbietern zur Verfügung gestellt. Social Scoring bezeichnet das Erstellen solcher Zahlen aufgrund von Aktivitäten in den Sozialen Netzwerken. Algorithmen berechnen etwa die S-Scores von Firmen oder Produkten, indem sie die Häufigkeit und den Kontext von Facebook- oder Twitter-Erwähnungen analysieren. Diese S-Scores dienen der Marktforschung, der Produktentwicklung und unterstützen Investitions-Entscheidungen. Der China-Experte Ian Bremmer warnt vor Social Scoring: „Das ist ein enorm mächtiges Instrument, das den Autoritarismus stärkt. Dieses System eignet sich sehr, um Menschen auf Linie zu halten und sozialen Dissens einzudampfen. Gemessen an seiner Macht wird es übrigens deutlich unterschätzt im Westen.“

In der Provinz Sichuan soll die „Smart Red Cloud“ zwei Millionen Genossen überwachen. Der Computer errechnet von jedem Parteimitglied ein „Charakterbild“ und prognostiziert „künftiges“ Verhalten. Die Gesellschaft insgesamt will die Partei mit einem Punkteregime kontrollieren, das mit Hilfe Künstlicher Intelligenz nicht nur jene bestraft, die ihren Bankkredit nicht bedienen, sondern auch alle, die ihre Eltern nicht oft genug besuchen, berichtet Hendrik Ankenbrand, der China-Experte der FAZ. In Shanghai lancierte die Stadtverwaltung eine App Honest Shanghai. Nachdem sich die Bürgerinnen und Bürger mit Personalausweis angemeldet und identifiziert haben, durchsucht die App alle über die Person in öffentlichen Institutionen vorhandenen Informationen und berechnet daraus einen übergreifenden Score. Bald sollen auch Daten von Unternehmen und Organisationen sowie Social-Media-Aktivitäten in die Bewertung einfließen, um eine zuverlässige Aussage über das „Maß an Ehrlichkeit und Güte“ der jeweiligen Personen treffen zu können.

Eine Nation soll besser werden

Neben der Metropole Shanghai und der in den Medien breit diskutierten Ostküstenstädtchen Rongcheng haben rund 30 weitere Städte und Gemeinden eine solche Scoring-App zum Laufen gebracht – und somit im vorauseilenden Gehorsam einem landesweiten System vorgegriffen, das 2020 fertig sein soll. Die am 14. Juni 2014 vom Staatsrat der Volksrepublik veröffentlichten „Planungsvorhaben für den Aufbau eines sozialen Bonitäts-Systems” haben zum Ziel, „die Ehrlichkeit und Qualität der Nation” zu steigern sowie zu einer „harmonischen sozialistischen Gesellschaft“ beizutragen. In einer einzigen Datenbank sollen fiskalische und Verwaltungsdaten, aber auch Verkehrsdelikte bis hin zu nachbarschaftlichem Verhalten und Social-Media-Aktivitäten von der App gescannt und in einer einzigen Zahl zusammengeführt werden: dem öffentlich einsehbaren sozialen Koeffizienten aller Chinesinnen und Chinesen.

Fazit: Sei ein guter (Staats)bürger

In vielen Gebieten wird derzeit versucht, zu quantifizieren und zu messen. Wenn etwas für Websites, Partnersuche oder Produktempfehlungen funktioniert, warum nicht auch für Menschen? Wir kennen Quantified Self, den Mechanismus der Selbstoptimierung durch die Quantifizierung sämtlicher Lebensaspekte wie Ernährung, Bewegung oder Sport. Auch Freundschaften, der Charakter und die Persönlichkeit werden jetzt messbar: to be a good citizen. Das Problem bei den scheinbar neutralen algorithmischen Scoring-Systemen – und zunächst scheint es ja einzuleuchten, dass da eine neutrale nichtmenschliche Instanz am Werk ist, die nicht unwillkürlich oder willkürlich vorurteilsbeladen oder diskriminierend wirkt – ist jedoch: Was ist, wenn schon beim Programmieren und beim Setzen der Standards Diskriminierung eingebaut wird? Wer kontrolliert die zugrundeliegenden Algorithmen? Und wer prüft nach, ob die Daten richtig sind, ihre Erhebung legal, und ob sie richtig bewertet sind?

Neben datenschutzrechtlichen Bedenken ist in diesem Fall besonders fragwürdig: Wer bewertet wen? Und welches sind die Kriterien? Das scheint keine moralische, sondern eine Machtfrage zu sein. Scoring-Apps wandeln auf schmalem Grat zwischen Disziplinierung, Kontrolle und dem Monitoring von Mikro-Verhalten auf der einen und einer effektiven, datengetriebenen Verbesserung von Lebensqualität für alle und Optimierung öffentlicher Services und privater Dienstleistungen auf der anderen Seite.

Shoshanna Zuboff, emeritierte Charles-Edward-Wilson-Professorin der Harvard Business School, nennt in einem viel diskutierten Artikel über die Auswüchse eines auf Big Data beruhenden „Überwachungs-Kapitalismus“ drei Säulen, auf die sich dieses neue Geschäfts- und Gesellschaftsmodell gleichermaßen stützt: erstens die Generierung von Nutzer-Daten auf Basis von User Generated Content, zweitens die Analyse, also das Mining dieser Daten mit Hilfe von KI-Methoden und schließlich drittens die damit einhergehende Überwachung. Sie schreibt, Daten-Extraktion und deren Verwertung sei so zentral für diese neue Form, dass „von Überwachungskapitalisten zu verlangen, sie sollten die Privatsphäre achten oder der kommerziellen Überwachung im Internet ein Ende setzen, wäre so, als hätte man Henry Ford dazu aufgefordert, jedes T-Modell von Hand zu fertigen.“

In China hat man das verstanden.

Quellen und Links

• Kai Strittmatter, Creating the honest man, in: Süddeutsche Zeitung, 02.07.2017
• Hendrik Ankenbrand, Wo Künstliche Intelligenz zur Religion wird, in: Frankfurter Allgemeine Zeitung, 29.09.2017
• Alexander Armbruster, Q&A mit Ian Bremmer. FAZ, 8.1.2018
• China State Council, Planning Outline for the construction of a social credit system, 14.06.2014
• Shoshana Zuboff, Wie wir Googles Sklaven wurden, in: FAZ, 5.3.2016

Zur Übersicht aller bisherigen Texte der Reihe »Understanding Digital Capitalism«.