EditorialKünstliche Intelligenz (KI)

Chinas KI-Sozialpunktesystem macht „Black Mirror“ zur Realität

Black Mirror China Sozialpunkte

Die britische Netflix-Serie „Black Mirror“ verdankt ihren Namen dem Umstand, dass sie häufig eine düstere Reflektion unserer Welt präsentiert. Fast immer spielt dabei das Thema Technologie und deren (meist negative) Auswirkung auf die Menschheit eine Rolle. Manchmal aber liegen Fiktion und Realität erschreckend nah beieinander.

In China ist „Black Mirror“ Realität

Mein Einstieg in die Serie war Staffel 3 Folge 1 – „Nosedive“ (die Folgen bauen nicht aufeinander auf, man muss also nicht chronologisch schauen). In dieser Folge erleben wir eine Gesellschaft, in der jeder Teil eines sozialen Netzwerkes ist, das auf einem Punktesystem basiert. Nach jeder direkten oder indirekten Interaktion, bewerten sich die Menschen mittels Wisch auf dem Smartphone auf einer Skala von 1 bis 5 Sternen. War die Kassiererin bei Netto freundlich? Wisch, 5 Sterne. Der Amazon-Bote war an der Tür etwas zu gehetzt und hat nicht mal „Tschüss“ gesagt? Wisch, 2 Sterne. Das Date hatte beim ersten Kuss Mundgeruch? Wisch, 1 Stern.

Die Sterne werden natürlich nicht nur zum Spaß vergeben. Das Punktekonto eröffnet oder versperrt einem Menschen gewisse Möglichkeiten. Rangiert man irgendwo in der Nähe von 5 Sternen, kommt man leichter an Kredite oder kann in der Schlange am Flughafen einen gesonderten und besonders zügigen Schalter nutzen. Da das Punktekonto öffentlich einsehbar ist, wird man bei entsprechend hoher Punktzahl von Gleichrangigen zu Parties eingeladen und zur Paarung in Erwägung gezogen – es soll ja schließlich schön homogen bleiben. Bei einem schlechten Punktestand ist der Effekt genau umgekehrt: Keine Kredite, lange Schlangen, Parties im „Kuhdorf“ (Berliner wissen was ich meine) und minderwertige Partner.

An einigen Stellen der Folge musste ich unwillentlich zusammenzucken, so unangenehm wurde mir beim Anblick von so strenger sozialer Kontrolle.

In China endet der Schrecken allerdings nicht mit dem Druck auf den Ausknopf der Fernbedienung. Dort ist ein ganz ähnliches Sozialpunktesystem bereits Realität. Zunächst nur in Teilen des Landes aktiv, soll das System bis 2020 auf die gesamte Volksrepublik ausgeweitet werden. Die Funktionsweise ist „unmenschlicher“ als die Darstellung in „Black Mirror“ – in China werden die Punkte von Künstlicher Intelligenz (KI) vergeben.

Strafpunkte bei roter Ampel und Luxus – Belohnung bei tugendhaftem Verhalten

China Soziale Kontrolle
1000 Punkte? Nice, bro.

„Mist, ich muss die Bahn erwischen“ – und zack, rennt man bei rot über die Straße, das hat sicher jeder von uns schon mal gemacht. In China bekommt man ab 2020 dafür landesweit 5 Punkte von seinem Konto abgezogen. Serientäter werden über öffentliche Bildschirme an den Pranger gestellt, das Foto dafür hat die KI-gesteuerte Kamera ja schon angefertigt.

Da jeder mit 1000 Punkten startet, entsprechen 5 Strafpunkte 0,5% des Gesamtguthabens. Bis zum sozialen Abstieg ist es gar nicht weit. Das Ratingsystem reicht von AAA bis D – bei 599 Punkten hat man bereits die unterste Stufe erreicht.

Wofür es noch Strafpunkte gibt? Fährt man allein oder zu zweit ein großes Auto, gilt das als asozial. Genauso verhält es sich mit einer zu großen Wohnung. Wer hingegen Fahr- und Wohngemeinschaften (bzw. eine Familie gründet) bildet, bekommt Boni.

Boni gibt es auch, wenn man gute Leistungen auf der Arbeit zeigt. Das kann dann schon mal 20 Punkte extra geben, wie ein Teilnehmer des Testdurchlaufs glücklich feststellt:

„Hier, sehen Sie mal, dort habe ich ein paar Abzüge. Fünf insgesamt. Einmal, weil ich bei Rot über die Ampel gegangen bin. Aber hier: Meine Leistung bei der Arbeit, dafür habe ich gleich 20 Pluspunkte gesammelt! Hätte ich ein B bekommen, würde es nichts werden mit der Beförderung. Beamte im öffentlichen Dienst, wie ich, brauchen mindestens ein A.“

(Quelle: Deutschlandfunk)

„Ich habe nichts zu verbergen“

Wer aufgrund dieser Beschreibungen an Satire denkt, der liegt leider falsch. Das Punktesystem hat heftige Auswirkungen auf das Leben der Chinesen. Bei Krediten und, ja, mittlerweile auch bei der Partnerwahl fließt das Ranking mit hinein. Verschiedene Partneragenturen führen den Rang der Suchenden nun mit auf. Wer nur wenig Punkte besitzt, darf sich nicht einmal ein Flug- oder Bahnticket kaufen.

China macht sich die Errungenschaften der IT zunutze, um seinen Überwachungsstaat zu optimieren. Ziel ist es die rund 1,4 Milliarden Menschen des Landes perfekt zu katalogisieren und eine möglichst homogene Gesellschaft zu schaffen. Personen, die sich einem angepassten Leben entziehen möchten, beispielsweise Künstler, werden von diesem System an den Rand gedrängt und ausgeschlossen. Journalisten, die Kritik üben wollen, werden mit Strafpunkten mundtot gemacht.

Die Masse folgt indes mit einer Mischung aus Angst und Gleichgültigkeit den Vorgaben des Staates. „Ich habe nichts zu verbergen“ ist hierbei ein Schlüsselsatz, der mich auch bei Datenschutz-Diskussionen in Deutschland immer wieder aufhorchen lässt. Dabei geht es gar nicht darum welche Informationen der Einzelne als unbedenklich erachtet, sondern, wie das Verhalten der Menschen von den Machthabern (oder „Regierungsverantwortlichen“, um einen vertrauteren Begriff zu nutzen) bewertet wird.

Deutschland ist nicht China. Die Geschichte der beiden Nationen ist grundverschieden. Doch auch hierzulande sind bereits Pilotprojekte gestartet, um mittels KI-gesteuerter Gesichtserkennung, Jagd auf Verbrecher zu machen. Meiner Meinung nach sollte man trotz der guten Intentionen, die dahinter stecken, ein gehörige Portion Skepsis an den Tag legen, wenn es um Einschnitte in die menschliche Freiheit geht.

Was denkt ihr über das Sozialpunktesystem in China? Könnte sich ein solches System irgendwann auch bei uns etablieren?

Vorheriger Artikel

[Xbox One] Phil Spencer über die nächste Konsolengeneration

Nächster Artikel

Cloud vs. Edge Computing: Wo liegt der Unterschied?

Der Autor

Leonard Klint

Leonard Klint

"Change has to flow from the bottom to the top." - Ed Snowden

36
Hinterlasse einen Kommentar

avatar
13 Comment threads
23 Thread replies
0 Followers
 
Most reacted comment
Hottest comment thread
19 Comment authors
Krischan1981urhsSaschaGast1234Daniela Graf Recent comment authors
  Diskussion abonnieren  
neuste älteste beste Bewertung
Benachrichtige mich zu:
gast
Mitglied

Grauenhaft. Horror. Brandgefährlich. Wie ich hier schon einmal schrieb…

lucast
Mitglied

So etwas wird es in einer demokratischen Gesellschaft nie geben. Nur in Diktaturen wie China.

backpflaune
Mitglied

Gilt das auch für Bayern?

Andy Borg
Gast
Andy Borg

Du glaubst also ernsthaft, wir leben in der BRD und in anderen europäischen Staaten in einer volksbestimmenden Demokratie?
Mein Gott Walter.

Sascha
Gast
Sascha
ExMicrosoftie
Mitglied

Ach, Beispiele hierzulande, die auch schon in die Richtung gehen, gibt es genug: Payback, Autos, die mit dem Hersteller oder der Versicherung verbunden sind, erste Anreize bei Krankenversicherungen mit Sportkursen (Datenübertragung des Fitnessarmbands kommt bestimmt) usw. Neue Begriffskategorien wie „Gefährder“. China ist nur beim Zusammenführen der ganzen Daten einen Schritt weiter. Bei uns ist da noch ein Riegel vor. Noch. Wer sich aber anschaut, wie sehr die maßlos übertriebene und eingebildete Gefahr vor Flüchtlingen (auch nur Menschen!) schon zu einem Rechtsruck im Land inklusive Verschärfung der Polizeigesetze, nicht nur in Bayern, geführt hat, der kommt vielleicht auch zu dem Schluss,… Weiterlesen »

backpflaune
Mitglied

Und die Boulevard Presse liebt den öffentlichen Pranger. Scheiß auf Opfer und auch Täterschutz.
Aber trotzdem ist China ein ganz ganz anderes Kaliber erst recht seit Pu der Bär das Amt übernommen und mittlerweile auf Lebzeiten ausgeweitet hat.

Andy Borg
Gast
Andy Borg

Zitat: „Wer sich aber anschaut, wie sehr die maßlos übertriebene und eingebildete Gefahr vor Flüchtlingen (auch nur Menschen!) schon zu einem Rechtsruck im Land inklusive Verschärfung der Polizeigesetze, nicht nur in Bayern, geführt hat, der kommt vielleicht auch zu dem Schluss, dass wir sehr, sehr aufpassen müssen.“ Wenn man die aktuellen Geschehnisse mal kritisch und objektiv hinterfragt, sich ein wenig Zeit nimmt und mal mit einer gewissen Aufmerksamkeit recherchiert, dann könnte man durchaus eine drohende und nicht zu unterschätzende Gefahr durch die seit dem Jahr 2015 unkontrolliert nach Europa überschwappende Migrationswelle sehen. Es hat schon seinen Grund, warum unsere fürsorgliche… Weiterlesen »

SpeckBrettl
Mitglied

Militärpräsenz in der Südchinesischen See: -300; fragliche Infrastrukturprojekte in Nachbarländern: -300; Diskriminierung von Wanderarbeitern aus dem ländlichen Raum: -300 ….. so langsam wirds eng lieber Xi

Herron
Mitglied

Ein solche System wäre für mich Grund, in den Untergrund zu wechseln und gegen ein solches System zu kämpfen. Es klingt, für mich jedenfalls, irgendwie postapokalyptisch.

backpflaune
Mitglied

Das sagt sich so einfach..

DonDoneone
Mitglied

Bis dahin bist du zu alt und schon viel zu integriert in das System 😉

winstonsmith
Mitglied

Würde ich in China leben, wäre es mir egal. In der BRD – einem reaktionären kapitalistischen Staat – ist sowas jedoch äußerst bedenklich.

Sascha
Gast
Sascha

Das ist äußerst lustig, dass du denkst, die BRD sei ein kapitalistischer Staat…

ExMicrosoftie
Mitglied

Ach ja, was ist die BRD sonst? Das Soziale wurde in den letzten Jahren doch immer mehr abgeschafft, insofern hat auch „reaktionär“ im Sinne von „unsozialer, Rechtsruck“ durchaus eine kleine (!) Berechtigung.

winstonsmith
Mitglied

Nuja,“Geh doch nach drüben!“ kann man ja nicht mehr sagen. Zum Relativieren hiesiger Verhältnisse, heißt es ja jetzt, daß früher die Stasi ganz dolle schlimm war und es in China und Rußland gegenwärtig noch viel schlimmer ist… Das lenkt schön ab.

rob1
Mitglied

Wie ExMicrosoftie schon sagte gibt es bei uns auch schon einige Ansätze eines solchen Systems. Sehr gutes Beispiel: Auf Check24 hol ich mir einen schönen Kredit, da dieser ja sehr billig ist. Kein Problem. Ich hol mir also vielleicht noch einen. (Es handelt sich im kleine Kredite) Nun möchte ich mir etwas Größeres holen, also ein großer Kredit. Heißt ich gehe zu meiner Bank. Und was heißt es dann:“Es tut uns leid aber wie wir feststellen müssen sind sie nicht Kreditfähig“. Warum? Weil ich mir vorher vielleicht krass gesagt 80€ bei Check24 geliehen habe.

Prinzchen
Mitglied

Naja gut, das ist aber ganz normal und schon seit Jahren so. Eigentlich ist das bekannt. Und das macht ja auch irgendwo Sinn.

ExMicrosoftie
Mitglied

Genau das ist der Punkt! Jede kleine Veränderung macht irgendwie Sinn oder ist zu begründen. (Salamitaktik nennt man das auch, wenn es gezielt eingesetzt wird.)
Und irgendwann ist es zu spät, man gewöhnt sich an vielem, auch am Dativ.
Gerade Deutschland sollte hier sehr sensibel sein, denn genau dieses Gewöhnungsverhalten bzw. den Gruppenzwang haben die Nazis genutzt. Von daher finde ich es extrem erschreckend, wenn die Chinesen das gut finden oder das ganze (siehe Kommentar von winstonsmith) als „egal“ bezeichnet wird. DAS ist gruselig!

Sternwaerter
Mitglied

Ja, der Film aus den 60ern (?) , der Name ist mir immer noch nicht eingefallen, wird immer mehr zur Realität…oh oh😐

Daniela Graf
Gast
Daniela Graf

Wenn der Artikel schon mit einer Falschaussage beginnt … „Black Mirror“ ist wegen der schwarzen Tech-Screens von Smart Phonesn, Laptops und Co., in die wir andauernd schauen, der Titelname der Serie.

DonDoneone
Mitglied

Ganz klar ist der Titel angelehnt an den „Schwarzen Spiegel“, in dem man sich sieht wenn der Bildschirm schwarz ist.
Versteh jetzt deine Aussage auch nicht ganz..
Und so nebenbei @Leonard.. Die erste Folge von Staffel eins sollte man unbedingt gesehen haben. Das war vielleicht sogar die beste 😱😄

Gast1234
Gast
Gast1234

Da, auch hier ist das denkbar. Linke Gleichmacher scheinen mir hier besonders gefährlich. Ganz besonders unangenehm wirds aber, wenn „gleich“ nicht „gleich“ ist. Wenn also bestimmte Gruppen bei der Definition der „Gleichheit“ anders beurteilt werden.

ExMicrosoftie
Mitglied

Links setze ich eher mit sozial gleich. Gleichmachen ist utopisch und nur in autokratischen Systemen bzw. Diktaturen umsetzbar. Rechte Ungleichmacher empfinde ich als wesentlich gefährlicher, denn das funktioniert auch in einer Demokratie, wenn z.B. von unten nach oben umverteilt wird, oder wenn man bestimmte Gruppen von Menschen schon sprachlich abwertet, z.B. wertet „Asyltourismus“ die echte, reale Not der Menschen, einen sicheren Platz zum Leben zu finden, zum Erholungsurlaub ab. Das ist besonders gefährlich. Auch bei den Nazis fing es mit der Sprache und den Vorurteilen an. . Sorry, dass ich immer die Nazis anführe, aber sie sind eben das Paradebeispiel,… Weiterlesen »

DonDoneone
Mitglied

Wenn ich rhetorisch doch auch nur so begabt wäre..😉
Jedenfalls wird beim deutschen Volke immer gern ausgeblendet die Herren das Problem sind.
Da ist es viel einfacher gegen Minderheiten zu hetzen und nach unten zu treten, denen es noch viel schlechter geht als uns, der Arbeiterklasse (gibt’s den Begriff eigentlich überhaupt noch?). Aber so ist der Mensch nunmal. Habe früher in der Schule mal gelernt das wir heute gescheiter geworden sind. Aber wenn ich mich in Europa und Amiland so umschaue, dann haben wir alle nichts draus gelernt. Eigentlich ist es bitter, aber viel Hoffnung für uns habe ich nicht mehr…

urhs
Mitglied

Würde ich für den Straßenverkehr sofort einführen, für alle!

Krischan1981
Mitglied

Dann kommen bestimmt bald scharren von Chinesischen Punkte Flüchtlingen.

rob1
Mitglied

China hat halt das Problem das sie mehr als 1 Milliarden Menschen „kontrollieren“ müssen. Man benötigt in Deutschland schon sehr viel Polizei, Kontrollen, usw. um das meiste zu verhindern. Jetzt stelle man sich mal vor wir hätten genauso viele Menschen, wir würden allein mit Kontrollen bzw. Überprüfungen gar nicht mehr hinterherkommen. Ich will das in China nicht rechtfertigen, aber wie so oft ist hier die Überbevölkerung das Problem.