Meinung

Chinas KI-Sozialpunktesystem macht “Black Mirror” zur Realität

Die britische Netflix-Serie “Black Mirror” verdankt ihren Namen dem Umstand, dass sie häufig eine düstere Reflektion unserer Welt präsentiert. Fast immer spielt dabei das Thema Technologie und deren (meist negative) Auswirkung auf die Menschheit eine Rolle. Manchmal aber liegen Fiktion und Realität erschreckend nah beieinander.

In China ist “Black Mirror” Realität

Mein Einstieg in die Serie war Staffel 3 Folge 1 – “Nosedive” (die Folgen bauen nicht aufeinander auf, man muss also nicht chronologisch schauen). In dieser Folge erleben wir eine Gesellschaft, in der jeder Teil eines sozialen Netzwerkes ist, das auf einem Punktesystem basiert. Nach jeder direkten oder indirekten Interaktion, bewerten sich die Menschen mittels Wisch auf dem Smartphone auf einer Skala von 1 bis 5 Sternen. War die Kassiererin bei Netto freundlich? Wisch, 5 Sterne. Der Amazon-Bote war an der Tür etwas zu gehetzt und hat nicht mal “Tschüss” gesagt? Wisch, 2 Sterne. Das Date hatte beim ersten Kuss Mundgeruch? Wisch, 1 Stern.

Die Sterne werden natürlich nicht nur zum Spaß vergeben. Das Punktekonto eröffnet oder versperrt einem Menschen gewisse Möglichkeiten. Rangiert man irgendwo in der Nähe von 5 Sternen, kommt man leichter an Kredite oder kann in der Schlange am Flughafen einen gesonderten und besonders zügigen Schalter nutzen. Da das Punktekonto öffentlich einsehbar ist, wird man bei entsprechend hoher Punktzahl von Gleichrangigen zu Parties eingeladen und zur Paarung in Erwägung gezogen – es soll ja schließlich schön homogen bleiben. Bei einem schlechten Punktestand ist der Effekt genau umgekehrt: Keine Kredite, lange Schlangen, Parties im “Kuhdorf” (Berliner wissen was ich meine) und minderwertige Partner.

An einigen Stellen der Folge musste ich unwillentlich zusammenzucken, so unangenehm wurde mir beim Anblick von so strenger sozialer Kontrolle.

In China endet der Schrecken allerdings nicht mit dem Druck auf den Ausknopf der Fernbedienung. Dort ist ein ganz ähnliches Sozialpunktesystem bereits Realität. Zunächst nur in Teilen des Landes aktiv, soll das System bis 2020 auf die gesamte Volksrepublik ausgeweitet werden. Die Funktionsweise ist “unmenschlicher” als die Darstellung in “Black Mirror” – in China werden die Punkte von Künstlicher Intelligenz (KI) vergeben.

Strafpunkte bei roter Ampel und Luxus – Belohnung bei tugendhaftem Verhalten

1000 Punkte? Nice, bro.

“Mist, ich muss die Bahn erwischen” – und zack, rennt man bei rot über die Straße, das hat sicher jeder von uns schon mal gemacht. In China bekommt man ab 2020 dafür landesweit 5 Punkte von seinem Konto abgezogen. Serientäter werden über öffentliche Bildschirme an den Pranger gestellt, das Foto dafür hat die KI-gesteuerte Kamera ja schon angefertigt.

Da jeder mit 1000 Punkten startet, entsprechen 5 Strafpunkte 0,5% des Gesamtguthabens. Bis zum sozialen Abstieg ist es gar nicht weit. Das Ratingsystem reicht von AAA bis D – bei 599 Punkten hat man bereits die unterste Stufe erreicht.

Wofür es noch Strafpunkte gibt? Fährt man allein oder zu zweit ein großes Auto, gilt das als asozial. Genauso verhält es sich mit einer zu großen Wohnung. Wer hingegen Fahr- und Wohngemeinschaften (bzw. eine Familie gründet) bildet, bekommt Boni.

Boni gibt es auch, wenn man gute Leistungen auf der Arbeit zeigt. Das kann dann schon mal 20 Punkte extra geben, wie ein Teilnehmer des Testdurchlaufs glücklich feststellt:

“Hier, sehen Sie mal, dort habe ich ein paar Abzüge. Fünf insgesamt. Einmal, weil ich bei Rot über die Ampel gegangen bin. Aber hier: Meine Leistung bei der Arbeit, dafür habe ich gleich 20 Pluspunkte gesammelt! Hätte ich ein B bekommen, würde es nichts werden mit der Beförderung. Beamte im öffentlichen Dienst, wie ich, brauchen mindestens ein A.”

(Quelle: Deutschlandfunk)

“Ich habe nichts zu verbergen”

Wer aufgrund dieser Beschreibungen an Satire denkt, der liegt leider falsch. Das Punktesystem hat heftige Auswirkungen auf das Leben der Chinesen. Bei Krediten und, ja, mittlerweile auch bei der Partnerwahl fließt das Ranking mit hinein. Verschiedene Partneragenturen führen den Rang der Suchenden nun mit auf. Wer nur wenig Punkte besitzt, darf sich nicht einmal ein Flug- oder Bahnticket kaufen.

China macht sich die Errungenschaften der IT zunutze, um seinen Überwachungsstaat zu optimieren. Ziel ist es die rund 1,4 Milliarden Menschen des Landes perfekt zu katalogisieren und eine möglichst homogene Gesellschaft zu schaffen. Personen, die sich einem angepassten Leben entziehen möchten, beispielsweise Künstler, werden von diesem System an den Rand gedrängt und ausgeschlossen. Journalisten, die Kritik üben wollen, werden mit Strafpunkten mundtot gemacht.

Die Masse folgt indes mit einer Mischung aus Angst und Gleichgültigkeit den Vorgaben des Staates. “Ich habe nichts zu verbergen” ist hierbei ein Schlüsselsatz, der mich auch bei Datenschutz-Diskussionen in Deutschland immer wieder aufhorchen lässt. Dabei geht es gar nicht darum welche Informationen der Einzelne als unbedenklich erachtet, sondern, wie das Verhalten der Menschen von den Machthabern (oder “Regierungsverantwortlichen”, um einen vertrauteren Begriff zu nutzen) bewertet wird.

Deutschland ist nicht China. Die Geschichte der beiden Nationen ist grundverschieden. Doch auch hierzulande sind bereits Pilotprojekte gestartet, um mittels KI-gesteuerter Gesichtserkennung, Jagd auf Verbrecher zu machen. Meiner Meinung nach sollte man trotz der guten Intentionen, die dahinter stecken, ein gehörige Portion Skepsis an den Tag legen, wenn es um Einschnitte in die menschliche Freiheit geht.

Was denkt ihr über das Sozialpunktesystem in China? Könnte sich ein solches System irgendwann auch bei uns etablieren?

Zeige Kommentare

  • So etwas wird es in einer demokratischen Gesellschaft nie geben. Nur in Diktaturen wie China.

  • Ach, Beispiele hierzulande, die auch schon in die Richtung gehen, gibt es genug: Payback, Autos, die mit dem Hersteller oder der Versicherung verbunden sind, erste Anreize bei Krankenversicherungen mit Sportkursen (Datenübertragung des Fitnessarmbands kommt bestimmt) usw.
    Neue Begriffskategorien wie "Gefährder".
    China ist nur beim Zusammenführen der ganzen Daten einen Schritt weiter. Bei uns ist da noch ein Riegel vor. Noch.
    Wer sich aber anschaut, wie sehr die maßlos übertriebene und eingebildete Gefahr vor Flüchtlingen (auch nur Menschen!) schon zu einem Rechtsruck im Land inklusive Verschärfung der Polizeigesetze, nicht nur in Bayern, geführt hat, der kommt vielleicht auch zu dem Schluss, dass wir sehr, sehr aufpassen müssen.
    Die USA haben ja ausgelöst durch 9/11 auch ihre Gesetze schon in diese Richtung geändert. Es braucht nur wenige Terroranschläge und wir steuern auch auf diesen Abgrund zu.

    • Chinas Philosophie ist schon noch ne andere. Hier wirkt sich die rote Ampel auf Kreditwürdigkeit aus. Das ist bei uns klar getrennt. Der Mensch wird hier in seinem Wirken ganzheitlich bewertet

      • Auch hier wird die Kreditwürdigkeit gesteuert! Schufa, Creditreform und Bürgel sind Auskunftteien die Daten sammeln und damit der Kreditwürdigkeit ein Scoreing verpassen. Damit ist jeder gläsern. Hier wird fehlverhalten wie Mahnungen, Darlehnsanfragen, Versandhauseinkäufe registriert und bewertet.
        Alle Firmen können bei einer Geschäftsanbahnung auf diese Daten zugreifen.

        • @matlu der Strafzettel fürs Falschparken hat aber keinen Einfluss auf den Schufa score. In China schon.

          • Du hast Recht! Aber Unbezahlt schon! Zwar nicht ohne Mahnbescheid oder ESV und Feststellung des Gerichts. Hier dauert es nur länger und wird nicht vom Bösen Nachbar bewertet. Hier ist es anfechtbar bzw. Löschbar.

    • Und die Boulevard Presse liebt den öffentlichen Pranger. Scheiß auf Opfer und auch Täterschutz.
      Aber trotzdem ist China ein ganz ganz anderes Kaliber erst recht seit Pu der Bär das Amt übernommen und mittlerweile auf Lebzeiten ausgeweitet hat.

    • Zitat: „Wer sich aber anschaut, wie sehr die maßlos übertriebene und eingebildete Gefahr vor Flüchtlingen (auch nur Menschen!) schon zu einem Rechtsruck im Land inklusive Verschärfung der Polizeigesetze, nicht nur in Bayern, geführt hat, der kommt vielleicht auch zu dem Schluss, dass wir sehr, sehr aufpassen müssen."

      Wenn man die aktuellen Geschehnisse mal kritisch und objektiv hinterfragt, sich ein wenig Zeit nimmt und mal mit einer gewissen Aufmerksamkeit recherchiert, dann könnte man durchaus eine drohende und nicht zu unterschätzende Gefahr durch die seit dem Jahr 2015 unkontrolliert nach Europa überschwappende Migrationswelle sehen.
      Es hat schon seinen Grund, warum unsere fürsorgliche "Mutti" im Jahre 2010 den Europapreis der Coudenhove-Kalergi-Stiftung überreicht bekam.

      Zitat: "Es braucht nur wenige Terroranschläge und wir steuern auch auf diesen Abgrund zu."

      Ja, man kann mit grosser Wahrscheinlichkeit davon ausgehen, dass der Terror auf globaler Ebene weitergehen wird.
      Seit der großen "False Flag" Operation 9/11 sind wir ja immer noch im sogenannten "War on Terror".

      Die Frage ist nur, über welche Art von Terror man hier im Rahmen unserer "Demokratie" sprechen kann oder darf.

      Ole Dammegard - "Terror"- are you kidding me?:
      https://www.youtube.com/watch?v=rHi-1PJsgbI

      Ole Dammegård "The Global Tour of Terror continues":
      https://www.youtube.com/watch?v=TY7gT7XDOis

      Sehr aufschlussreich und wirft viele Fragen auf.

      Ob dieses unmenschliche Sozialsystem mit Punktevergabe auch nach Europa kommt?
      Ich halte es jedenfalls nicht für unmöglich.

  • Militärpräsenz in der Südchinesischen See: -300; fragliche Infrastrukturprojekte in Nachbarländern: -300; Diskriminierung von Wanderarbeitern aus dem ländlichen Raum: -300 ..... so langsam wirds eng lieber Xi

  • Ein solche System wäre für mich Grund, in den Untergrund zu wechseln und gegen ein solches System zu kämpfen. Es klingt, für mich jedenfalls, irgendwie postapokalyptisch.

  • Würde ich in China leben, wäre es mir egal. In der BRD - einem reaktionären kapitalistischen Staat - ist sowas jedoch äußerst bedenklich.

    • Das ist äußerst lustig, dass du denkst, die BRD sei ein kapitalistischer Staat...

      • Ach ja, was ist die BRD sonst? Das Soziale wurde in den letzten Jahren doch immer mehr abgeschafft, insofern hat auch "reaktionär" im Sinne von "unsozialer, Rechtsruck" durchaus eine kleine (!) Berechtigung.

        • Nuja,"Geh doch nach drüben!" kann man ja nicht mehr sagen. Zum Relativieren hiesiger Verhältnisse, heißt es ja jetzt, daß früher die Stasi ganz dolle schlimm war und es in China und Rußland gegenwärtig noch viel schlimmer ist... Das lenkt schön ab.

  • Wie ExMicrosoftie schon sagte gibt es bei uns auch schon einige Ansätze eines solchen Systems. Sehr gutes Beispiel: Auf Check24 hol ich mir einen schönen Kredit, da dieser ja sehr billig ist. Kein Problem. Ich hol mir also vielleicht noch einen. (Es handelt sich im kleine Kredite) Nun möchte ich mir etwas Größeres holen, also ein großer Kredit. Heißt ich gehe zu meiner Bank. Und was heißt es dann:"Es tut uns leid aber wie wir feststellen müssen sind sie nicht Kreditfähig". Warum? Weil ich mir vorher vielleicht krass gesagt 80€ bei Check24 geliehen habe.

    • Naja gut, das ist aber ganz normal und schon seit Jahren so. Eigentlich ist das bekannt. Und das macht ja auch irgendwo Sinn.

      • Genau das ist der Punkt! Jede kleine Veränderung macht irgendwie Sinn oder ist zu begründen. (Salamitaktik nennt man das auch, wenn es gezielt eingesetzt wird.)
        Und irgendwann ist es zu spät, man gewöhnt sich an vielem, auch am Dativ.
        Gerade Deutschland sollte hier sehr sensibel sein, denn genau dieses Gewöhnungsverhalten bzw. den Gruppenzwang haben die Nazis genutzt. Von daher finde ich es extrem erschreckend, wenn die Chinesen das gut finden oder das ganze (siehe Kommentar von winstonsmith) als "egal" bezeichnet wird. DAS ist gruselig!

      • @prinzchen du kannst auch die Änderungen in China rechtfertigen. Im Grunde ist es natürlich nicht ok, wenn man bei rot über die Ampel geht, Müll auf die Strasse wirft, in einem überfüllten Land Wohnraum nicht teilt und statt das umweltfreundliche Fahrrad alleine mit einer dicken Karre durch die Gegend zu fahren. All diese Dinge sind im Grunde genommen nicht cool. Und trotzdem widerspricht es unserem Freiheitsverständnis wenn diese Handlungen potentiell existenzgefahrdend sein können.

  • Ja, der Film aus den 60ern (?) , der Name ist mir immer noch nicht eingefallen, wird immer mehr zur Realität...oh oh😐

  • Wenn der Artikel schon mit einer Falschaussage beginnt ... "Black Mirror" ist wegen der schwarzen Tech-Screens von Smart Phonesn, Laptops und Co., in die wir andauernd schauen, der Titelname der Serie.

    • Im Grunde ist deine Aussage unvollständig. Der Erschaffer der Serie findet *ausgeschaltete* Bildschirme von Technikgeräten gruselig.

      Der Erschaffer der Sendung hat in mehreren Interviews aber auch ausdrücklich gesagt, das es mehrere Interpretationen gibt. Du kannst natürlich auch etwas konstruktives zum Thema beitragen, Daniela.

    • Ganz klar ist der Titel angelehnt an den "Schwarzen Spiegel", in dem man sich sieht wenn der Bildschirm schwarz ist.
      Versteh jetzt deine Aussage auch nicht ganz..
      Und so nebenbei @Leonard.. Die erste Folge von Staffel eins sollte man unbedingt gesehen haben. Das war vielleicht sogar die beste 😱😄

      • Yo, yo, hab alle gesehen. Fast alle sind super ☺️ Black Museum ist allerdings mein Favorit.

        • Oh ja, die war auch super. Als ganze Staffel genommen gefiel mir die letzte fast am besten 👍

  • Da, auch hier ist das denkbar. Linke Gleichmacher scheinen mir hier besonders gefährlich. Ganz besonders unangenehm wirds aber, wenn "gleich" nicht "gleich" ist. Wenn also bestimmte Gruppen bei der Definition der "Gleichheit" anders beurteilt werden.

    • Links setze ich eher mit sozial gleich. Gleichmachen ist utopisch und nur in autokratischen Systemen bzw. Diktaturen umsetzbar.
      Rechte Ungleichmacher empfinde ich als wesentlich gefährlicher, denn das funktioniert auch in einer Demokratie, wenn z.B. von unten nach oben umverteilt wird, oder wenn man bestimmte Gruppen von Menschen schon sprachlich abwertet, z.B. wertet „Asyltourismus“ die echte, reale Not der Menschen, einen sicheren Platz zum Leben zu finden, zum Erholungsurlaub ab. Das ist besonders gefährlich. Auch bei den Nazis fing es mit der Sprache und den Vorurteilen an.
      .
      Sorry, dass ich immer die Nazis anführe, aber sie sind eben das Paradebeispiel, wie man ein ganzes Volk lenkt und dazu bringt, zweierlei moralische Maßstäbe zu akzeptieren: Für uns und „die da“ – wahlweise Juden, Roma, Homosexuelle, Alkoholiker (Suchtkranke), psychisch kranke, Obdachlose – im Prinzip alle, die nicht dem Leitbild des Systems entsprechen und als Sündenbock taugen.
      Aktuell sind der Sündenbock für die soziale Verrohung – und der Druck, den viele Leute verspüren, nicht abzusteigen, geht damit einher -, der Sündenbock sind die Flüchtlinge. Sie werden für viele Probleme, die wir haben, verantwortlich gemacht.

      • Wenn ich rhetorisch doch auch nur so begabt wäre..😉
        Jedenfalls wird beim deutschen Volke immer gern ausgeblendet die Herren das Problem sind.
        Da ist es viel einfacher gegen Minderheiten zu hetzen und nach unten zu treten, denen es noch viel schlechter geht als uns, der Arbeiterklasse (gibt's den Begriff eigentlich überhaupt noch?). Aber so ist der Mensch nunmal. Habe früher in der Schule mal gelernt das wir heute gescheiter geworden sind. Aber wenn ich mich in Europa und Amiland so umschaue, dann haben wir alle nichts draus gelernt. Eigentlich ist es bitter, aber viel Hoffnung für uns habe ich nicht mehr...

Teilen
veröffentlicht von
Leonard Klint

Neuste Artikel

Wer hätte es gedacht: Ikonischster Videospielcharakter aller Zeiten bestimmt!

Am 11. April fanden die British Academy Film Awards oder auch kurz BAFTAs statt. In…

29. April 2024

Microsoft Teams: Schonfrist wird um 1 Jahr verlängert

Die App Microsoft Teams hat in den letzten Monaten einigen Auftrieb erhalten, indem sie durch…

29. April 2024

Im Juni ist es so weit: Datum für das diesjährige Ubisoft Forward-Event steht fest

Nachrichten aus dem Hause Ubisoft. Dort hat man beschlossen, das Forward-Event auch in diesem Jahr…

29. April 2024

Amazon Deal: Xbox Series S – Starter Bundle – 11 Prozent sparen

Microsoft kann Gaming – der Beweis dafür ist die beliebte Xbox Series S Spielekonsole. Wer…

29. April 2024

Microsoft Flight Simulator – der Deutschland-Patch ist da!

Der Microsoft Flight Simulator wird optisch weiter aufgewertet. Wir wissen, dass es auch unter unseren…

26. April 2024

Amazon Deal: INNOVAR Höhenverstellbarer Schreibtisch 120 x 60 cm – jetzt 15 Prozent sparen

Die meisten unserer Leser dürften zu Hause über einen Schreibtisch verfügen, an welchem nicht nur…

26. April 2024

Diese Webseite benutzt Cookies.