Unsere Daten, der Facebook-Skandal, Chinas Social Credits – und der Weg in eine dystopische Zukunft

Social Media. Quelle: Pixabay

Wer hier schon länger ließt, der hat ggf. schon bemerkt das der Datenschutz & Co. hier neben der Gesundheit ein Thema ist, das immer mal wieder auftaucht. Das ganze ist einer meiner anderen Passionen sowie einem tiefen und breiten Hintergrund in IT, Kommunikationstechnologien & Elektronik ‘geschuldet’. Dieser Hintergrund und das daraus für mich gewonnene Verständnis ist auch ein Grund, warum ich noch nie einen Facebook, WhatsApp, Twitter, Instagram, etc. pp. Account hatte – und auch in Zukunft nicht haben werde.

Dabei bin ich kein ‘Luddite‘ oder technikfeindlicher Mensch – ganz im Gegenteil, was auch dieses Blog und z.B. meine Artikel über Windows 10, LineageOS, VeraCrypt, WordPress & Co. (augenscheinlich) belegen sollten. Ich verstehe all diese Technologien, habe selber Hardware, Treiber für Windows, mobile (Web-)Applikationen auf Server & Smartphone, etc. pp entwickelt – und weiß so (hoffentlich) halbwegs wovon ich spreche bzw. schreibe 😉

Facebook-Skandal und Cambridge Analytica – der aktuelle ‘Aufreger’….

Oh Schreck! Quelle: Pixabay

… der eigentlich keiner ist. Wer die Berichterstattung um Facebook verfolgt hatte und 1 + 1 zusammenzählen wollte, der weis das Facebook (inkl. WhatsApp) alles über einen speichert was geht. Nichts bleibt ungenutzt – und Facebook verheimlicht das nicht einmal [1]. Ob das nun komplett ist? Keine Ahnung… – jedoch sind diese Daten schon mal sehr, sehr umfassend und können schnell mehrere Gigabyte (GB) groß werden.

Das Facebook dann die Daten an Partnerunternehmen verkauft? Ja, ‘Hallo?’ – womit verdienen die denn sonst ihr Geld? Das dann auch mal Daten abhanden kommen oder von anderen trotz ‘Verbot’ nicht gelöscht werden – das passiert sogar der (deutschen) Polizei [2, 3, 4, 5, 6] und anderen Behörden, wie z.B. bei über eine Milliarde (nicht Millionen!) Datensätzen in Indien [7].

Warum werden Facebooks (& Co.) Praktiken erst jetzt ein Thema?

Ja, das hatte ich mich auch gefragt, bis ich ein aktuelles Video von Dirk Müller (‘Mr. Dax’) [8] gesehen habe in dem er über (einige der vermeintlichen) Zusammenhänge spekuliert. Zusammenfassend geht er davon aus, das Änderungen im Datenschutz und Verpflichtungen der Anbieter dazu führen, das die Daten in den Unternehmen wo sie (natürlich weiterhin) anfallen (und gespeichert werden) verbleiben sollen. Das wird dann jedoch auch dazu führen, das die Datenkraken Marktführer (Google, Facebook, Amazon, etc.) gestärkt werden – und kleine Anbieter, Blogs, Startups, etc. (welche sich u.a. über Werbung und den Verkauf der Daten finanzieren) unter Druck kommen.

Interessant wird es dann jedoch wenn Müller auf ein Dokument vom letzten Weltwirtschaftsgipfel (WEF) in Davos (2018) hinweist, wo seitens der großen Internetkonzerne den Regierungen ein ‘Angebot’ (O-Ton Müller) übergeben wurde. Das Dokument hat den Titel ‘The Known Traveler’ (der bekannte Reisende), in dem den Nutzern die Kontrolle der Daten wieder zurück zu übertragen wird (also genau das was jetzt diskutiert wird) und in dem es sich um ein lückenloses Reisemanagement auf Basis digitaler Identitäten u.a. auf Basis der Daten der großen (Internet-) Konzerne dreht [9]. Die Autoren stammen dabei aus einer illustren Gruppe von (staatlichen) Sicherheitsbehörden, Unternehmensberatungen, Zahlungsdienstleistern, Internetkonzernen (Google & Co.) und Reiseanbietern… dazu gleich mehr.

The Known Traveler…

In dem Dokument geht es dann erst einmal darum das Personen bei Buchung, Grenzkontrollen & Co. den jeweiligen Firmen oder Behörden ‘Freiwillig’ den Zugriff auf ein Rating – basierend auf den in einzelnen Konzern-Clouds gespeicherten (persönlichen) Daten – geben können. All das natürlich um alles sicherer, einfacher und schneller zu machen. Mitteils KI-Algorithmen & Co. treten dann (privaten) Konzerne als Zuträger der vorgenannten (Risiko- und Sicherheits-) Bewertungen zu den einzelnen Personen (z.B. beim Grenzübertritt) auf. Da die Daten die Konzerne (in Zukunft) ja ggf. nicht mehr verlassen sollen – kann das ganze auch nicht anders funktionieren…

Schon heute gibt es Studien dazu, das z.B. mittels 150 Facebook ‘likes’ ein Charakter einer Person besser vorausgesagt werden kann, als das der Ehepartner könnte [10]. Aus dem Telegraph dazu:

“Cambridge University researchers have developed software based on Facebook ‘likes’ which can predict human personality types better than close family members”

Und das sind/waren nur die Daten von ein paar ‘likes’ und es war auf dem (KI-)Stand von vor 3 Jahren. Werden alle diese Daten akkumuliert und ausgewertet – und mit Daten von Menschen korreliert die z.B. kriminell sind oder nicht ins Raster bzw. die gesellschaftliche oder von der Politik (gewollten) Schablone passen – dann kann das durchaus krasse Folgen haben. Letzteres praktiziert u.a. schon China mit Vorläufern des so genannten ‘Social Credits’ Programms, was zu 2020 verbindlich für alle Chinesen eingeführt werden soll [11] – doch dazu später noch mehr. Es soll hier nur deutlich werden, das dass alles keine (theoretische) Spinnerei ist, sondern die teils schon real existierende Praxis.

Ob dann all die später verwursteten Daten korrekt erhoben werden (bzw. wurden), ob die KI-Algorithmen & Schlussfolgerungen zuverlässig sind, ob die Ergebnisse stimmen – das ist dann noch einmal eine (ganz) andere Diskussion. Wichtig ist hier noch einmal: Private Konzerne erledigen (in dem ‘The Known Traveler’ Szenario) die Bewertung auf Basis der Daten die diese über uns gespeichert haben! Das dies einer aufgeklärten, freien, demokratischen und humanistischen Gesellschaft unwürdig ist – ich denke darüber muss ich mit kaum wem diskutieren… Jedoch entscheiden dann diese Daten und die (daraus generierten) Bewertungen der (privaten!) Konzerne in der Zukunft (wenn es so kommen sollte) noch mehr über Ihr Leben. Und glauben Sie, das all dies viel besser wird als aktuell bei der Schufa-Auskunft – wo in fast jeder zweiten Auskunft Fehler enthalten sind? [12].

Ja und? – solange es ‘freiwillig’ ist…

Keine Privatspähre. Quelle: Pixabay

Das Problem ist, das wenn ein solches System eingeführt wird Sie schnell zwei Möglichkeiten haben: Schlange 1 -> Sie geben Ihre Daten ‘freiwillig’ frei, oder Schlange 2 -> Sie warten viele, viele Stunden…. und irgendwann gibt es dann die Option der Schlange 2 nicht mehr. Dann müssen Sie ‘unfreiwillig freiwillig’ zustimmen – oder Sie schränken Ihr Leben, Ihre Mobilität, etc. pp. krass ein… bis auch das nicht mehr klappt.

Spinnerei? Dazu eine aktuelle Meldung von Heise.de:

“Die US-Regierung will nun doch von allen Bewerbern für ein Visum eine Auflistung ihrer Accounts in sozialen Netzwerken verlangen, die in den fünf Jahren vor dem Visumsantrag benutzt wurden. Das geht aus einem Vorschlag des US-Außenministeriums hervor, der am Freitag veröffentlicht wurde und nun 60 Tage lang von der Öffentlichkeit kommentiert werden kann.” … “…sowie die in diesem Zeitraum genutzten Telefonnummern und E-Mail-Adressen. Nach Passwörtern werden sie – anders als zwischenzeitlich überlegt – nicht gefragt.”

So fängts an… sie müssen ja nicht in die USA reisen – sagen dann ggf. einige. Was ist, wenn Sie in den USA verwandte haben? oder ihre Kinder dort leben? bzw. Sie beruflich ‘angehalten’ sind dort hin zu reisen? Also werden die Daten in der Regel preis gegeben – genau wie es bei den Fingerabdrücken der Fall ist. Ich schreibe aus eigener Erfahrung. Und wer glaubt, das ‘die Dienste’ & Co. nicht auf die Daten zugreifen können… der sollte weiter glauben… im Jahre 5 nach Snowden.

China’s Social Credit System – verpflichtend ab 2020

Das ganze hat mich jedoch sofort an das Social Credit System in China erinnert. Dort gibt es teils schon heute – und wohl ab 2020 verpflichtet für alle Chinesen. Es ist ein System (bzw. Systeme) bei denen die Einwohner einen Score bekommen (ähnlich wie bei der Schufa-Score). Das ist eine Punktezahl, z.B. von 0 bis 200, bei der Sie dann bei 100 starten. Für jedes systemkonforme oder von der Regierung gewünschte Verhalten bekommen Sie Plus-Punkte – für alles nicht gewünschte, Protest, Widerstand, kleine Vergehen, etc. pp. Abzüge.

Haben Sie ein Blog oder posten bei den chinesischen Versionen von Facebook, Twitter & Co. Dinge die unerwünscht sind – dann gibts Abzüge. Nehmen Sie an Demonstrationen Teil? Dann…. Haben Sie Kontakt zu Menschen die selber einen geringen Score haben? – auch nicht gut. Oder stehen Personen mit schlechtem Rating in Ihrem Telefonbuch – oder haben Sie diese ge-‘liked’? Auch dann gibt es Abzüge – kein Witz! Einen sehr guten Einstieg gibt dieses Video von CCC Kongress 2017 zur Thematik [14]. Heise.de fasst in einer Meldung zu dem CCC-Vortrag folgendes in der Artikelüberschrift zusammen:

“Bonuspunkte für staatstreues Verhalten, Abzüge für Regimekritik – ab 2020 soll ein “Social Credit System” für alle Bürger Chinas verpflichtend werden. Die Internet-Konzerne des Landes mischen mit.”

Spiegel.de hat dann noch ein interessantes Interview [15] mit der Vortragenden auf dem CCC, wo diese dann zum nachlesen erklärt welche Auswirkungen die Vorläufersysteme der chinesischen Internetriesen (z.B. Sesame) u.a. bei Dating-Portalen schon heute haben – und auch warum diese Systeme (‘Gamified Control’ -> Spielerische Kontrolle) scheinbar gut angenommen werden. Interessant im Kontext auf eine Aussage die sich in der ‘The Known Traveler’ Initiative spiegelt:

“Auch uns in westlichen Ländern werden immer schärfere Überwachungsmaßnahmen als etwas Positives verkauft – als Schutz vor Terror zum Beispiel. Es gibt den internationalen Trend, soziale Probleme durch Technologie und Kontrolle zu lösen. Aber dieser Ansatz ist hochproblematisch.”

Und verkauft werden dann – wie ich China – die scheinbaren Vorteile. Und wer dann z.B. in China Kritik an dem System übt – der bekommt (demnächst) einen Punkteabzug und hält sich zukünftig, vorbeugend oder ‘freundlich bedeckt’ zurück – und lobt lieber das neue System. Denn die potentiellen Nachteile können groß sein – und auch bei uns haben schon heute die ‘kleinen’ Bewertungssysteme wie Schufa & Co. konkrete Auswirkungen auf unser Leben, Kreditvergabe, Arbeits- und Wohnungssuche, etc. pp.

Das Krasse jedoch am chinesischen System ist der ‘Gamified’ Aspekt – die Menschen werden sich in der Regel selber zensieren und alles tun um mehr Punkte zu bekommen, damit Sie im Wettbewerb um Arbeitsplatz, Wohnung, Onlinedating, Vorteile & Co. besser dastehen. Das alles hat dann noch mal eine ganz andere Qualität als Orwells dystopisches 1984 oder selbst die Brave New World von Huxley – denn in diesem Szenario zensieren und dressieren sich die Menschen selber. Zwar wird deutlich mehr überwacht & aufgezeichnet – die Bestrafung läuft jedoch viel subtiler ab.

In der Digitalisierung ist China bereits viel weiter…

Digitalisierung. Quelle: Pixabay

Wo in Deutschland viele Politiker und Firmenlenker von ‘Digitalisierung’ sprechen – und keiner so genau weiß was das nun wirklich ist, ist es in China schon der Alltag. Digitalisierung ist nicht irgend eine Initiative, sondern die konsequente Nutzung von digitalen Techniken & Daten(austausch) in möglichst vielen Bereichen des Wirtschaftens und des (täglichen) Lebens zur Steigerung der Effizienz & der Wirtschaftlichkeit. Mit Lebensqualität hat das erst einmal nichts zu tun… insofern bin ich erst mal froh, das Deutschland hier ‘Nachzügler’ ist.

In China wird z.B. heute schon in der Regel mit dem Smartphone und WeChat-Pay oder Alipay gezahlt (quasi soetwas wie WhatApp-Pay und Paypal – nur viel, viel größer). Das ganze ist so verbreitet, das selbst bei der kleinsten Reisküche oder bei einem fliegenden Gemüseverkäufer damit bezahlt werden kann, wodurch natürlich genauste Konsum-, Nutzungs- und Bewegungsprofile anfallen. Wer das und noch viel mehr von dem was in China ‘ab geht’ (u.a. im Kontext der Social Credits) erfahren und verstehen möchte, den verweise ich auf einen Artikel bei Wired.com [18].

Kurzum: In China ist die digitaliserung des Alltages deutlich ‘weiter’ als in Deutschland & Co.: Es wird digital bezahlt, gedatet, geshopt, gechattet, etc. pp. Dazu kommen Daten aus (Kamera-) Überwachung [17] und den chinesischen Versionen von Facebook & WhatsApp, Amazon, eBay, Uber & Co. – also insbesondere Tencent und Alibaba, aber auch Fahrdienstleistern wie Didi und andere. Da es in China faktisch keinen Datenschutz gibt (auch bei uns steht der oft nur auf dem Papier) und sich die Marktmacht auf wenige Unternehmen konzentriert – sind viele Chinesen schon heute deutlich transparenter als wir. Was das dann in Bezug auf die Social Credit Systeme bedeuten kann, darüber berichtet z.B. der australische Nachrichtensender ABC [19]:

“Chinese authorities claim they have banned more than 7 million people deemed “untrustworthy” from boarding flights, and nearly 3 million others from riding on high-speed trains, according to a report by the country’s National Development and Reform Commission.”

Also 7 Millionen Chinesen, welche aktuell schon Probleme haben Flüge zu buchen oder die chinesischen ICEs zu besteigen. Selbst ein verlorenes Gerichtsverfahren kann dazu führen auf diese Liste zu kommen. Gefüttert wird das System schon heute über die Zentralisierung und Auswertung von Kameras, Kontodaten, etc. pp. Was für ‘kuriose’ Auswirkungen das haben kann, zeigen Pilotprojekte z.B. in Xiamen, wo bei Telefonanrufen bei Menschen auf den schwarzen Listen Ansagen vorgeschaltet werden:

“In Xiamen, where the development of a local social credit system started as early as 2004, authorities reportedly automatically apply messages to the mobile phone lines of blacklisted citizens.” … “‘The person you’re calling is dishonest,’ whoever calls a lowly-rated person will be told before the call is put through.”

Ein Vorgeschmack… und natürlich machen die Konzerne mit, ansonsten würde die Regierung diesen sehr, sehr viel Stress machen. Das kann sich natürlich ein (börsennotierter) Konzern nicht leisten. Das mitmachen, fleißig ‘datensammeln’ bringt hingegen noch extra Umsatz und potentiell Geld in die Kasse.

Meine Quintessenz

China zeigt für mich klar auf wohin die Reise geht. Über die Bewertungen und Punktesysteme in China – welche schon heute und in Zukunft noch mehr Auswirkungen auf das alltägliche Leben haben werden – werden die Menschen ‘freiwillig’ dazu ‘angehalten’ sich Systemkonform zu verhalten. Ich sehe dieses u.a. vorbeugend in Bezug auf eine Welt in der es zukünftig nicht mehr ganz so reibungslos läuft. Wenn dann auch das Wachstum in China stockt, dann braucht die Partei dort andere Mittel und Wege um die Bevölkerung zu steuern und soziale Unruhen schon im Vorfeld zu ersticken – bzw. eine Teilnahme an diesen sehr, sehr unattraktiv erscheinen zu lassen (-> Selbstzensur).

Da unsere (westlichen) Regierungen & Regime solch einen autoritären und zentralistischen Ansatz wie in China mit einem harten Datum der Einführung (noch) nicht so einfach ziehen können – gibt es (nicht nur) meiner Ansicht nach eine Einführung in Raten, schön verpackt mit einem Schleifchen. Wer die Entwicklung seit 2001 verfolgt hat – der wird nicht einmal überrascht sein (TKÜV, Ausweitung polizeilicher Befugnisse, Abschaffung des Bankgeheimnisses, etc.).

Aber die DSGVO!

Wer denkt, das da eine Datenschutzgrundverordnung (DSGVO) der EU weiterhilft, wie ein Artikel bei Heise.de Artikel in Aussicht stellt [21], der sollte dazu mal unseren (ehemaligen) Innenminister Thomas de Maizière lesen – der das in Bezug auf das ‘berechtigte Interesse’ von Datensammlern und Verarbeitern deutlich anders [22][24]. Der Digital Courage e.V. merkte schon 2014 zum Entwurf der DSGVO [23] folgendes an :

“Digitalcourage hat das sogenannte „berechtigte Interesse“ (Art. 6, Abs. 1, Buchstabe f), auf dessen Grundlage Datenverarbeitung stattfinden darf, ebenfalls schon mehrfach kritisiert. Diese Regelung ist zu unbestimmt…” und “Es fehlt – wie ebenfalls schon mehrfach kritisiert – eine genaue Definition des ‘berechtigten Interesses’, …””

Mein Fazit: Wo die Bürger beim Datenschutz an Grundrechte denken, da denken Politiker wie Maizière an die wirtschaftlichen Interessen der Unternehmen (oder Überwachung). Bei wirksamen Strafen in Bezug auf Missbrauch von Firmen oder Behörden sieht es dann auch ganz Karg aus – und ohne effektive Kontrolle, sowie Strafe bei Missbrauch, ist auch ein Gesetz oder Grundrecht ein zahnloser Tiger.

Ach ja: Das Szenario was Mr. Dax beschreibt basiert ja auf ‘Freiwilligkeit’ und steht nicht in Konflikt mit der DSGVO bzw. dem Datenschutz, Lösch- und Auskunftsrechten, etc. pp.

Was mache ich?

Mein Leit-Motto ist: “Daten die einmal angefallen, gespeichert und/oder veröffentlicht sind gehen nicht mehr weg.”

So ist das einzige was meiner Ansicht nach etwas hilft die Datensparsamkeit. Denn was es nicht gibt, das kann nicht ausgewertet oder anderweitig verwurstet werden. Deswegen auch meine Artikel und Datenschutz-Praktiken in Bezug auf Verschlüsselung, LineageOS (als Alternative zum Google-Android), Windows 10 & Co. Erwähnenswert in Bezug auf die Datensparsamkeit ist ggf. noch das Bargeld – aber die steht ja schon unter Beschuss

Wer mal einen Google Takeout gezogen – oder einen Datendump bei Facebook gemacht hat [1] wird ggf. selber erschrecken [20] was da alles gespeichert wird. Und das die Internet-Konzerne wie Google dem Militär und Geheimdiensten durchaus nahe stehen, das sollte keinen Wundern – selbst wenn es den Google-Mitarbeitern nicht so richtig klar zu sein scheint.

Dazu kommen dann natürlich noch Daten bei anderen Anbietern, Webforen, Twitter, Facebook, WhatsApp, die Apple Cloud (für die, die ein iPhone & Co. nutzen), Statistiken die beim Lesen von E-Books oder beim Schauen von Videos über Netflix, Amazon Prime & Co. anfallen. Die potentielle Liste ist schier endlos. Dann gibt es noch Kunden- und Rabattkarten (Deutschlandcard, Payback, etc.), Zahlungen mit Paypal, EC- und Kreditkarte, die Spuren die man mit der MAC-Adresse (aktiviertes WLAN & Bluetooth) vom Smartphone hinterlässt – mal ganz abgesehen von den Bewegungsprofilen die über den aktivierten Mobilfunk oder die Videoüberwachung an vielen (öffentlichen) Orten erzeugt werden bzw. anfallen. Mit immer neuen und verbesserten Algorithmen können dann auch Bestandsdaten retrospektiv noch neue Erkenntnisse liefern – oder in 10 Jahren für Dinge verwendet werden an die wir heute selber noch gar nicht denken.

Insofern sehe ich auch meine Aktivitäten hier in diesem Blog durchaus (sehr) kritisch und habe mir diesen Schritt lange überlegt. Eine Analyse der Artikel hier offenbart ja auch einiges über mich…

 


Links / Quelle