Αλγόριθμοι που βάσει συλλεχθέντων δεδομένων επιβραβεύουν ή τιμωρούν τους πολίτες μιας χώρας… Στην Κίνα ή στην Ινδία η λεγόμενη algorithmic governance, η διακυβέρνηση βάσει αλγορίθμων, είναι προ πολλού πραγματικότητα. Όμως και στη Γερμανία προγράμματα υπολογιστών λαμβάνουν ήδη αποφάσεις που έχουν επιπτώσεις για πολλούς ανθρώπους.

Στη διασταύρωση νοτίως της Γέφυρας Τσάνγκχονγκ στην κινεζική πόλη των εκατομμυρίων κατοίκων Σιανγιάνγκ επικρατεί κυκλοφοριακό χάος. Αμάξια κορνάρουν, πεζοί διασχίζουν το δρόμο με κόκκινο και ηλεκτρονικά πατίνια ελίσσονται μέσα στην κίνηση. Στην άκρη του δρόμου είναι αναρτημένη μια μεγάλη οθόνη με πάμπολλες φωτογραφίες προσώπων. Είναι απλώς μία από τις πολλές διαφημιστικές πινακίδες; Όχι. Η αστυνομία τοποθέτησε την οθόνη εκεί το 2017 για τη διασφάλιση της τάξης. Σε αυτήν προβάλλονται τα πρόσωπα όσων παραβίασαν στο συγκεκριμένο σημείο τον ΚΟΚ και εντοπίστηκαν από τις κάμερες αυτόματης αναγνώρισης προσώπου. Στόχος είναι «να τους ντροπιάσουμε στους γείτονες και τους συναδέλφους τους» είπε μια εκπρόσωπος Τύπου του Δήμου στους New York Times. Πλάι στις φωτογραφίες των ατόμων που στηλιτεύονται αναγράφονται τα ονόματα και οι αριθμοί των δελτίων ταυτότητάς τους. Πρόκειται για ένα διδακτικό μέτρο.

Διασχίζοντας το δρόμο με κόκκινο: Οι παραβάτες της τροχαίας καταγγέλλονται δημοσίως στην Κίνα. | Φωτογραφία (λεπτομέρεια): © picture alliance/dpa-Zentralbild/Klaus Grabowski

Οι οθόνες όπως αυτή στη Σιανγιάνγκ είναι ένα μικρό μόνο κομμάτι του μηχανισμού παρακολούθησης και ελέγχου της κυβέρνησης. Για το νέο του σύστημα κοινωνικής πίστωσης, το Κομμουνιστικό Κόμμα εγκαινίασε τα τελευταία χρόνια σε διάφορες πόλεις πιλοτικά προγράμματα στα οποία συλλέγει και συνδυάζει πληροφορίες από κάμερες παρακολούθησης, ιδιωτικές διαδικτυακές συνομιλίες, αγορές μέσω Ίντερνετ και πολλά άλλα. Στόχος είναι ως το 2020 να έχει ολοκληρωθεί η καταγραφή όλων των κατοίκων της χώρας σε ένα και μοναδικό σύστημα αξιολόγησης. Έτσι, μέσω του προγράμματος, που απαιτεί μια τεράστια υπολογιστική ισχύ, κάθε Κινέζος θα λάβει στο τέλος έναν αριθμό πόντων που θα ενημερώνεται διαρκώς από υπολογιστικούς αλγόριθμους. Το μέτρο φαντάζει εύλογο για την αυταρχική κυβέρνηση – μέσω αυτού θα ελέγχεται κάθε ένας από τους 1,4 δισεκατομμύρια Κινέζους.

ΕΛΕΓΧΟΣ ΚΑΙ ΤΙΜΩΡΙΑ ΜΕΣΩ ΑΛΓΟΡΙΘΜΟΥ

Κάνουμε λόγο για algorithmic governance όταν κυβερνήσεις ή κρατικές υπηρεσίες χρησιμοποιούν τις τεράστιες ροές δεδομένων από τα μέσα κοινωνικής δικτύωσης και άλλες πλατφόρμες και αφήνουν μηχανές να αποφασίσουν βάσει αυτών των δεδομένων εάν ένα πολίτης θα επιβραβευθεί ή θα τιμωρηθεί. Οι υπολογιστές αναγνωρίζουν πρότυπα και επαναλαμβανόμενες διαδικασίες και εφαρμόζουν αυτόματα πειθαρχικές κυρώσεις: Όποιος επιστρέφει άθικτο το κοινόχρηστο ποδήλατο που έχει νοικιάσει, δεν περνά ποτέ με κόκκινο και πηγαίνει στη δουλειά πάντα στην ώρα του, επιβραβεύεται με πόντους. Αντιθέτως, όποιος ασκεί διαδικτυακά κριτική στην κινεζική πολιτική ή –ακόμη κι αυτό είναι αρκετό– επικοινωνεί συχνά με άτομα που έχουν αξιολογηθεί αρνητικά, θα δει να μειώνεται συνεχώς ο αριθμός των πόντων του. Αυτό έχει σοβαρές επιπτώσεις: Στους ανθρώπους με χαμηλό σκορ απαγορεύεται, για παράδειγμα, η είσοδος σε αεροπλάνα και τρένα μεγάλης ταχύτητας. Ή η φοίτηση των παιδιών τους σε ιδιωτικά σχολεία.

Μια τόσο στενή παρακολούθηση των ανθρώπων μιας χώρας, η συλλογή κάθε είδους πληροφορίας για αυτούς και η χρήση των πληροφοριών αυτών εναντίον τους δεν είναι μόνο παραβίαση της ιδιωτικής σφαίρας αλλά αποτελεί και σημαντικό περιορισμό των προσωπικών ελευθεριών τους. Ωστόσο, η αξιολόγηση προσωπικών δεδομένων των πολιτών δεν συναντάται μόνο στην Κίνα. Στην Ινδία επιχειρείται επίσης η απόκτηση μιας σφαιρικής εικόνας του πληθυσμού μέσω της καταγραφής προσωπικών στοιχείων.  

Με την ονομασία Aadhaar («Θεμέλιο») δημιουργήθηκε μια βάση δεδομένων που περιλαμβάνει ήδη 1,2 δισεκατομμύρια εγγεγραμμένους χρήστες και άρα το μεγαλύτερο μέρος του πληθυσμού της Ινδίας. Με έναν δωδεκαψήφιο αριθμό, που αντιστοιχεί σε όνομα, ηλικία, αλλά και μια εικόνα σάρωσης της ίριδας του ματιού και σε δακτυλικά αποτυπώματα, μπορεί πλέον καθένας να πιστοποιήσει την ταυτότητά του πέραν κάθε αμφιβολίας και να υποβάλλει για παράδειγμα αίτηση για κοινωνικές παροχές. Στη θεωρία τουλάχιστον. Γιατί η Ινδή δημοσιογράφος Rachna Khaira κατέδειξε στις αρχές του έτους αδυναμίες του συστήματος: Ήρθε σε επαφή με χάκερς οι οποίοι για 500 ρουπίες μόνο, περίπου 6 ευρώ δηλαδή, της εξασφάλισαν πρόσβαση σε ολόκληρη τηβάση δεδομένων. Η βάση δεδομένων Aadhaar, που είχε στόχο να αποτρέψει την απάτη και την άδικη διανομή τροφίμων στις επιχειρήσεις επισιτιστικής βοήθειας, αποδεικνύεται όλο και περισσότερο ότι μάλλον δημιουργεί παρά επιλύει προβλήματα. Λέγεται πως άνθρωποι έχουν λιμοκτονήσει επειδή δεν μπόρεσαν να παρουσιάσουν έγγραφα ή επειδή η βιομετρική αναγνώριση δεν λειτούργησε. Πέραν αυτού, διαρροές του συστήματος έχουν ως συνέπεια τη δημοσίευση εκατομμυρίων συνόλων δεδομένων.

Οι γυναίκες εγγράφονται στη βάση δεδομένων Aadhaar στην Ινδία. | Φωτογραφία (λεπτομέρεια): © picture alliance / NurPhoto

ΚΑΙΡΟΣ ΓΙΑ ΜΙΑ ΣΥΖΗΤΗΣΗ ΠΕΡΙ ΔΕΔΟΜΕΝΩΝ ΣΤΗΝ ΕΥΡΩΠΗ

Το φαινόμενο της χρήσης αλγορίθμων στην ανάλυση δεδομένων δεν είναι ξένο ούτε και στην Ευρώπη. Σε αντίθεση όμως με τα επικίνδυνα πειράματα των δύο πολυπληθέστερων χωρών του κόσμου –της Κίνας και της Ινδίας– εδώ δεν είναι κατ’ ανάγκη κρατικοί φορείς αυτοί που χρησιμοποιούν μέσω υπολογιστή μεγάλες ποσότητες προσωπικών δεδομένων. Στη Γερμανία υπάρχει, για παράδειγμα, η Schutzgemeinschaft für allgemeine Kreditsicherung (Ένωση Γενικής Πιστωτικής Προστασίας), γνωστότερη ως Schufa. Η Schufa ισχυρίζεται ότι έχει καταχωρημένες 864 εκατομμύρια πληροφορίες για περίπου 67 εκατομμύρια ανθρώπους και 5 εκατομμύρια επιχειρήσεις. Το πώς ακριβώς λειτουργεί η διαδικασία, τα αποτελέσματα της οποίας λαμβάνονται τελικά υπόψη προκειμένου να κριθεί αν κάποιος μπορεί να νοικιάσει ένα διαμέρισμα ή να συνάψει ένα συμβόλαιο με μια εταιρεία κινητής τηλεφωνίας, παραμένει μυστικό. Άγνωστα είναι και τα κριτήρια που χρησιμοποιεί η Schufa. Υπάρχουν π.χ. ενδείξεις για το ότι οι γυναίκες αδικούνται στην αξιολόγηση.

Η Γερμανία απέχει πολύ από το να διαπομπεύει παραβάτες του ΚΟΚ προβάλλοντάς τους σε οθόνες. Παρ’ όλα αυτά, τίθεται το ερώτημα: Σε ποιο βαθμό πρέπει να επιτραπεί σε εταιρείες όπως η Schufa ή σε κρατικές υπηρεσίες να συγκεντρώνουν και να χρησιμοποιούν δεδομένα; Είναι καιρός να συζητηθεί η νομιμότητα της αλγοριθμικής διακυβέρνησης. Εν τέλει, το ζήτημα είναι εάν θέλουμε να παραδώσουμε τον έλεγχο της κοινωνίας σε μηχανές. Εάν χρησιμοποιηθούν σωστά, οι αλγόριθμοι μπορούν να λαμβάνουν αποφάσεις με τρόπο αποτελεσματικό, γρήγορο και δίκαιο. Όμως, αν κοιτάξει κανείς την τωρινή χρήση τους, τα πλεονεκτήματα αυτά δεν αντισταθμίζουν σε καμιά περίπτωση τις τεράστιες δυνατότητες κατάχρησης, την παραβίαση της ιδιωτικότητας του ατόμου και την έλλειψη διαφάνειας των διαδικασιών. 

Πηγή: Goethe-Institut Griechenland, ID-on't renounce my freedom