Big Brother και στην Κίνα – Συστήματα αναγνώρισης προσώπου δοκιμάστηκαν σε Ουιγούρους

Στην Σιντζιάνγκ της Κίνας χρησιμοποιήθηκε ένα σύστημα καμερών με τεχνητή νοημοσύνη και τεχνολογία αναγνώρισης προσώπου προκειμένου να αποκρυπτογραφήσει τα συναισθήματα των περαστικών.

Ένας προγραμματιστής υποστήριξε μιλώντας στο BBC ότι έχει εγκαταστήσει τέτοιου είδους συστήματα σε αστυνομικά τμήματα της επαρχίας.

Ένας ακτιβιστής ανθρωπίνων δικαιωμάτων, ο οποίος έχει δει σχετικές αποδείξεις, περιγράφει την αποκάλυψη ως «σοκαριστική».

Η κινεζική πρεσβεία του Λονδίνου δεν απάντησε ευθέως στους ισχυρισμούς, όμως δήλωσε ότι όλα τα πολιτικά και κοινωνικά δικαιώματα όλων των μειονοτήτων διασφαλίζονται στην κινεζική επικράτεια.

Η Σιντζιάνγκ είναι τόπος κατοικίας για περισσότερα από 12 εκατ. Ουιγούρους, οι περισσότεροι εκ των οποίων είναι μουσουλμάνοι.

Οι πολίτες της επαρχίας υπόκεινται σε διαρκή παρακολούθηση. Στην ίδια περιοχή βρίσκονται και τα εξαιρετικά αμφιλεγόμενα «κέντρα επανεκπαίδευσης», τα οποία χαρακτηρίζονται ως «στρατόπεδα συγκέντρωσης» από οργανώσεις ανθρωπίνων δικαιωμάτων, και όπου υπολογίζεται ότι κρατούνται περισσότεροι από 1 εκατ. άτομα.

Το Πεκίνο υποστηρίζει ανέκαθεν ότι η επιτήρηση είναι απαραίτητη για την περιοχή, επειδή όπως λέει υπάρχει μεγάλος αριθμός αποσχιστών που επιθυμούν να ιδρύσουν αυτόνομο κράτος και έχουν σκοτώσει εκατοντάδες ανθρώπους σε τρομοκρατικές επιθέσεις.

Ο προγραμματιστής συμφώνησε να μιλήσει στο πρόγραμμα του BBC «Panorama» με τον όρο της διατήρησης της ανωνυμίας του, επειδή φοβάται για την ασφάλειά του. Για αντίστοιχους λόγους δεν αποκάλυψε δημοσίως ούτε την εταιρεία στην οποία εργάζεται.

Όμως παρουσίασε στο Panorama πέντε φωτογραφίες Ουιγούρων κρατούμενων, επί των οποίων, όπως υποστηρίζει, δοκιμάστηκε το σύστημα αναγνώρισης συναισθημάτων.

«Η κινεζική κυβέρνηση χρησιμοποιεί τους Ουιγούρους ως πειραματόζωα για διάφορα πειράματα, ακριβώς όπως τα εργαστήρια χρησιμοποιούν ποντίκια», ισχυρίστηκε.

Και περιέγραψε τον ρόλο του στην εγκατάσταση καμερών σε αστυνομικά τμήματα της επαρχίας: «Τοποθετήσαμε την κάμερα ανίχνευσης συναισθημάτων τρία μέτρα μακριά από το άτομο. Μοιάζει με ανιχνευτή ψεύδους, η τεχνολογία της, όμως, είναι πολύ πιο προηγμένη».

Όπως εξήγησε, οι αστυνομικοί χρησιμοποιούσαν «καρέκλες με δεσμά», που είναι ευρέως διαδεδομένες στα αστυνομικά τμήματα της Κίνας.

«Οι καρποί σου είναι ακινητοποιημένοι από μεταλλικά δεσμά, και το ίδιο ισχύει και για τους αστραγάλους σου», υποστήριξε.

Επιπλέον, παρουσίασε στοιχεία για τον τρόπο με τον οποίο εκπαιδεύονται τα συστήματα τεχνητής νοημοσύνης προκειμένου να εντοπίζουν και να αναλύουν ακόμη και αμελητέες αλλαγές στις εκφράσεις του προσώπου – και στους πόρους του δέρματος.

Σύμφωνα με τους ισχυρισμούς του, το software δημιουργεί ένα γράφημα με μορφή «πίτας», με το κόκκινο τμήμα του να αντιπροσωπεύει το άγχος ή τις αρνητικές σκέψεις.

Επιπλέον, ισχυρίστηκε ότι το software έχει στόχο την «εξαγωγή κρίσεων χωρίς κανένα αξιόπιστο στοιχείο».

Η κινεζική πρεσβεία στο Λονδίνο δεν απάντησε σε ερωτήματα που αφορούσαν τη χρήση προγραμμάτων ανίχνευσης συναισθημάτων στην επαρχία, όμως δήλωσε στο BBC: «Τα πολιτικά, οικονομικά και κοινωνικά δικαιώματα και η θρησκευτική ελευθερία όλων των εθνοτικών ομάδων της Σιντζιάνγκ είναι πλήρως εγγυημένα».

«Οι άνθρωποι ζουν αρμονικά παρά την εθνοτική τους προέλευση και απολαμβάνουν μια σταθερή και ειρηνική ζωή χωρίς περιορισμούς στην προσωπική τους ελευθερία».

Τα στοιχεία του BBC τέθηκαν στη διάθεση της Σόφι Ρίτσαρντσον, διευθύντρια του Παρατηρητηρίου Ανθρωπίνων Δικαιωμάτων για την Κίνα.

«Το υλικό είναι σοκαριστικό. Όχι μόνο γιατί η ανθρώπινη φύση των πολιτών μειώνεται σε ένα γράφημα, αλλά και επειδή πρόκειται για άτομα που ζουν σε εξαιρετικά δύσκολες συνθήκες, βιώνοντας τεράστιες πιέσεις που τους κάνουν να αισθάνονται εύλογα νευρικότητα, η οποία στη συνέχεια αντιμετωπίζεται ως ένδειξη ενοχής – και αυτό είναι βαθιά προβληματικό».

Ύποπτη συμπεριφορά

Σύμφωνα με τον Ντάρεν Μπάιλερ, του Πανεπιστημίου του Κολοράντο, που μίλησε στο BBC, οι Ουιγούροι αναγκάζονται συχνά να δώσουν δείγματα DNA στην τοπική αστυνομία, και να υποβληθούν σε ψηφιακούς ελέγχους, ενώ οι περισσότεροι είναι υποχρεωμένοι να εγκαταστήσουν μια εφαρμογή της κυβέρνησης, που συγκεντρώνει στοιχεία από το κινητό τους, συμπεριλαμβανομένης της λίστας των επαφών τους και των γραπτών μηνυμάτων τους.

«Η ζωή των Ουιγούρων πλέον έχει στόχο τη συλλογή δεδομένων», υποστηρίζει.

«Όλοι γνωρίζουν ότι το κινητό είναι κάτι που είσαι αναγκασμένος να έχεις πάντα μαζί σου, κι αν δεν το έχεις μπορούν να σε συλλάβουν, ξέρουν ότι σε παρακολουθούν μέσα από αυτό. Κι έτσι αισθάνονται ότι δεν υπάρχει διέξοδος.

Τα περισσότερα δεδομένα καταλήγουν σε ένα πληροφορικό σύστημα που λέγεται Ολοκληρωμένη Ενιαία Πλατφόρμα Επιχειρήσεων, και η οποία σύμφωνα με το Παρατηρητήριο Ανθρωπίνων Δικαιωμάτων εντοπίζει και επισημαίνει τις «ύποπτες συμπεριφορές».

«Το σύστημα συγκεντρώνει πληροφορίες για δεκάδες διαφορετικά είδη απολύτως νόμιμων συμπεριφορών, συμπεριλαμβανομένων πραγμάτων όπως η ώρα κατά την οποία οι άνθρωποι επιλέγουν να χρησιμοποιήσουν την πίσω αντί για την μπροστινή πόρτα του σπιτιού τους ή αν έβαλαν βενζίνη σε ένα αυτοκίνητο που δεν τους ανήκει», εξηγεί η Ρίτσαρτσον.

«Οι αρχές πλέον τοποθετούν QR Codes στις εξώπορτες των σπιτιών προκειμένου να μπορούν να μάθουν με ευκολία ποιος θα έπρεπε να είναι εκεί και ποιος λείπει.

Εδώ και πολύ καιρό εκφράζονται διάφορες απόψεις για το πόσο στενή είναι η σχέση των κινεζικών τεχνολογικών εταιρειών με το κράτος. Η αμερικανική ερευνητική οργάνωση IPVM υποστηρίζει ότι έχει αποκαλύψει στοιχεία σε αιτήσεις για διπλώματα ευρεσιτεχνίας που έχουν υποβάλει τέτοιου είδους εταιρείες και τα οποία δείχνουν ότι τα προγράμματα αναγνώρισης προσώπου σχεδιάστηκαν ειδικά για την αναγνώριση των Ουιγούρων.

Μια αίτηση που κατατέθηκε το 2018 από την Huawei και την Κινεζική Ακαδημία Επιστημών περιγράφει ένα προϊόν αναγνώρισης προσώπων που είναι ικανό να αναγνωρίσει άτομα βάσει της εθνικότητάς τους.

Η Huawei απάντησε σχετικά ότι «δεν συμφωνεί με τη χρήση τεχνολογιών με στόχο τις διακρίσεις ή την καταπίεση μελών της οποιασδήποτε κοινότητας» και ότι η ίδια είναι «ανεξάρτητη από την κυβέρνηση» σε κάθε χώρα όπου δραστηριοποιείται.

Η οργάνωση έχει ανακαλύψει επίσης ένα έγγραφο που φαίνεται να υπονοεί ότι η εταιρεία ανέπτυσσε μια τεχνολογία για ένα σύστημα που αποκαλούνταν «Ένα Πρόσωπο, Ένας Φάκελος».

«Για κάθε πρόσωπο, η κυβέρνηση θα αποθήκευε προσωπικές πληροφορίες, πολιτικές δραστηριότητες, σχέσεις… οτιδήποτε θα τη βοηθούσε να προβλέψει τη συμπεριφορά του και να εκτιμήσει τον βαθμό της απειλής του προς το κράτος», εξηγεί ο Κόνορ Χίλι της IPVM.

«Καθιστά αδύνατη την οποιαδήποτε πολιτική αντίσταση και καθιστά τη συμπεριφορά των πολιτών πραγματικά προβλέψιμη για το κράτος. Δεν πιστεύω ότι ο Όργουελ θα μπορούσε ποτέ να φανταστεί ότι μια κυβέρνηση θα ήταν ικανή για ανάλυση αυτού του είδους».

Η Huawei δεν απάντησε ευθέως σε ερωτήματα για την εμπλοκή της στην ανάπτυξη τεχνολογιών για το σύστημα «Ένα Πρόσωπο, Ένας Φάκελος», όμως σημείωσε: «Η Huawei αντιτίθεται στις διακρίσεις κάθε είδους, συμπεριλαμβανομένης της χρήσης τεχνολογίας για την άσκηση διακρίσεων εις βάρος συγκεκριμένων εθνοτήτων».

«Ως ιδιωτική εταιρεία, η Huawei είναι ανεξάρτητη από την κυβέρνηση, σε κάθε μέρος που δραστηριοποιείται. Δεν συμμεριζόμαστε τη χρήση τεχνολογίας για την άσκηση διακρίσεων εις βάρος των μελών της οποιασδήποτε κοινότητας».

Η κινεζική πρεσβεία στο Λονδίνο υποστηρίζει ότι «δεν έχει την παραμικρή γνώση» για τέτοιου είδους προγράμματα.

Η IPVM υποστηρίζει επίσης ότι έχει εντοπίσει υλικό από το marketing της κινεζικής εταιρείας Hikvision, η οποία φέρεται να διαφήμιζε κάμερα τεχνητής νοημοσύνης για την αναγνώριση Ουιγούρων, αλλά και ένα δίπλωμα ευρεσιτεχνίας που αφορούσε πρόγραμμα που ανέπτυξε η Dahua, ένας άλλος τεχνολογικός κολοσσός, και το οποίο επίσης θα ήταν σε θέση να αναγνωρίσει τους Ουιγούρους.

Η Dahua υποστηρίζει ότι η πατέντα αυτή αναφερόταν και στις 56 αναγνωρισμένες μειονότητες της Κίνας και δεν στοχοποιούσε εσκεμμένα καμία εξ ατών.

Επιπλέον πρόσθεσε ότι παρέχει «προϊόντα και υπηρεσίες που έχουν στόχο τη διασφάλιση της ασφάλειας των πολιτών» και ότι συμμορφώνεται «στους νόμους και τους κανονισμούς της κάθε αγοράς» εντός της οποίας δραστηριοποιείται.

Η Hikvision υποστηρίζει ότι οι πληροφορίες στον ιστότοπό της είναι λανθασμένες και «αναρτήθηκαν στο διαδίκτυο χωρίς επαρκή έλεγχο», προσθέτοντας ότι δεν πωλεί ούτε διαθέτει στη γκάμα των προϊόντων της «τεχνολογία αναγνώρισης μειονοτήτω».

Ο Δρ. Λαν Ζουέ, επικεφαλής της Εθνικής επιτροπής της Κίνας για τον έλεγχο της τεχνητής νοημοσύνης, ανέφερε ότι δεν γνωρίζει τίποτα για τα συγκεκριμένα διπλώματα ευρεσιτεχνίας.

«Εκτός Κίνας υπάρχουν πολλές κατηγορίες αυτού του είδους. Πολλές από αυτές είναι ανακριβείς και αναληθείς», δήλωσε στο BBC.

«Πιστεύω ότι η τοπική κυβέρνηση της Σιντζιάνγκ έχει την ευθύνη να προστατεύσει ουσιαστικά τους πολίτες της… αν η τεχνολογία χρησιμοποιείται για τέτοιους λόγους, αυτό είναι αρκετά κατανοητό», συμπλήρωσε.

Η κινεζική πρεσβεία στη Βρετανία ακολούθησε πιο δυναμική γραμμή άμυνας λέγοντας: «Δεν υπάρχει κανενός είδους “τεχνολογία αναγνώρισης προσώπου” που να εστιάζει στους Ουιγούρους».

Καθημερινή επιτήρηση

Η Κίνα εκτιμάται ότι στεγάζει περίπου τις μισές από τις περίπου 800 εκατ. κάμερες παρακολούθησης που υπάρχουν στον κόσμο.

Επιπλέον, διαθέτει έναν μεγάλο αριθμό «έξυπνων» πόλεων, όπως η Τσονγκκίνγκ, όπου η τεχνητή νοημοσύνη έχει ενταχθεί στα ίδια τα θεμέλια του αστικού περιβάλλοντος.

Ο δημοσιογράφος Χου Λιου που ζει στη συγκεκριμένη πόλη, μοιράστηκε τη δική του εμπειρία στο Panorama. «Από τη στιγμή που βγαίνεις από το σπίτι σου και μπαίνεις στο ασανσέρ, καταγράφεσαι από κάμερα. Υπάρχουν κάμερες παντού».

«Όταν βγαίνω από το σπίτι για να πάω οπουδήποτε, καλώ ταξί και η εταιρεία του ταξί αναρτά τα δεδομένα υπ’ όψιν της κυβέρνησης. Στη συνέχεια μπορεί να πάω σε ένα καφέ για να συναντήσω λίγους φίλους και οι αρχές ξέρουν αμέσως πού βρίσκομαι μέσω της κάμερας στο καφέ».

«Έχουν υπάρξει περιπτώσεις που συναντάω κάποιους φίλους και λίγο μετά κάποιος από την κυβέρνηση έρχεται σε επαφή μαζί μου. Με έχουν προειδοποιήσει να μην συναντιέμαι με συγκεκριμένα άτομα, να μην κάνω συγκεκριμένα πράγματα».

«Με την τεχνητή νοημοσύνη δεν μπορείς να κρυφτείς πουθενά», κατέληξε.