Εικόνα: ευγενική προσφορά, Laís Martins

Κάθε μέρα, σχεδόν 5 εκατομμύρια άνθρωποι χρησιμοποιούν το μετρό του Σάο Πάολο. Κάθε πρόσωπό τους μπορεί να έχει καταγραφεί σε ένα σύστημα αναγνώρισης προσώπου, που χρησιμοποιείται από τις αρχές του 2020. Σε μια απόφαση της 23ης Μαρτίου 2022, ένα δικαστήριο της Πολιτείας του Σάο Πάολο διέταξε την εταιρεία του Μετρό να σταματήσει να χρησιμοποιεί την τεχνολογία.

Το Μετρό άσκησε έφεση κατά της απόφασης υποστηρίζοντας ότι το σύστημα παρακολούθησης «υπακούει αυστηρά τον Γενικό Νόμο για την Προστασία Δεδομένων», αλλά το επιχείρημα απορρίφθηκε από το ίδιο δικαστήριο στα μέσα Απριλίου.

Η απόφαση θεωρείται νίκη για μια ομάδα φορέων της κοινωνίας των πολιτών, που κατέθεσαν τη δημόσια αγωγή για να σταματήσει αυτή τη συλλογή δεδομένων, την οποία θεωρούν αντισυνταγματική και μη συμβατή με το νομικό πλαίσιο της Βραζιλίας για τα ψηφιακά πολιτικά δικαιώματα.

Στις αρχές Μαρτίου 2022, αυτή η ομάδα φορέων υπέβαλε αστική δημόσια αγωγή κατά του κρατικού μετρό του Σάο Πάολο απαιτώντας να διακόψει αυτή τη συλλογή δεδομένων και να καταβάλει αποζημίωση για συλλογική ηθική βλάβη τουλάχιστον 42 εκατομμυρίων ρεάλ (περίπου 8,5 εκατομμυρίων δολαρίων).

Η ομάδα, όμως, φιλοδοξεί να έχει μεγαλύτερο αντίκτυπο πέρα ​​από τις γραμμές του μετρό του Σάο Πάολο. Προσπαθούν να διαδραματίσουν ρόλο στη διαμόρφωση της νομολογίας σχετικά με τις τεχνολογίες αναγνώρισης προσώπου σε μια χώρα, της οποίας το νομικό πλαίσιο αναφέρει ελάχιστα έως τίποτα για τέτοια συστήματα. 

«Αυτή η απόφαση μπορεί να έχει εθνικό αντίκτυπο σε αυτό που συζητάμε επί του παρόντος για τον τρόπο εφαρμογής του Γενικού Νόμου για την Προστασία Δεδομένων, για ένα προστατευτικό νομικό πλαίσιο ακόμα νέο και σε διαδικασία διαμόρφωσης νομολογίας και συνεννόησης στο δικαστικό σύστημα», εξήγησε η Sheila de Carvalho, συντονίστρια του Κέντρου Νομικής Αναφοράς στο Άρθρο 19 Βραζιλίας και Νότια Αμερικής.

Το Άρθρο 19 είναι ένας από τους οργανισμούς που υπέγραψαν την αγωγή, μαζί με το Γραφείο Δημόσιων Συνήγορων της Πολιτείας του Σάο Πάολο, το Ομοσπονδιακό Γραφείο Συνήγορων του Δημοσίου, το Ινστιτούτο της Βραζιλίας για την Προστασία των Καταναλωτών (Idec), την Intervozes, μια συλλογικότητα κοινωνικών επικοινωνιών, και την CADHu, Συλλογικότητα Συνηγορίας Ανθρωπίνων Δικαιωμάτων.

Η Carvalho εξήγησε ότι βασικός στόχος της αγωγής είναι να πυροδοτήσει τη συζήτηση σχετικά με τον τρόπο χειρισμού των προσωπικών δεδομένων, την ανάγκη για συναίνεση και τον διακριτικό αντίκτυπο και τις κοινωνικές προκαταλήψεις αυτών των μεθόδων συλλογής δεδομένων.

«Αυτή η αγωγή [συμπεριλαμβανομένων των επιχειρημάτων σε αυτήν] ανοίγει το δρόμο για να καθορίσουμε περισσότερες προστατευτικές παραμέτρους όσον αφορά τη χρήση προσωπικών δεδομένων», είπε η δικηγόρος στο Global Voices κατά τη διάρκεια βιντεοσκοπημένης συνέντευξης.

Τα τελευταία χρόνια, τα μέλη του Κογκρέσου έχουν προτείνει νομοσχέδια, που επιχειρούν να ρυθμίσουν και να θεσπίσουν διαδικασίες για την εφαρμογή της τεχνητής νοημοσύνης, ιδιαίτερα όσον αφορά τη δημόσια ασφάλεια. Η Γερουσία, ωστόσο, διεξήγαγε συζητήσεις με εμπειρογνώμονες, οι οποίες ελπίζει ότι θα καταλήξουν σε ένα νέο νομοσχέδιο με περισσότερη προστασία της ιδιωτικής ζωής, προκειμένου να απορροφήσει άλλες υπάρχουσες προτάσεις για το θέμα.

Τον Φεβρουάριο του 2020, το μετρό του Σάο Πάολο ανακοίνωσε ότι θα εφαρμόσει ένα «ηλεκτρονικό σύστημα παρακολούθησης με χρήση εικόνων» για τρεις από τις πέντε γραμμές του μετρό. Το έργο δόθηκε στην κοινοπραξία Engie Ineo Johnson, που δημιουργήθηκε από ιρλανδικές και γαλλικές εταιρείες, με προβλεπόμενη επένδυση 58,6 εκατομμυρίων ρεάλ (περίπου 11,5 εκατομμυρίων δολαρίων).

Εκείνη την εποχή, ένας συνασπισμός φορέων της κοινωνίας των πολιτών, των ίδιων που υπέβαλαν την πολιτική δημόσια αγωγή, προσέφυγαν στο δικαστήριο για να λάβουν περισσότερες πληροφορίες σχετικά με το σύστημα. Ήθελαν να μάθουν πώς η πρωτοβουλία θα ευθυγραμμιζόταν με τις αρχές, που θεσπίστηκαν από τον Γενικό Νόμο της Βραζιλίας για την Προστασία Δεδομένων (LGPD), ο οποίος εγκρίθηκε το 2018 και τέθηκε σε ισχύ τον Αύγουστο του 2020.

Δύο χρόνια αργότερα, αυτή η ερώτηση έχει απαντηθεί. Σύμφωνα με τις οργανώσεις πίσω από την αγωγή, το σύστημα παραβιάζει επανειλημμένα το LGPD και έρχεται σε αντίθεση με άλλους νομικούς μηχανισμούς, όπως το Ομοσπονδιακό Σύνταγμα, το Καταστατικό για τα Παιδιά και τους Εφήβους και τον Κώδικα για τα Δικαιώματα των Καταναλωτών.

Η αγωγή ισχυρίζεται ότι η εταιρεία του Μετρό του Σάο Πάολο χρησιμοποιεί τεχνολογία αναγνώρισης προσώπου σε επιβάτες και χρησιμοποιεί τα προσωπικά τους δεδομένα χωρίς συγκατάθεση, χωρίς τη δέουσα διαφάνεια, και δεν παρέχει πληροφορίες σχετικά με τα δεδομένα στους χρήστες, όπως για ποιο σκοπό θα χρησιμοποιηθούν και πώς θα είναι διαχειρίσιμα.

Επισημαίνουν επίσης ότι η εταιρεία δεν αξιολόγησε τον κίνδυνο του προγράμματος ούτε μετρίασε τα προβλήματα, που σχετίζονται με τις τεχνολογίες αναγνώρισης προσώπου, όπως απαιτείται από τη νομοθεσία. Επιπλέον, οι πρακτικές αναγνώρισης προσώπου παραβιάζουν τα θεμελιώδη ανθρώπινα δικαιώματα και τα δικαιώματα των καταναλωτών, γεγονός που βλάπτει όλους τους χρήστες των ΜΜΜ, ιδιαίτερα τις περιθωριοποιημένες κοινωνικές ομάδες, που θα επηρεάζονταν από ενσωματωμένες φυλετικές προκαταλήψεις.

Κόντρα στην παλίρροια

Στις Ηνωμένες Πολιτείες, ορισμένα μέρη κινούνται προς απαγόρευση της αναγνώρισης προσώπου σε πολιτειακό και δημοτικό επίπεδο, ενώ άλλα κανονικοποιούν όλο και περισσότερο τη χρήση αυτής της τεχνολογίας, αναφέρει το Wired. Αυτό το παράδοξο υπογραμμίζει τη σημασία της ρύθμισης σε ομοσπονδιακό επίπεδο.

Το Ευρωπαϊκό Κοινοβούλιο ζητά την απαγόρευση της αστυνομικής χρήσης τεχνολογίας αναγνώρισης προσώπου σε δημόσιους χώρους, σε ιδιωτικές βάσεις δεδομένων αναγνώρισης προσώπου και στην προγνωστική αστυνόμευση.

Όμως η Βραζιλία φαίνεται να βαίνει αντίθετα. Το μετρό του Σάο Πάολο δεν είναι η μόνη δημόσια οντότητα, που καταφεύγει στην αναγνώριση προσώπου. Σε ολόκληρη τη χώρα, οι κρατικές κυβερνήσεις το εφαρμόζουν σε διάφορους τομείς. Σύμφωνα με το Instituto Igarapé, μια ανεξάρτητη βραζιλιάνικη δεξαμενή σκέψης, μέχρι το 2019 υπήρχαν 47 περιπτώσεις αναγνώρισης προσώπου, που εφαρμόστηκαν σε 15 Πολιτείες.

Αυτό είναι ιδιαίτερα προβληματικό σε μια χώρα, όπου το 56,1% του πληθυσμού χαρακτηρίζονται μαύροι. Αυτό είναι εμφανές στη Μπαΐα, όπου η αριστερή κυβέρνηση του Ρούι Κόστα, ενός πολιτικού του Εργατικού Κόμματος, μετατρέπει το κράτος σε «εργαστήριο αναγνώρισης προσώπου», όπως αναφέρει το The Intercept Brasil.

Παρά τα λίγα στοιχεία που αποδεικνύουν ότι ένα τέτοιο σύστημα είναι επιτυχές για λόγους δημόσιας ασφάλειας, τον Ιούλιο του 2021, η κυβέρνηση της Μπαΐα αποφάσισε να επεκτείνει το πρόγραμμα πιλοτικά ενός νέου συστήματος στην πρωτεύουσα της πολιτείας, το Σαλβαδόρ.

Με αξία 18 εκατομμύρια ρεάλ (3,56 εκατομμύρια δολάρια), το νέο σύστημα παρέχεται από την ισπανική εταιρεία Iecisa σε συνεργασία με την Huawei. Κάμερες σε όλη την πόλη θα συλλέγουν τα πρόσωπα και θα τα αρχειοθετούν σε ένα σύστημα ομαδοποιώντας εικόνες του ίδιου ατόμου. Το σύστημα, σύμφωνα με το Intercept, χρησιμοποιεί επίσης τεχνητή νοημοσύνη για να διασταυρώσει τις συλλεγμένες εικόνες με πρόσωπα στη βάση δεδομένων του Υπουργού Δημόσιας Ασφάλειας για καταζητούμενα άτομα.

Σύμφωνα με παράγοντες της κοινωνίας των πολιτών, η Βραζιλία εξακολουθεί να στερείται νομικού πλαισίου, που να καθορίζει όρια και παραμέτρους για τη χρήση των τεχνολογιών αναγνώρισης προσώπου.

«Σήμερα υπάρχει απουσία κανονισμού ή καθοδήγησης γενικής εμβέλειας, που οδηγεί στη σιωπηρή εξουσιοδότηση για τη χρήση συστημάτων αναγνώρισης προσώπου», έγραψε ο Igarapé σε μια έκθεση του 2020.

Στη διεθνή κοινότητα, υπάρχει ήδη μια πιο παγιωμένη αντίληψη αυτού του ζητήματος, η οποία λειτούργησε ως επιχειρηματολογία σε δίκη. Η Επιτροπή Ανθρωπίνων Δικαιωμάτων των Ηνωμένων Εθνών, για παράδειγμα, αναγνωρίζει ότι τα εργαλεία αναγνώρισης προσώπου μπορούν να χρησιμοποιηθούν για να «διαιωνίσουν και να ενισχύσουν τις διακρίσεις», ιδιαίτερα κατά των γυναικών και των έγχρωμων ατόμων.

Το γεγονός ότι η Βραζιλία δεν έχει ενοποιημένο νομικό πλαίσιο, ωστόσο, δεν αποτελεί εισιτήριο για καταχρήσεις και παραβιάσεις. Οι οργανώσεις της κοινωνίας των πολιτών, που κατέθεσαν μήνυση κατά του Μετρό του Σάο Πάολο, υποστηρίζουν ότι τα δεδομένα, που συλλέγονται σε σταθμούς του μετρό και τρένα, διατίθενται παράνομα στο εμπόριο.

Η υπόθεση έχει βάση: το 2021, η ViaQuatro, ιδιωτική εταιρεία που διαχειρίζεται μία από τις ιδιωτικοποιημένες γραμμές του μετρό του Σάο Πάολο, καταδικάστηκε από το κρατικό δικαστήριο του Σάο Πάολο για χρήση αναγνώρισης προσώπου χωρίς εξουσιοδότηση.

Εκείνη την εποχή, η δικαστής έγραψε ότι δεν είχε καμία αμφιβολία ότι οι εικόνες των επιβατών λαμβάνονταν χωρίς τη συγκατάθεσή τους για εμπορικούς σκοπούς, που ωφελούν την εταιρεία και άλλες τρίτες εμπλεκόμενες εταιρείες.

«Εισάγουμε τεχνολογία με πολύ ασυνείδητο τρόπο αναπαράγοντας απλώς ό,τι εφαρμόστηκε. Και μάλιστα εσφαλμένη αναπαραγωγή, δεδομένου ότι οι περισσότερες από αυτές τις χώρες έχουν εγκαταλείψει αυτές τις τεχνολογίες. Αλλά αυτές οι χώρες πρέπει να πουλήσουν αυτή την τεχνολογία, η οποία είναι εξαιρετικά ακριβή, και να χρησιμοποιούν χώρες με υψηλό ποσοστό ανισότητας», εξήγησε η Carvalho.

Προσθέτει ότι η Βραζιλία λειτουργεί υπό τη λογική του μαζικού εγκλεισμού, της ποινικοποίησης, χωρίς να μπορεί να χρησιμοποιήσει φειδωλά τον ποινικό νόμο για συγκρούσεις που πραγματικά το απαιτούν.

«Το χρησιμοποιούμε ως πρώτη πηγή και όχι ως τελευταία. Είναι λοιπόν πιο επιτρεπτό για μηχανισμούς σαν αυτούς, που παραβιάζουν δικαιώματα, να βρίσκουν χώρο να ανθίσουν μέσα στη χώρα μας».

Επισκεφτείτε τη σελίδα του εγχειρήματος για περισσότερα άρθρα από το Παρατηρητήριο Ανελευθερίας.