Η εικόνα είναι ευγενική προσφορά της Ameya Nagarajan

Αυτό το άρθρο δημοσιεύτηκε αρχικά από το SMEX στις 26 Μαΐου 2023, με συντάκτρια την Sarah Culper. Μια σύντομη έκδοσή του αναδημοσιεύεται εδώ στο πλαίσιο συμφωνίας κοινής χρήσης περιεχομένου.

Οι κυβερνήσεις και ο ιδιωτικός τομέας στη Δυτική Ασία και τη Βόρεια Αφρική ζητούν τη χρήση της Τεχνικής Νοημοσύνης (ΤΝ) για να ενισχύσουν τις οικονομίες τους και να εξορθολογήσουν τις υπηρεσιες τους. Τα πλαίσια για τη χρήση της τεχνητής νοημοσύνης ποικίλουν σε κάθε χώρα, αλλά συνολικά οι περισσότερες χώρες είτε δεν διαθέτουν κανονισμούς είτε έχουν εκδώσει ήπιες μη δεσμευτικές συστάσεις. 

Σχεδόν κάθε αραβόφωνη χώρα στην Δυτική Ασία και τη Βόρεια Αφρική έχει δημιουργήσει μια στρατηγική για την TN, με ελάχιστη μέριμνα για το ρυθμιστικό της πλαίσιο. Αντίθετα, οι περισσότερες στρατηγικές επικεντρώνονται στην ανησυχία ότι η ρύθμιση θα καταπνίξει την καινοτομία. Αυτό είναι ένα συνηθισμένο επιχείρημα για το ρυθμιστικό πλαίσιο της ΤΝ σε όλο τον κόσμο και έχει οδηγήσει σε επικίνδυνες χρήσεις δεδομένων και σε βλάβη των ατόμων. 

Σε γενικές γραμμές, οι περισσότερες χώρες της περιοχής βρίσκονται στο προκαταρκτικό στάδιο της χρήσης της TN και ελπίζουν να ενθαρρύνουν τη χρήση της για την τόνωση της οικονομίας.

Υπάρχει τεράστια εστίαση στην περιοχή του Κόλπου, σε μεγάλο βαθμό στον επιχειρηματικό τομέα και όχι στον δημόσιο τομέα, αν και πολλές κυβερνήσεις τελικά στοχεύουν στην ανάπτυξη  της TN σχεδόν σε κάθε τομέα. Ο κύριος λόγος της επένδυσης στην ΤΝ είναι η διαφοροποίηση από τις οικονομίες, που εξαρτώνται από το πετρέλαιο. Τα Ηνωμένα Αραβικά Εμιράτα κατέχουν ηγετική θέση στην εφαρμογή της ΤΝ, συμπεριλαμβανομένης της χρήσης της στον δημόσιο τομέα. 

Γενικά, η μεγαλύτερη ανησυχία προκαλείται, όταν η ΤΝ χρησιμοποιείται στον δημόσιο τομέα, καθώς οι ομάδες του δημόσιου τομέα συχνά ασχολούνται με πολύ ευάλωτους πληθυσμούς και προσφέρουν βασικές υπηρεσίες. 

Στην καρδιά της ΤΝ βρίσκονται τα δεδομένα και, όπως συμβαίνει και με άλλες τεχνολογίες, ένα τεράστιο πρόβλημα είναι η χρήση των δεδομένων και η έλλειψη αποτελεσματικής προστασίας της ιδιωτικής ζωής. Είναι δύσκολο να αποτιμηθεί η προστασία της ιδιωτικής ζωής αυτών των προγραμμάτων, καθώς το ιδιοκτησιακό καθεστώς του προγραμματισμού συνεπάγεται δυσκολίες στο να δει κανείς πως χρησιμοποιούνται τα δεδομένα.

Επιπλέον, η λογοδοσία είναι πιο δύσκολο να προσδιοριστεί με την ΤΝ. Η ευθύνη των αποφάσεων πρέπει να αναφέρεται με σαφήνεια στο πλαίσιο που αναπτύσσει κάθε χώρα για τη ρύθμισή της, αλλά αυτή γενικά δεν αναφέρεται.

Ανησυχίες σχετικά με την ανάπτυξη της ΤΝ και την προστασία των δεδομένων στη Μέση Ανατολή και τη Βόρεια Αφρική

Καμία χώρα στην περιοχή δεν έχει αναπτύξει ένα ασφαλές πλαίσιο τεχνητής νοημοσύνης και οι όποιες κινήσεις προς αυτή την κατεύθυνση συμμορφώνονται πάντα στην ανάγκη των προγραμματιστών να καινοτομούν χωρίς περιορισμούς.

Αν και αυτές οι χώρες διαθέτουν νόμους για την προστασία των δεδομένων, το πρόβλημα είναι ότι, όταν το κράτος είναι αυτό που ζητά τα δεδομένα, είναι πολύ πιο εύκολη η παράκαμψη των κανονισμών προστασίας δεδομένων, καθώς συνήθως αυτοί περιέχουν διατάξεις, που επιτρέπουν στην κυβέρνηση να έχει πρόσβαση σε τέτοια δεδομένα. Για παράδειγμα, εάν τα δεδομένα καταστούν απαραίτητα για μια σύμβαση ή μια επιχειρηματική συναλλαγή, τότε τα δεδομένα μπορούν να υποβληθούν σε επεξεργασία. 

Η συνεργασία που έχουν συνάψει η Σαουδική Αραβία και Ηνωμένα Αραβικά Εμιράτα με διάφορους κινέζικους οργανισμούς προκαλεί ανησυχία, καθώς δεν είναι σαφές αν λαμβάνει χώρα ανταλλαγή δεδομένων, και παράλληλα δείχνει μία τάση προς την ανάπτυξη τεχνολογιών για την εκτεταμένη παρακολούθηση πληθυσμών.

Τα Ηνωμένα Αραβικά Εμιράτα χρησιμοποιούν ΤΝ σε πολλούς τομείς, που μπορεί να έχουν αρνητικό αντίκτυπο στις ατομικές ελευθερίες. Η χρήση της προληπτικής αστυνόμευσης και των καμερών είναι ιδιαίτερα ανησυχητική. Για παράδειγμα, αυτή η τεχνολογία θα μπορούσε να χρησιμοποιηθεί για να βλάψει τα άτομα ΛΟΑΤΚΙ+, καθώς και τους ακτιβιστές και ακτιβίστριες, ως διωκόμενη κοινότητα στην περιοχή. Τα συστήματα ΤΝ που χρησιμοποιούνται από τις κυβερνήσεις μπορούν να οδηγήσουν σε διακρίσεις και επιζήμια αποτελέσματα, όταν οι Αρχές βασίζονται πάνω τους για τη δημιουργία προφίλ, τη στοχοποίηση ή τη πρόβλεψη μελλοντικών παραβιάσεων του νόμου.

Η υγειονομική περίθαλψη φαίνεται να είναι ο κύριος στόχος εφαρμογής της ΤΝ σε αυτή την περιοχή. Προς το παρόν, τουλάχιστον στα νοσοκομεία, η ΤΝ χρησιμοποιείται κυρίως για την επιτάχυνση των διαδικασιών και των διαγνώσεων (π.χ. όσον αφορά τις μαγνητικές τομογραφίες), αντί να βασίζεται σε αυτόνομες συσκευές, που δεν εποπτεύονται από ειδικούς. 

Στην υγειονομική περίθαλψη, το κύριο μέλημα είναι η ασφάλεια των δεδομένων και το ποιος έχει πρόσβαση σε αυτά. Μπορεί η κυβέρνηση να δει τα δεδομένα πέρα από τις ανάγκες των διαγνώσεων, εάν προέρχονται από κρατικά νοσοκομεία;

Ένας σημαντικός λόγος ανησυχίας μπορεί να είναι το ότι, αν η τεχνολογία αναπτυχθεί και αρχίσει να κάνει συστάσεις στους γιατρούς, αυτό μπορεί να οδηγήσει σε συμμόρφωση και αυτοματοποιημένη μεροληψία, γεγονός που μπορεί να επηρεάσει σημαντικά την υγεία των ανθρώπων. Το ποσοστό ψευδώς θετικών/ψευδώς αρνητικών αποτελεσμάτων πρέπει να δημοσιευθεί και οι γιατροί πρέπει να εκπαιδευτούν, ώστε να αμφισβητούν την τεχνολογία στο ελάχιστο δυνατό.

Οι έξυπνες πόλεις αναπτύσσονται σε αρκετές χώρες του Κόλπου και η ανάπτυξή τους εγείρει πολλά ζητήματα. Πρώτον, οι έξυπνες πόλεις είναι ιδιαίτερα ευάλωτες σε κυβερνοεπιθέσεις, οι οποίες μπορεί να καταστήσουν την περιοχή μη λειτουργική, οπότε ένας τρόπος για να αυξηθεί η ενεργός συμμετοχή είναι ο προσδιορισμός των μέτρων ασφαλείας, που υπάρχουν στον κυβερνοχώρο, και το πόσο ασφαλή αυτά είναι.

Εάν μια ολόκληρη πόλη ελέγχεται από λογισμικό, το λογισμικό αυτό πρέπει να είναι εξαιρετικά ισχυρό, να ενημερώνεται και να παρακολουθείται εκτεταμένα. Οι παραβιάσεις δεδομένων μπορεί να έχουν πολύ πιο σοβαρό αντίκτυπο, αν ολόκληρη η ζωή των ανθρώπων είναι ενσωματωμένη σε ένα λογισμικό.

Επιπλέον, πολλές προτεινόμενες τεχνολογίες για τον «εξορθολογισμό» και την «πρόβλεψη κάθε σας ανάγκης» απαιτούν εκτεταμένη παρακολούθηση δεδομένων, πράγμα που σημαίνει ότι κάθε κάτοικος θα βρίσκεται υπό διαρκή παρακολούθηση.

Γενικά, η χρήση αυτών των τεχνολογιών επιτρέπει σχεδόν πάντα τη μεγαλύτερη επιτήρηση των ατόμων και, ως εκ τούτου, είναι ιδιαίτερα ανησυχητική σε αυταρχικά καθεστώτα.

Η χρήση της ΤΝ στον ιδιωτικό τομέα αυξάνει τον καπιταλισμό της επιτήρησης, όπου η ιδιωτικότητα ανταλλάσσεται με την «ευκολία», αλλά στην πραγματικότητα, η συμπεριφορά των ανθρώπων είναι συχνά προβλέψιμη και επηρεάζεται και τροποποιείται σε μεγάλο βαθμό από εξωτερικές δυνάμεις, καθιστώντας την εύκολα προβλέψιμη από την ΤΝ.

Στον ιδιωτικό τομέα, η χρήση ταξί χωρίς οδηγό και καταστημάτων και παντοπωλείων χωρίς ανθρώπους (χωρίς επαφή και χωρίς ταμεία) μειώνει τις ευκαιρίες απασχόλησης. Επιπλέον, όλα αυτά τα είδη καταστημάτων απαιτούν εφαρμογές για να λειτουργήσουν και είναι εξοπλισμένα με εκτεταμένες δυνατότητες παρακολούθησης. Εάν γίνουν ο κανόνας, οι άνθρωποι δε θα έχουν άλλη επιλογή από το να υιοθετούν αυτά τα μέτρα.

Η έρευνα σχετικά με την ΤΝ είναι δύσκολη σε κάθε περιοχή λόγω της δυνατότητας επίκλησης του εμπορικού απορρήτου και της έλλειψης κυβερνητικών πλαισίων με επίκεντρο την ΤΝ. Αλλά η έλλειψη πλαισίων έστω και ήσσονος λογοδοσίας καθιστά την πρόσβαση σε πληροφορίες πολύ πιο δύσκολη στην περιοχή της Δυτικής Ασίας και Βόρειας Αφρικής. Αν και κάθε χώρα έχει προβεί σε δηλώσεις με στόχο την ηθική και υπεύθυνη ΤΝ, δεν υπάρχει συγκεκριμένη νομοθεσία για την επίτευξη αυτού του στόχου.