Εικόνα από το Tactical Tech, με οπτικά στοιχεία των Γιώργος Μπαγάκης και Alessandro Cripsta.

Αυτό το άρθρο γράφτηκε από την Safa Ghnaim σε συνεργασία με το Ινστιτούτο Goethe Βραζιλίας και δημοσιεύτηκε αρχικά στο DataDetoxKit.org. Το Global Voices δημοσιεύει μια τροποποιημένη έκδοση κατόπιν συμφωνίας συνεργασίας.

​Τα εργαλεία της τεχνητής νοημοσύνης, ειδικά όσα μπορούν να δημιουργούν εικόνες, βίντεο και ήχο, έχουν χαρακτηριστεί ως «δημιουργικές εφαρμογές» για ιδιώτες και «εργαλεία αποτελεσματικότητας» για τον τομέα του εμπορίου. Ωστόσο, υπάρχει μικρή δυνατότητα ελέγχου του τρόπου με τον οποίο χρησιμοποιούνται στην πράξη και της ζημιάς που μπορούν να προκαλέσουν οι εικόνες, που είναι αποτέλεσμα της τεχνητής νοημοσύνης.

​Ίσως δεν αποτελεί έκπληξη το γεγονός ότι τα εργαλεία της τεχνητής νοημοσύνης επιδεινώνουν το πρόβλημα της διαδικτυακής παρενόχλησης, όπως για παράδειγμα τη δημιουργία και κοινοποίηση μη συναινετικού προσωπικού οπτικού υλικού, δηλαδή φωτογραφιών ή βίντεο, συμπεριλαμβανομένων γυμνών ή σεξουαλικά άσεμνων εικόνων, που εκθέτουν το σώμα κάποιου, πραγματικό ή τεχνητά δημιουργημένο, χωρίς την άδειά του.

​Το μη συναινετικό προσωπικό οπτικό υλικό επηρεάζει πολλούς ανθρώπους, όχι μόνο διάσημα πρόσωπα, για τα οποία μπορεί να έχουμε ακούσει στις ειδήσεις, και η αντιμετώπισή του δεν είναι εύκολη. Ακόμα και οι πλατφόρμες και οι νομοθέτες αγωνίζονται να συμβαδίσουν με τις εξελίξεις.

Το πρόβλημα είναι μεγαλύτερο από όσο νομίζουμε

Η τεχνολογία προχωρά με τέτοια ταχύτητα που, σήμερα, αρκεί να πάρουμε τη φωτογραφία ενός ατόμου (ακόμη και μια εντελώς αθώα εικόνα) για να δημιουργήσουμε περιεχόμενο σεξουαλικά άσεμνο χρησιμοποιώντας ένα από τα πολλά διαθέσιμα εργαλεία τεχνητής νοημοσύνης.

​Ενώ ορισμένα εργαλεία τεχνητής νοημοσύνης επιτείνουν το πρόβλημα της παρενόχλησης, καθιστώντας εύκολη τη δημιουργία μη συναινετικού προσωπικού υλικού για οποιονδήποτε, άλλα χρησιμοποιούνται για την αντιμετώπισή του. Ωστόσο, τα εργαλεία τεχνητής νοημοσύνης, που έχουν εκπαιδευτεί να εντοπίζουν τις τεχνητά δημιουργημένες εικόνες, δεν είναι τέλεια και μεγάλο μέρος της εργασίας για την αναγνώριση και την αφαίρεση του υλικού εξακολουθεί να γίνεται από τους ανθρώπους, που εργάζονται ως συντονιστές περιεχομένου.

​Μία από τις περιπτώσεις που είχε τη μεγαλύτερη απήχηση το 2024 ήταν αυτή με τις ψεύτικες εικόνες σεξουαλικού περιεχομένου της Τέιλορ Σουίφτ, που δημιουργήθηκαν από τεχνητή νοημοσύνη. Αυτές οι εικόνες εμφανίστηκαν αρχικά στο κανάλι 4chan και μέσα σε λίγα λεπτά διαδόθηκαν σε διάφορους ιστότοπους κοινωνικής δικτύωσης. Μία από τις εικόνες προβλήθηκε πάνω από 47 εκατομμύρια φορές πριν αφαιρεθεί. Είναι πιθανό αυτές οι εικόνες να συνεχίζουν να κοινοποιούνται, καθώς δεν υπάρχει τρόπος να διαγραφούν εντελώς από το διαδίκτυο.

​Όμως δεν πρόκειται για μεμονωμένο περιστατικό. Σύμφωνα με μια μελέτη του 2021, το 41% από τα πάνω από 10.000 ερωτηθέντα άτομα στις Ηνωμένες Πολιτείες δήλωσε ότι έχει υποστεί προσωπικά κάποια μορφή διαδικτυακής παρενόχλησης. Μεταξύ των ερωτηθέντων κάτω των 35 ετών, το 33% των γυναικών και το 11% των ανδρών δήλωσε ότι είχε βιώσει διαδικτυακή σεξουαλική παρενόχληση.

​Παρομοίως, μια ανάλυση του 2023 σε πάνω από 95.000 ψεύτικα βίντεο διαπίστωσε ότι πάνω από το 98% αυτών αφορούσε deepfake πορνογραφία και, από αυτά, το 99% των θυμάτων ήταν γυναίκες. Άλλες ευάλωτες ομάδες, όπως τα ανήλικα άτομα ή άτομα της κοινότητας ΛΟΑΤΚΙ+, υφίστανται επίσης δυσανάλογα σεξουαλική παρενόχληση στο διαδίκτυο.

Πώς μπορούμε να προστατευθούμε από αυτόν τον τύπο παρενόχλησης;

Οι διαδικτυακές πλατφόρμες έχουν θεσπίσει περιορισμούς, με σκοπό την προστασία των πληροφοριών μας από μη εξουσιοδοτημένη πρόσβαση. Παρότι αυτοί οι περιορισμοί δεν εξασφαλίζουν ένα απόλυτα αδιαπέραστο τείχος προστασίας, μπορούν τουλάχιστον να καταστήσουν δυσχερέστερη την πρόσβαση στα δεδομένα μας από άτομα, που επιδιώκουν να παρενοχλήσουν ή να βλάψουν.

​Κάθε πλατφόρμα διαθέτει διαφορετικές ρυθμίσεις και επιλογές για τους χρήστες. Για παράδειγμα, μπορείτε να προβείτε στις ακόλουθες ενέργειες για να ενισχύσετε τα μέτρα ασφαλείας στους λογαριασμούς σας στο Instagram και το TikTok:

• • ​Ορίστε το προφίλ σας ως «ιδιωτικό». Σε πλατφόρμες όπως το Instagram και το TikTok, έχετε τη δυνατότητα να ρυθμίσετε το προφίλ σας ως ιδιωτικό, έτσι ώστε μόνο τα άτομα που εσείς έχετε εγκρίνει να μπορούν να βλέπουν το περιεχόμενο που δημοσιεύετε. Ωστόσο, τρίτα μέρη μπορούν να εξακολουθούν να βλέπουν τα σχόλιά σας σε αναρτήσεις άλλων ατόμων και να σας αποστέλλουν μηνύματα. Δείτε πώς να κάνετε το προφίλ σας «ιδιωτικό» σε Instagram και TikTok.
  • ​Διαγράψτε ακολούθους ή αποκλείστε άτομα. Εάν κάποιο άτομο σάς ενοχλεί ή σας προκαλεί δυσφορία, μπορείτε να το διαγράψετε από τους ακολούθους σας ή να το αποκλείσετε εντελώς. Ωστόσο, εάν γνωρίζετε το άτομο στην πραγματική ζωή, θα πρέπει να υιοθετήσετε εναλλακτικές στρατηγικές. Δείτε πώς να αποκλείσετε άτομα σε Instagram και TikTok.

Είναι θέμα κοινότητας

Αν κρίνει κανείς από τον αριθμό των θυμάτων διαδικτυακής παρενόχλησης, θα νόμιζε ότι υπάρχουν και πάρα πολλοί δράστες. Στην πραγματικότητα, όμως, αρκεί ένας μόνο για να διαδώσει το κακό. Θα θεωρούσατε κάποιον που κοινοποιεί μη συναινετικό προσωπικό οπτικό υλικό ως δράστη, ακόμα κι αν δεν το δημιούργησε ο ίδιος; Στην περίπτωση της Τέιλορ Σουίφτ, μόνο λίγα άτομα χρειάστηκαν για τη δημιουργία του μη συναινετικού προσωπικού οπτικού υλικού της και δεν θα είχε γίνει viral, αν δεν το είχαν διαδώσει πολλά άτομα.

​Πώς μπορείτε λοιπόν να βοηθήσετε κάποιον που απειλείται και δέχεται παρενόχληση; Σε όποια πλατφόρμα κι αν βρίσκεστε, θα βρείτε τη λειτουργία «αναφοράς». Σε εφαρμογές όπως το Instagram, μπορείτε να «αναφέρετε» συγκεκριμένες αναρτήσεις ή ολόκληρους λογαριασμούς, που θεωρείτε ενοχλητικούς. Οι αναφορές είναι ένας εξαιρετικός τρόπος για να μπλοκάρετε προβληματικούς ανθρώπους ή περιεχόμενο. Το Instagram δεν αποκαλύπτει την ταυτότητα του αναφέροντα.

​Μόλις γίνει η αναφορά στο Instagram, η πλατφόρμα μπορεί να αφαιρέσει την ανάρτηση ή να προειδοποιήσει, να απενεργοποιήσει ή να απαγορεύσει τον λογαριασμό, ανάλογα με το περιεχόμενο και αν αυτό παραβιάζει τις Κοινοτικές Οδηγίες. Δυστυχώς, οι Κοινοτικές Οδηγίες της Meta δεν είναι πάντα υποστηρικτικές και οι πρόσφατες διαγραφές αναρτήσεων και οι αποκλεισμοί λογαριασμών έχουν προκαλέσει αντιδράσεις.

​Αν γνωρίζετε προσωπικά το θύμα, επικοινωνήστε μαζί του και ενημερώστε το, αν αισθάνεστε άνετα. Ίσως δεν γνωρίζει τι συμβαίνει και η αντίδρασή του μπορεί να είναι αγωνία, θυμός ή λύπη. Αν είστε έτοιμοι να το στηρίξετε, μπορείτε να του προσφέρετε βοήθεια και λύσεις (όπως τους συνδέσμους στο τέλος του άρθρου) και να το βοηθήσετε να καταγράψει την παρενόχληση.

​Παρόλο που θα θέλατε πιθανόν να αποφύγετε να ξαναδείτε την παρενόχληση, είναι χρήσιμο να την καταγράψετε πριν αφαιρεθεί. Κατεβάστε ένα βίντεο ή τραβήξτε ένα στιγμιότυπο της ανάρτησης ή του σχολίου, συμπεριλαμβάνοντας το όνομα του λογαριασμού και την ημερομηνία. Αποθηκεύστε αυτά τα στοιχεία σε ένα ασφαλές, κρυφό σημείο στο τηλέφωνο ή τον υπολογιστή σας. Για παράδειγμα, κάποια τηλέφωνα προσφέρουν ασφαλή, κρυπτογραφημένα αρχεία.

​Αυτή η τεκμηρίωση, εφόσον διατηρηθεί σωστά, μπορεί να είναι πολύτιμη, αν το θύμα αποφασίσει να καταγγείλει το περιστατικό και χρειαστεί αποδεικτικά στοιχεία.

​Είναι ζωτικής σημασίας το θύμα να αποφασίσει τι θα κάνει. Θέλει να κάνει μήνυση, να βρει έναν δικηγόρο ή να επικοινωνήσει με το σχολείο ή τον εργοδότη του; Ή θέλει να κρατήσει το περιστατικό όσο πιο ιδιωτικό γίνεται; Ειδικά στην περίπτωση του μη συναινετικού προσωπικού υλικού, η δυνατότητα επιλογής έχει αφαιρεθεί, γι’ αυτό προσπαθήστε να το στηρίξετε για να ξανακερδίσει τον έλεγχο.

Πού να απευθυνθείτε για βοήθεια

Εάν εσείς ή κάποιο άτομο που γνωρίζετε πέσετε θύμα μη συναινετικού προσωπικού οπτικού υλικού, να ξέρετε ότι υπάρχουν οργανισμοί, που μπορούν να σας βοηθήσουν. Δεν χρειάζεται να το αντιμετωπίσετε μόνοι σας. Ακολουθούν μερικοί ιστότοποι υποστήριξης:

• ​Chayn (παγκοσμίως): Η Chayn παρέχει βοήθεια και υποστήριξη σε άτομα που υφίστανται παρενόχληση λόγω φύλου.
• ​StopNCII (παγκοσμίως): Το StopNCII διαθέτει μια τράπεζα πόρων και ένα εργαλείο, που μπορεί να σας βοηθήσει να αφαιρέσετε το μη συναινετικό προσωπικό οπτικό υλικό σας.
• ​Take Back the Tech (παγκοσμίως): Το Take Back the Tech προσφέρει επεξηγήσεις και πηγές, όπως το Hey Friend, με συμβουλές για το πώς να υποστηρίξετε φίλους που έχουν πέσει θύματα παρενόχλησης.
• ​RAINN's National Sexual Assault Hotline (ΗΠΑ): Το RAINN παρέχει μια ιδιωτική γραμμή υποστήριξης, όπου μπορείτε να συνομιλήσετε διαδικτυακά ή να τηλεφωνήσετε σε ένα εκπαιδευμένο άτομο για τη διαχείριση κρίσεων.
• ​Take It Down (ΗΠΑ): Το Take It Down παρέχει βοήθεια βήμα προς βήμα για να υποβάλετε ένα αίτημα αφαίρεσης του NCII.
• ​Cyber Civil Rights Initiative (CCRI) (ΗΠΑ): Η CCRI περιλαμβάνει έναν οδηγό βήμα προς βήμα και λίστες με δικηγόρους στις ΗΠΑ. Παρέχει επίσης μια λίστα με διεθνείς πόρους.
• ​Revenge Porn Helpline (Ηνωμένο Βασίλειο): Η γραμμή βοήθειας Revenge Porn παρέχει συμβουλές σε ενήλικες που έχουν πέσει θύματα.
• ​Umi Chatbot (Αυστραλία): Το Umi Chatbot είναι ένας γρήγορος τρόπος για να λάβετε πληροφορίες σχετικά με τις επιλογές αντιμετώπισης του NCII. Ο ιστότοπος διαθέτει επίσης πόρους για τη συγκέντρωση αποδεικτικών στοιχείων και την καταγγελία περιστατικών.