Κινητό που δείχνει δημοσίευση σε μέσο κοινωνικής δικτύωσης στη γραφή γκεέζ με αυτόματη προειδοποίηση, που υποδεικνύει τις προκλήσεις όσον αφορά τη διαχείριση περιεχομένου στα αφρικανικά συστήματα γραφής. Φωτογραφία του Pride Chamisa. Χρήση με άδεια.

Του Pride Chamisa

Αυτό το άρθρο αποτελεί μέρος της σειράς Spotlight του Global Voices «Ανθρώπινες προοπτικές στην Τεχνητή Νοημοσύνη» για τον Απρίλιο του 2026. Η σειρά αυτή προσφέρει πληροφορίες σχετικά με το πώς χρησιμοποιείται η Τεχνητή Νοημοσύνη στις χώρες της παγκόσμιας πλειονότητας, πώς η χρήση και η εφαρμογή της επηρεάζουν τις μεμονωμένες κοινότητες, τι σημαίνει ενδεχομένως αυτό το πείραμα Τεχνητής Νοημοσύνης για τις μελλοντικές γενιές κ.ά. Μπορείτε να υποστηρίξετε αυτήν την κάλυψη κάνοντας δωρεά εδώ.

Ο Bereket Tsegay περνούσε τον χρόνο του βλέποντας βίντεο που δεν καταλάβαινε.

Προσλήφθηκε ως διαχειριστής περιεχομένου στο TikTok στο κέντρο της εταιρείας στην Κένυα, ένα από τα βασικά κέντρα για τον έλεγχο περιεχομένου υπό την υποστήριξη τεχνικής νοημοσύνης στην Αφρική. Μιλάει αμχαρικά, την επίσημη γλώσσα της Αιθιοπίας. Τα βίντεο, όμως, στη σειρά του προήλθαν από όλη την ήπειρο σε γλώσσες όπως οι λούο, ντολούο, κικούγιου, ντίνκα και δεκάδες άλλες. Όταν δεν έβρισκε εμφανή οπτικά λάθη και αν δεν είχε υποβληθεί παράπονο για το βίντεο, συνήθως επέτρεπε τη δημοσίευσή του. Σε περίπτωση υποβολής πολλαπλών παραπόνων, κατέβαζε το βίντεο. Δεν εργάζεται πλέον εκεί και μιλάει με ειλικρίνεια για τη θέση: το σύστημα δούλευε όσο καλύτερα γινόταν χωρίς πραγματική κατανόηση του περιεχομένου που αξιολογούσε.

Η μαρτυρία του, όπως αναφέρθηκε στο Christian Science Monitor τον Μάρτιο του 2026, αποτελεί μέρος ενός πολύ ευρύτερου προβλήματος. Στην Αφρική υπάρχουν περισσότερες από 2.000 γλώσσες. Τα συστήματα ΤΝ που ελέγχουν περιεχόμενο σε όλη την ήπειρο έχουν σχεδιαστεί κατά κύριο λόγο βάσει δεδομένων στην αγγλική γλώσσα, με ορισμένη κάλυψη σε μερικές μόνο παγκόσμιες γλώσσες. Μια μελέτη του 2025 με τίτλο «Η κατάσταση των μεγάλων γλωσσικών μοντέλων για τις αφρικανικές γλώσσες» συνέκρινε τα μοντέλα βασικών γλωσσών και διαπίστωσε ότι μόνο 42 αφρικανικές γλώσσες εμφανίζονται με ουσιώδη τρόπο στα συστήματα που αξιολογήθηκαν. Η διαχείριση μόνο τεσσάρων γλωσσών παρουσιάζει συνέπεια, συγκεκριμένα της αμχαρικής, σουαχίλι, αφρικάανς και μαλγασικής. Έτσι, περισσότερο από 98% των γλωσσών της Αφρικής παραμένει ουσιαστικά αόρατο στα συστήματα διαχείρισης, που αποφασίζουν τι περιεχόμενο διατηρείται και τι αφαιρείται.

Οι επιπτώσεις επηρεάζουν τους πραγματικούς ανθρώπους.

Η γλώσσα του αλγόριθμου

Ο Jackson Busolo είναι Κενυάτης δημιουργός στο TikTok, που δημοσιεύει στα σουαχίλι, κυρίως σχετικά με την πολιτική. Ξύπνησε ένα πρωί τον Φεβρουάριο του 2025 και ο λογαριασμός του είχε εξαφανιστεί. Χωρίς προειδοποίηση, χωρίς εξήγηση. Υπέβαλε ένσταση και εν τέλει ο λογαριασμός του αποκαταστάθηκε. Δεν έμαθε ποτέ γιατί ο λογαριασμός του διαγράφηκε ή γιατί επαναφέρθηκε.

Η περίπτωσή του δεν είναι μοναδική. Σύμφωνα με τα δεδομένα της Εφαρμογής Οδηγιών Κοινότητας του TikTok για το πρώτο τρίμηνο του 2025, όπως ανέφερε το Business Daily Africa, μεταξύ του Ιανουαρίου και του Μαρτίου 2025, το TikTok αφαίρεσε περισσότερα από 450.000 βίντεο μόνο από την Κένυα και απέκλεισε περισσότερους από 43.000 λογαριασμούς. Έως το δεύτερο τρίμηνο οι αφαιρέσεις έφτασαν τις 592.000. Η πλατφόρμα αποδίδει το γεγονός αυτό κυρίως στα αυτοματοποιημένα συστήματα. Το TikTok δήλωσε στο Christian Science Monitor ότι χρησιμοποιεί έναν συνδυασμό τεχνολογικού και ανθρώπινου ελέγχου σε πολλαπλές γλώσσες και επεκτείνει συνεχώς την κάλυψή του. Ωστόσο, η πλατφόρμα αρνήθηκε να αποκαλύψει ποιες αφρικανικές γλώσσες καλύπτουν πραγματικά τα εργαλεία ελέγχου ΤΝ της.

Όταν ένα σύστημα διαχείρισης δεν μπορεί να επεξεργαστεί μια γλώσσα, είναι λιγότερο πιθανό να επισημάνει περιεχόμενο για ανθρώπινο έλεγχο. Αντίθετα, βασίζεται σε έμμεσες ενδείξεις, όπως αναφορές χρηστών, οπτικά σημάδια ή ηχητικά μοτίβα από γλώσσες που αναγνωρίζει.

Η Mercy Mutemi, εκτελεστική διευθύντρια του Oversight Lab, μιας ομάδας νομικής  υπεράσπισης στην Κένυα που εστιάζει στην τεχνολογία, εξήγησε τι συμβαίνει:

Μιλάμε για έναν αλγόριθμο, που έχει εκπαιδευτεί κυρίως στην αγγλική γλώσσα, τον εμπιστευόμαστε να αφαιρεί επικίνδυνο περιεχόμενο, ενώ μεγάλο μέρος των χρηστών του TikTok στην Κένυα το χτησιμοποιούν στη μητρική τους γλώσσα.

Το πρόβλημα δεν είναι μόνο τα ψευδώς θετικά, αλλά και το περιεχόμενο που αφαιρείται, ενώ δεν θα έπρεπε. Υπάρχουν επίσης ψευδώς αρνητικά: επιβλαβές περιεχόμενο σε γλώσσες τις οποίες το σύστημα δεν μπορεί να αναλύσει, το οποίο διατηρείται διότι τίποτα στο βίντεο δεν αποτελεί λόγο για έλεγχο. Στην Αιθιοπία, κυκλοφόρησαν ψευδείς ισχυρισμοί στο Facebook ότι τα στρατεύματα της Αιθιοπίας κατέλαβαν το λιμάνι της Ερυθραίας στην Ερυθρά Θάλασσα, ισχυρισμοί που επεκτάθηκαν γρήγορα πριν από την κατάρριψή τους από τους υπεύθυνους επαλήθευσης. Οι ερευνητές έχουν καταγράψει την ίδια δυναμική επανειλημμένα. Η έκφραση μίσους στα σουαχίλι περνάει απαρατήρητη. Υπάρχουν κενά στη διαχείριση γλωσσών με περιορισμένες πηγές όπως η χάουσα. Οι δημοσιεύσεις σε τοπικές γλώσσες ταξινομούνται λανθασμένα από συστήματα, που έχουν εκπαιδευτεί κυρίως στην αγγλική γλώσσα.

Μια εθνογραφική έρευνα με επαγγελματίες εμπειρίας χρηστών σε έξι αφρικανικές χώρες διαπίστωσε ότι τα μεγάλα γλωσσικά μοντέλα, που έχουν εκπαιδευτεί κυρίως στην αγγλική γλώσσα, δυσκολεύονται συχνά με τις εγγραφές αφρικανικών γλωσσών. Σε ένα παράδειγμα, η συμπερίληψη ακόμα και μίας γιορούμπα λέξης σε μια κατά τα άλλα αγγλική εντολή απέδωσε ανακριβή αποτελέσματα, από μερικώς λανθασμένες μεταφράσεις έως άσχετες απαντήσεις, γεγονός που τονίζει τους περιορισμούς αυτών των μοντέλων όσον αφορά τη διαχείριση πολυγλωσσικών και πολιτισμικά συγκεκριμένων κειμένων. Τι συμβαίνει, όταν το ίδιο μοντέλο καλείται να κρίνει αν μια δημοσίευση παραβιάζει τα πρότυπα κοινότητας;

Θερμοχάρτης της Αφρικής, που απεικονίζει την «έρημο δεδομένων»: το πορτοκαλί χρώμα αντιπροσωπεύει τις περιοχές με λιγότερο από 2% εκπροσώπηση στα παγκόσμια σετ δεδομένων για την εκπαίδευση ΤΝ, ενώ το μπλε υποδεικνύει τους χώρους κάλυψης που συγκεντρώνονται γύρω από μεγάλα αστικά και τεχνολογικά κέντρα. Φωτογραφία του Pride Chamisa. Χρήση με άδεια.

Ποιος επιβαρύνεται;

Το βάρος ενός συστήματος διαχείρισης που δεν είναι ικανό να διαβάζει αφρικανικές γλώσσες δεν κατανέμεται εξίσου. Βαρύνει περισσότερο τους δημιουργούς, τους δημοσιογράφους και τους απλούς χρήστες που επικοινωνούν στις γλώσσες αυτές.

Οι δημιουργοί αναγκάζονται να χτίσουν κοινό σε ένα πλαίσιο, στο οποίο ο αλγόριθμος αγνοεί το πραγματικό περιεχόμενο της δουλειάς τους και ανταποκρίνεται κυρίως στις ενδείξεις της αγγλικής γλώσσας. Η Pauline Onyango, Κενυάτισσα δημιουργός, διαπίστωσε ότι μήνες κοινοποίησης στη γλώσσα λούο δεν απέφεραν σχεδόν καθόλου αλγοριθμική δημοτικότητα. Το περιεχόμενό της ήταν ουσιαστικά αόρατο. Δεν πρόκειται μόνο για πρόβλημα δικαιοσύνης. Αποφασίζεται τι περιεχόμενο δημιουργείται ή ενισχύεται και ποιανού οι ιστορίες φτάνουν στο κοινό.

Για τους δημοσιογράφους και την κοινωνία των πολιτών, αυτό σημαίνει ότι η παραπληροφόρηση στις αφρικανικές γλώσσες μπορεί να αποκτήσει μεγαλύτερη απήχηση. Πλατφόρμες με εκατοντάδες εκατομμύρια χρήστες στην ήπειρο αργούν να λάβουν δράση κατά του επιβλαβούς περιεχομένου σε γλώσσες που τα συστήματά τους δεν μπορούν να αναλύσουν. Οι υπεύθυνοι επαλήθευσης γεγονότων περιέγραψαν σε συνέντευξή τους στο Poynter ότι αφιερώνουν ώρες στη χειροκίνητη διαχείριση αναρτήσεων στο Facebook στην αμχαρική γλώσσα κατά τη διάρκεια περιόδων πολιτικής έντασης στην Αιθιοπία, αναλαμβάνοντας εργασία που θα έπρεπε να είχε εντοπιστεί από τα συστήματα της πλατφόρμας.

Για τις ίδιες τις πλατφόρμες, η πτυχή της συμμόρφωσης κατά κύριο λόγο αγνοείται. Ο νόμος για την τεχνητή νοημοσύνη της ΕΕ, ο οποίος τέθηκε σε ισχύ τον Αύγουστο του 2024, προβλέπει ότι τα συστήματα ΤΝ δεν πρέπει να είναι προκατειλημμένα και τα δεδομένα εκπαίδευσης πρέπει να είναι αντιπροσωπευτικά των πληθυσμών που θα επηρεαστούν από το σύστημα. Ο νόμος για τις ψηφιακές υπηρεσίες (DSA), ο οποίος έχει ήδη τεθεί σε ισχύ από τον Φεβρουάριο του 2024, υποχρεώνει τις πλατφόρμες να εξηγούν τις αποφάσεις τους σχετικά με τον έλεγχο περιεχομένου στους χρήστες που επηρεάζονται. Εάν ένα σύστημα δεν μπορεί να αναγνωρίσει τη γλώσσα στην οποία είναι γραμμένη μια ανάρτηση, δεν μπορεί να παράσχει μια ουσιαστική εξήγηση για τον λόγο που η εν λόγω ανάρτηση διαγράφηκε. Δεν πρόκειται για υποθετικές μελλοντικές υποχρεώσεις. Ισχύουν ήδη για κάθε πλατφόρμα με χρήστες στην Ευρώπη, ενώ κοινότητες που μιλούν αφρικανικές γλώσσες είναι παρούσες και ενεργές στην Ευρώπη.

Τι συμβαίνει στην ουσία;

Γίνονται προσπάθειες, αλλά είναι διάσπαρτες και αντιμετωπίζουν χρόνια έλλειψη πόρων.

Ερευνητικές ομάδες όπως η AfricaNLP, μια σειρά εργαστηρίων που διοργανώνεται στο πλαίσιο σημαντικών συνεδρίων υπολογιστικής γλωσσολογίας, παράγουν πολύγλωσσα σύνολα δεδομένων, σημεία αναφοράς και μοντέλα για τις αφρικανικές γλώσσες. Το εργαστήριο AfricaNLP του 2025 περιλάμβανε ανίχνευση της ρητορικής μίσους στα χάουσα και ίγκμπο, ταξινόμηση ειδήσεων στα σουαχίλι και αναγνώριση ομιλίας για γλώσσες με λίγες πηγές. Ακαδημαϊκές ομάδες σε πανεπιστήμια της Πρετόρια, του Ναϊρόμπι και της Αντίς Αμπέμπα συγκεντρώνουν δεδομένα εκπαίδευσης για γλώσσες που έως τώρα δεν τα διέθεταν.

Ακολουθούν ορισμένες εμπορικές προσπάθειες. Η Cohere, εταιρεία τεχνητής νοημοσύνης από τον Καναδά που αναπτύσσει μεγάλα γλωσσικά μοντέλα, συνεργάστηκε με τη HausaNLP για την ενσωμάτωση συνόλων δεδομένων αφρικανικών γλωσσών στο πολύγλωσσο μοντέλο Aya. Ο κλάδος της επισήμανσης δεδομένων, αξίας περίπου 2,8 δισεκατομμυρίων δολαρίων παγκοσμίως, βασίζεται σε μαγάλο βαθμό σε εργαζόμενους στην Κένυα, τη Νιγηρία και άλλες αφρικανικές χώρες για την επισήμανση των δεδομένων που εκπαιδεύουν τα συστήματα ΤΝ. Οι ίδιοι εργαζόμενοι σπάνια βλέπουν τις γλώσσες τους να αντικατοπτρίζονται στα αποτελέσματα των συστημάτων που βοηθούν να εκπαιδεύσουν.

Η ηπειρωτική στρατηγική ΤΝ της Αφρικανικής Ένωσης, η οποία εγκρίθηκε τον Ιούλιο του 2024, δεσμεύεται να ακολουθήσει μια προσέγγιση με επίκεντρο τον άνθρωπο και ορίζει την κυριαρχία των δεδομένων ως προτεραιότητα. Η στρατηγική της ΑΕ και οι εθνικές στρατηγικές για την τεχνητή νοημοσύνη που ακολούθησαν, όπως αυτή της Νιγηρίας τον Απρίλιο του 2025, αναγνωρίζουν τη γλωσσική πολυμορφία ως ένα ζήτημα που πρέπει να αντιμετωπιστεί. Τα έγγραφα στρατηγικής, όμως, δεν είναι μοντέλα. Δεν καλύπτουν από μόνα τους το χάσμα μεταξύ των δυνατοτήτων των συστημάτων και των γλωσσικών απαιτήσεων της ηπείρου.

Ο κλάδος της επισήμανσης δεδομένων βασίζεται σε μεγάλο βαθμό σε εργαζόμενους σε χώρες όπως η Κένυα για την επισήμανση περιεχομένου που εκπαιδεύει τα συστήματα ΤΝ. Οι ίδιοι εργαζόμενοι σπάνια βλέπουν τις γλώσσες τους να αντικατοπτρίζονται στα συστήματα που βοηθούν να εκπαιδεύσουν.

Ένα πρόβλημα που λύνεται αλλά κανείς δεν έχει αποφασίσει να το λύσει

Το γλωσσικό χάσμα στη διαχείριση περιεχομένου ΤΝ δεν αποτελεί μυστήριο. Είναι ένα γνωστό πρόβλημα με γνωστή αιτία: Η οικονομική πλευρά της ανάπτυξης συστημάτων τεχνητής νοημοσύνης έχει ιστορικά ευνοήσει τις γλώσσες με μεγάλο όγκο ψηφιακού κειμένου, ενώ οι περισσότερες αφρικανικές γλώσσες διαθέτουν ελάχιστο. Η αγγλική γλώσσα κυριαρχεί. Η γαλλική, η κινεζική και η αραβική έχουν κάποια κάλυψη. Όλες οι άλλες γλώσσες έχουν περιθωριακή παρουσία.

Αυτό που διαφέρει αυτή τη φορά είναι η ότι η ρυθμιστική πίεση αυξάνεται εκτός της Αφρικής με τρόπο που ενδεχομένως να αναγκάσει επιτέλους την αλλαγή. Οι υποχρεώσεις περί μη διακριτικής μεταχείρισης που προβλέπονται στον νόμο της ΕΕ για την τεχνητή νοημοσύνη ισχύουν και για τα δεδομένα εκπαίδευσης. Εάν ένα σύστημα έχει εκπαιδευτεί με δεδομένα, που δεν αντιπροσωπεύουν τους πληθυσμούς, στους οποίους θα παρέχει υπηρεσίες, οι υπεύθυνοι για την ανάπτυξη του συστήματος διατρέχουν τον κίνδυνο μη συμμόρφωσης. Οι απαιτήσεις διαφάνειας του νόμου DSA αναγκάζουν τις πλατφόρμες να εξηγούν τις αποφάσεις τους, συμπεριλαμβανομένων των αποφάσεων που λαμβάνονται από συστήματα τα οποία ενδεχομένως να έχουν μαντέψει αντί να έχουν κατανοήσει.

Αυτό δεν λύνει αυτόματα το πρόβλημα. Δημιουργεί όμως, για πρώτη φορά, οικονομικές επιπτώσεις για όσους το αγνοούν. Οι πλατφόρμες, που έχουν αντιμετωπίσει την κάλυψη των αφρικανικών γλωσσών ως κάτι το επιθυμητό και όχι ως βασική απαίτηση, ενδέχεται να δυσκολευτούν να διατηρήσουν αυτή τη στάση, όταν οι ρυθμιστικές αρχές θα μπορούν να ζητούν αναλυτικά στοιχεία απόδοσης ανά γλώσσα και κοινότητα.

Επιπλέον, υπάρχει ένα επιχείρημα που δεν βασίζεται καθόλου στη ρύθμιση. Η Αφρική είναι μία από τις περιοχές με την ταχύτερη ανάπτυξη όσον αφορά τη χρήση των μέσων κοινωνικής δικτύωσης. Οι πλατφόρμες, που επιθυμούν να αναπτυχθούν στην ήπειρο κατά την επόμενη δεκαετία, πρέπει να λειτουργούν πραγματικά προς όφελος των ανθρώπων που ζουν εκεί. Ένα σύστημα διαχείρισης περιεχομένου που αντιμετωπίζει τις γλώσσες σουαχίλι, γιορούμπα και αμχαρικά ως περιθωριακές περιπτώσεις δεν είναι ένα σύστημα σχεδιασμένο για το αφρικανικό κοινό. Είναι ένα σύστημα σχεδιασμένο για κάποιον άλλο, το οποίο απλώς έχει εφαρμοστεί στην Αφρική.

Αυτό είναι ένα κενό που αξίζει να επισημανθεί ξεκάθαρα. Όχι επειδή αρκεί το να το επισημάνουμε, αλλά επειδή το πρώτο βήμα για την επίλυση ενός προβλήματος είναι να αποφασίσουμε ότι πρόκειται, πράγματι, για πρόβλημα και όχι για μια αποδεκτή συμβιβαστική λύση.