Γίνονται οι πλατφόρμες κοινωνικών μέσων άνομες ζώνες όπου η ελευθερία της έκφρασης χρησιμοποιείται ως πρόσχημα για τη διάδοση μίσους; Αυτό το ερώτημα είναι ιδιαίτερα οξύ για το X (πρώην Twitter), το οποίο έχει υποστεί μια ριζική αλλαγή στη ρύθμιση του περιεχομένου. Μεταξύ της υπόσχεσης ελεύθερης ομιλίας και των πολύ πραγματικών καταχρήσεων, οι νέες πολιτικές της πλατφόρμας εγείρουν έντονες ανησυχίες για την ασφάλεια των χρηστών και την υπευθυνότητα των τεχνολογικών γιγάντων. Αυτή η εξέλιξη, μακριά από το να είναι ασήμαντη, αναθεωρεί τα όρια του ψηφιακού δημόσιου χώρου μας.

Διαχείριση στο X: μια ριζική αλλαγή υπό την εποχή του Μασκ

Από την απόκτηση του Ίλον Μασκ, το X μετέβαλε την προσέγγιση στη διαχείριση περιεχομένου, απομακρυνόμενο από καθιερωμένες πολιτικές για να αγκαλιάσει μια φιλοσοφία «σχεδόν απόλυτης ελευθερίας του λόγου». Αυτή η αλλαγή είχε ως αποτέλεσμα δραστική μείωση των ομάδων ανθρώπινης διαχείρισης, χαλάρωση των κανόνων και αυξημένη εξάρτηση από αυτοματοποιημένα συστήματα. Παλαιότερα, η πλατφόρμα δημοσίευε λεπτομερείς αναφορές διαφάνειας, συχνά περίπου πενήντα σελίδων, παρέχοντας μια λεπτομερή περιγραφή των ενεργειών που ελήφθησαν κατά της παραπληροφόρησης, ρητορικής μίσους και άλλου επιβλαβούς περιεχομένου. Σήμερα, η επικοινωνία είναι λιγότερο συχνή και οι αναφορές είναι πιο συνοπτικές, χρησιμοποιώντας νέες μετρήσεις που κάνουν τη σύγκριση δύσκολη.

Αυτή η ιδεολογική στροφή είχε συγκεκριμένες συνέπειες στους τύπους περιεχομένου που είναι ανεκτοί. Για παράδειγμα, η πλατφόρμα κατέστρεψε την πολιτική της κατά της παραπληροφόρησης σχετικά με τον COVID-19. Επιπλέον, πρακτικές όπως η παραπληροφόρηση του φύλου ή η χρήση του αρχικού ονόματος ενός ατόμου χωρίς τη συγκατάθεση του δεν ταξινομούνται πλέον συστηματικά ως ρητορική μίσους. Αυτές οι αποφάσεις, που ελήφθησαν στο όνομα της λιγότερο περιορισμένης ομιλίας, άνοιξαν την πόρτα για την αναβίωση προβληματικού περιεχομένου, αφήνοντας πολλούς χρήστες και παρατηρητές ανήσυχους για την κατεύθυνση που παίρνει το κοινωνικό δίκτυο.

Αυτή η νέα εποχή έρχεται σε έντονη αντίθεση με το παρελθόν, όπου, αν και ατελής, υπήρχε αναζήτηση ισορροπίας μεταξύ της προστασίας των χρηστών και της ελευθερίας του λόγου. Η διάλυση των συμβουλετικών συμβουλίων και η αποκατάσταση των λογαριασμών που είχαν προηγουμένως απαγορευθεί για σοβαρές παραβιάσεις κανόνων έστειλε ένα σαφές μήνυμα: η προτεραιότητα δεν είναι πλέον η αυστηρή επεξεργασία περιεχομένου αλλά η ελαχιστοποίηση των παρεμβάσεων, ακόμη και αν ευδοκιμεί ο τοξικός λόγος.

Τι λένε οι αριθμοί; Ανάλυση της τελευταίας αναφοράς διαφάνειας

Η πρώτη αναφορά διαφάνειας που δημοσιεύτηκε από το X σε δύο χρόνια, που καλύπτει το πρώτο εξάμηνο του 2024, παρουσιάζει μια ανησυχητική εικόνα. Οι καθαροί αριθμοί αποκαλύπτουν τεράστια απόκλιση μεταξύ των αναφορών των χρηστών και των δράσεων της πλατφόρμας. Από τη μια πλευρά, οι αναφορές έχουν εκραγεί, με πάνω από 224 εκατομμύρια λογαριασμούς και tweets να έχουν αναφερθεί από χρήστες, συγκριτικά με μόλις 11,6 εκατομμύρια στο δεύτερο εξάμηνο του 2021 — μια εντυπωσιακή αύξηση σχεδόν 1830%.

Από την άλλη, τα μέτρα επιβολής δεν έχουν ακολουθήσει την ίδια τάση. Ο αριθμός των αναστολών λογαριασμών αυξήθηκε μόνο 300% κατά την ίδια περίοδο, ανερχόμενος από 1,3 εκατομμύρια σε 5,3 εκατομμύρια. Το κενό είναι ακόμη πιο εντυπωσιακό σε κρίσιμους τομείς όπως η ασφάλεια των παιδιών: από πάνω από 8,9 εκατομμύρια αναρτήσεις που αναφέρθηκαν ότι καταπατούσαν την ασφάλεια ανηλίκων, μόνο 14.571 αφαιρέθηκαν. Όσον αφορά το μισαλλόδοξο περιεχόμενο, η αντίθεση είναι εξίσου έντονη: η πλατφόρμα ανέστειλε μόνο 2.361 λογαριασμούς για αυτό το λόγο, σε σύγκριση με 104.565 στο δεύτερο εξάμηνο του 2021.

Αν και το X εν μέρει δικαιολογεί αυτά τα κενά με αλλαγές στις ορισμούς και τις μεθόδους μέτρησης, η υποκείμενη τάση είναι αδιαμφισβήτητη: σημαντικά μειωμένες ενέργειες διαχείρισης απέναντι σε έναν εκρηκτικό αριθμό αναφορών. Αυτή η κατάσταση τροφοδοτεί φόβους για ένα λιγότερο ασφαλές ψηφιακό περιβάλλον όπου το πιο επικίνδυνο περιεχόμενο —ιδιαίτερα σχετικό με την εκμετάλλευση παιδιών και την υποκίνηση μίσους— γλιστρά όλο και περισσότερο μέσα από τις ρωγμές.

[Εικόνα: Γράφημα που δείχνει την αυξανόμενη απόκλιση μεταξύ των αναφορών χρηστών και των ενεργειών διαχείρισης στο X]

Τεχνητή Νοημοσύνη στη διεύθυνση: η νέα ραχοκοκαλιά της ρύθμισης περιεχομένου

Για να αντισταθμίσει το μειωμένο ανθρώπινο προσωπικό, το X βασίζεται έντονα στην τεχνητή νοημοσύνη. Η πλατφόρμα ισχυρίζεται ότι η διαχείρισή της βασίζεται σε έναν «συνδυασμό μηχανικής εκμάθησης και ανθρώπινης αξιολόγησης», με την ΤΝ να ενεργεί άμεσα ή να επισημαίνει περιεχόμενο για περαιτέρω επαλήθευση. Ωστόσο, αυτή η αυξανόμενη εξάρτηση από αλγόριθμους εγείρει θεμελιώδη ερωτήματα για την ικανότητά τους να χειρίζονται την πολυπλοκότητα και τις αποχρώσεις της ανθρώπινης γλώσσας.

Περιορισμοί της αυτοματοποιημένης διαχείρισης

Παρά την πρόοδο, οι αυτοματοποιημένοι συστήματα είναι γνωστοί για τα λάθη τους. Δυσκολεύονται να ερμηνεύσουν σωστά τον σαρκασμό, την κρυπτογραφημένη γλώσσα, ή το πολιτισμικό πλαίσιο. Μια μελέτη του Πανεπιστημίου της Οξφόρδης και του Ιδρύματος Άλαν Τουρινγκ έδειξε ότι τα μοντέλα ΤΝ για την ανίχνευση ρητορικής μίσους έχουν σημαντικές αδυναμίες: ορισμένα υπερανιχνεύουν επισημαίνοντας εσφαλμένα ακίνδυνο περιεχόμενο, ενώ άλλα υποανιχνεύουν αφήνοντας σαφώς μισαλλόδοξη γλώσσα να περάσει.

Παραδείγματα αποτυχίας υπάρχουν σε άλλες πλατφόρμες:

• Το 2020, τα συστήματα του Facebook ανέστειλαν διαφημίσεις για μικρές επιχειρήσεις που προσπαθούσαν να επιβιώσουν.

• Φέτος, ο αλγόριθμος της Meta επισήμανε λάθος δημοσιεύσεις από το Μνημείο του Άουσβιτς ως παραβίαση των προτύπων της.

Ένα άλλο σημαντικό πρόβλημα είναι η μεροληψία των δεδομένων εκπαίδευσης. Οι περισσότεροι αλγόριθμοι αναπτύσσονται από σύνολα δεδομένων που προέρχονται κυρίως από τις βόρειες χώρες, καθιστώντας τα λιγότερο αποτελεσματικά στην ανάλυση διαλέκτων ή πολιτισμικών πλαισίων, όπως η Μαγρεβική Αραβική. Αυτή η πολιτισμική αναλγησία μπορεί να οδηγήσει σε άνιση και άδικη διαχείριση.

Συνέπειες για τις περιθωριοποιημένες κοινότητες

Αυτή η υπερβολική εξάρτηση από την ΤΝ κινδυνεύει να βλάψει δυσανάλογα τις περιθωριοποιημένες κοινότητες. Η γλώσσα τους, που μπορεί να περιλαμβάνει επανακτημένους όρους ή ειδική φρασεολογία, συχνά γίνεται παρεξηγημένη και επισημαίνεται λανθασμένα ως προσβλητική. Εν τω μεταξύ, οι λεπτές και κωδικοποιημένες μορφές μίσους που τους στοχεύουν συχνά διαφεύγουν από τα φίλτρα του αλγόριθμου. Το αποτέλεσμα είναι ένα διπλό εμπόδιο: λογοκρισία της νόμιμης έκφρασής τους και ανεπαρκής προστασία από την παρενόχληση που υφίστανται. Η εμπιστοσύνη σε μηχανές για την επίλυση σύνθετων ηθικών ζητημάτων κινδυνεύει όχι μόνο να παραβιάζει την ελευθερία της έκφρασης αλλά και να ενισχύει τις ανισότητες που υποτίθενται ότι οι πλατφόρμες προσπαθούν να πολεμήσουν.

Η ΤΝ, ένα δίκοπο εργαλείο

Η τεχνητή νοημοσύνη είναι ένα ισχυρό εργαλείο, αλλά δεν είναι μια απόλυτη λύση. Χωρίς αυστηρή ανθρώπινη εποπτεία, ποικιλόμορφα δεδομένα εκπαίδευσης και σαφείς πολιτικές, τα αυτοματοποιημένα συστήματα διαχείρισης μπορούν να επιδεινώσουν τα προβλήματα που υποτίθεται ότι λύνουν, δημιουργώντας ένα περιβάλλον που είναι ταυτόχρονα υπερβολικά περιοριστικό για ορισμένους και υπερβολικά χαλαρό για άλλους.

Πραγματικές συνέπειες: όταν ο διαδικτυακός λόγος τροφοδοτεί τη βία

Η επιείκεια στη διαχείριση του X δεν είναι απλώς θεωρητική συζήτηση. Έχει απτές επιπτώσεις στον πραγματικό κόσμο. Πρόσφατη υπόθεση στο Ηνωμένο Βασίλειο το αποδεικνύει δραματικά. Εν μέσω ταραχών που προκλήθηκαν εν μέρει από παραπληροφόρηση στα κοινωνικά μέσα, μια γυναίκα ανάρτησε ένα tweet καλώντας να «ανάψουν φωτιά σε όλα τα γ@μημένα ξενοδοχεία γεμάτα μπάσταρδους».

Το πλήρες μήνυμά της ήταν ξεκάθαρο:

"Μαζική απέλαση τώρα, βάλτε φωτιά σε όλα τα γ@μημένα ξενοδοχεία γεμάτα μπάσταρδους, δεν με νοιάζει, και ενώ το κάνετε, πάρτε μαζί τους την κυβέρνηση και τους προδοτικούς πολιτικούς. [...] Αν αυτό με κάνει ρατσίστρια, τον δέχομαι."

Αυτό το μήνυμα αναφέρθηκε στο X για παραβίαση των κανόνων του. Η απάντηση της πλατφόρμας; Το tweet δεν παραβίαζε κανέναν κανόνα. Ωστόσο, το δικαστικό σύστημα του Ηνωμένου Βασιλείου το είδε πολύ διαφορετικά. Η συγγραφέας διώχτηκε και δήλωσε ένοχη για υποκίνηση ρατσιστικού μίσους. Αυτό το παράδειγμα επισημαίνει ένα ανησυχητικό χάσμα μεταξύ αυτού που ο νόμος θεωρεί σοβαρό έγκλημα και αυτού που μια κορυφαία παγκόσμια πλατφόρμα θεωρεί αποδεκτό. Επιτρέποντας τέτοιες κλήσεις για βία στο διαδίκτυο κινδυνεύουμε να τις μετατρέψουμε σε πραγματικές πράξεις, θέτοντας σε κίνδυνο πραγματικές ζωές.

Η υπευθυνότητα των πλατφορμών στη διακύβευση

Όταν το περιεχόμενο θεωρείται παράνομο από ένα δικαστήριο αλλά επιτρέπεται από μια πλατφόρμα, το ζήτημα της υπευθυνότητας αυτής της πλατφόρμας έρχεται άμεσα στο προσκήνιο. Η ασυλία που συχνά παρέχεται στους φιλοξενούντες περιεχομένου αμφισβητείται ολοένα και περισσότερο, ιδίως όταν η χαλαρότητά τους συμβάλλει στη βία εκτός σύνδεσης.

Μια πρόκληση για το σύνολο του ψηφιακού οικοσυστήματος

Οι δυσκολίες διαχείρισης του X δεν είναι μια μεμονωμένη περίπτωση. Άλλοι γίγαντες όπως η Meta (Facebook, Instagram) αναγνωρίζουν ότι οι αλγόριθμοί τους συχνά αποτυγχάνουν να εντοπίσουν σωστά την παραπληροφόρηση ή τη ρητορική μίσους, δημιουργώντας τόσο ψευδώς θετικά όσο και μη εντοπισμένο επιβλαβές περιεχόμενο. Το πρόβλημα είναι συστηματικό και επιδεινώνεται από την τάση της βιομηχανίας να μειώσει το κόστος αντικαθιστώντας τους ανθρώπινους διαχειριστές με φθηνότερες αλλά και λιγότερο αξιόπιστες λύσεις ΤΝ.

Αυτή η πρόκληση ενισχύεται από την αυξανόμενη αδιαφάνεια. Το κλείσιμο του CrowdTangle τον Αύγουστο του 2024, ένα εργαλείο της Meta που επέτρεπε στους ερευνητές να παρακολουθούν την παραπληροφόρηση, και η απόφαση του Έλον Μασκ να χρεώσει για την πρόσβαση στο API του X το 2023 έχουν περιορίσει σημαντικά την ικανότητα της κοινωνίας των πολιτών και των ακαδημαϊκών να μελετήσουν αυτά τα φαινόμενα. Χωρίς πρόσβαση σε δεδομένα, γίνεται σχεδόν αδύνατον να εκτιμηθεί η κλίμακα του προβλήματος και να κρατηθούν οι πλατφόρμες υπεύθυνες. Με μεγάλες εκλογές να πλησιάζουν παγκοσμίως, αυτή η έλλειψη διαφάνειας είναι ιδιαίτερα ανησυχητική, καθώς παρεμποδίζει τις προσπάθειες να αντιμετωπιστούν οι εκστρατείες επιρροής και χειραγώγησης.

Προς έξυπνα και πιο υπεύθυνα συστήματα;

Η κρίση διαχείρισης περιεχομένου μας ωθεί να επανεξετάσουμε το σχεδιασμό πιο αξιόπιστων και υπεύθυνων συστημάτων, ψηφιακών ή άλλων. Η αναζήτηση της ισορροπίας μεταξύ της τεχνολογίας, της ανθρώπινης εμπειρογνωμοσύνης και της ηθικής υπευθυνότητας είναι ένα κεντρικό ζήτημα της εποχής μας. Αυτή η αναζήτηση της βελτιστοποίησης βρίσκεται σε πολύ διαφορετικούς τομείς, όπως η ενεργειακή μετάβαση.

Σε αυτόν τον τομέα, εταιρείες όπως οι Les Nouveaux Installateurs αποτελούν παράδειγμα για το πώς μια ολοκληρωμένη προσέγγιση μπορεί να παρέχει σταθερές λύσεις. Η εργασία τους δεν αφορά απλώς στην εγκατάσταση ηλιακών πάνελ αλλά στο σχεδιασμό ενός έξυπνου ενεργειακού οικοσυστήματος για κάθε σπίτι. Προσφέρουν ολοκληρωμένη υποστήριξη, από τις αρχικές ενεργειακές μελέτες έως την απομακρυσμένη παρακολούθηση των εγκαταστάσεων. Οι λύσεις τους ενσωματώνουν προηγμένες τεχνολογίες, όπως έξυπνος έλεγχος που βελτιστοποιεί την κατανάλωση, σταθμοί φόρτισης για ηλεκτρικά οχήματα και αντλίες θερμότητας, όλα διαχειριζόμενα μέσω ειδικής εφαρμογής.

Αυτό το παράλληλο είναι διδακτικό. Όπως οι Les Nouveaux Installateurs συνδυάζουν την τεχνολογική απόδοση (παράγωγα, αναστροφείς, έλεγχος) με την αναγκαία ανθρώπινη εμπειρία (εξατομικευμένη μελέτη, διοικητικές διαδικασίες, εγκατάσταση από πιστοποιημένες RGE ομάδες), το μέλλον ενός υγειούς ψηφιακού χώρου πιθανώς βρίσκεται σε ένα υβριδικό μοντέλο. Μια ισχυρή ΤΝ για την επεξεργασία μεγάλων δεδομένων, εποπτευόμενη και συμπληρούμενη από εκπαιδευμένους ανθρώπινους διαχειριστές οι οποίοι κατανοούν το πλαίσιο, τις πολιτισμικές αποχρώσεις και τα ηθικά διακυβεύματα. Συνδυάζοντας το καλύτερο από μηχανήματα και ανθρώπους, μπορούμε να ελπίσουμε να χτίσουμε δικαιότερα και ασφαλέστερα συστήματα.

Συμβουλές από ειδικούς: σκεφτείτε το οικοσύστημα ως σύνολο

Είτε διαχειριζόμαστε την κατανάλωση ενέργειας είτε την παρουσία μας στο διαδίκτυο, μια συστηματική όραση είναι απαραίτητη. Για την ενεργειακή μετάβαση, αυτό σημαίνει όχι μόνο την εγκατάσταση πάνελ αλλά και την οπτιμοποίηση των πάντων με λύσεις ελέγχου, αποθήκευση (εικονική μπαταρία) και αποδοτικός εξοπλισμός όπως αντλίες θερμότητας. Οι Les Nouveaux Installateurs προσφέρουν μια ολοκληρωμένη προσέγγιση, εξασφαλίζοντας μέγιστη συνοχή και αποδοτικότητα για το ενεργειακό σας έργο.

Η συζήτηση για τη διαχείριση περιεχομένου στο X αποκαλύπτει μια ευρύτερη ένταση μεταξύ τεχνολογικής καινοτομίας και κοινωνικής υπευθυνότητας. Οι επιλογές των πλατφορμών επηρεάζουν άμεσα την ποιότητα της δημόσιας συζήτησης και την ασφάλεια των κοινωνιών μας. Το τρέχον μοντέλο, που κλίνει προς την υπερβολική αυτοματοποίηση και την αποσύμπλεξη του ανθρώπου, δείχνει σοβαρούς περιορισμούς. Το μέλλον πιθανότατα θα απαιτήσει αυστηρότερη ρύθμιση, μεγαλύτερη διαφάνεια από τις τεχνολογικές εταιρείες και μια επιστροφή σε ένα όραμα όπου η τεχνολογία εξυπηρετεί να προστατεύει τους χρήστες παρά να τους εκθέτει σε κινδύνους.

Συχνές ερωτήσεις για τη διαχείριση περιεχομένου στο X

Ποιες είναι οι κύριες αλλαγές στη διαχείριση περιεχομένου στο X;

Από την ανάληψη του Έλον Μασκ, οι σημαντικές αλλαγές περιλαμβάνουν σημαντική μείωση των ομάδων διαχείρισης, χαλάρωση κανόνων (κυρίως για την παραπληροφόρηση σχετικά με τον COVID και την παραπληροφόρηση του φύλου), αυξημένη reliance στην ΤΝ και αξιοσημείωτη μείωση ενεργειών διαχείρισης (αναστολές, αφαιρέσεις) παρά την αύξηση των αναφορών των χρηστών.

Είναι η ΤΝ βιώσιμη λύση για τη διαχείριση περιεχομένου;

Αυτή τη στιγμή, η ΤΝ μόνη της δεν είναι βιώσιμη λύση. Οι αλγόριθμοι δυσκολεύονται να κατανοήσουν τις αποχρώσεις της ανθρώπινης γλώσσας όπως η ειρωνεία και το πολιτισμικό πλαίσιο, οδηγώντας σε λογοκρισία νόμιμου περιεχομένου και την αποτυχία ανίχνευσης έμμεσης ρητορικής μίσους. Οι ειδικοί συμφωνούν ότι ένα υβριδικό μοντέλο που συνδυάζει την ΤΝ με κατάλληλα ανθρώπινη εποπτεία είναι αναγκαίο για αποτελεσματική και δίκαιη διαχείριση.

Ποιες είναι οι συνέπειες αυτών των πολιτικών για την ελευθερία της έκφρασης;

Η προωθούμενη από το X όραση «απόλυτης ελευθερίας έκφρασης» παραδόξως απειλεί την ομιλία πολλών χρηστών. Επιτρέποντας στη ρητορική μίσους, στη παραπληροφόρηση και στην παρενόχληση να ανθίσουν, η πλατφόρμα γίνεται εχθρικό περιβάλλον, ιδίως για τις μειονότητες και τις περιθωριοποιημένες ομάδες που μπορεί να σιγήσουν. Η αληθινή ελευθερία έκφρασης απαιτεί ένα ασφαλές περιβάλλον όπου όλοι μπορούν να μιλήσουν χωρίς να φοβούνται για την ασφάλειά τους.