Διανύουμε μια εποχή που επικρατεί μια φράση, υπαρκτής πραγματικότητας, που κανένα βιβλίο, καμία ταινία sci-fi δεν την είχε προβλέψει. Όχι τουλάχιστον στο σημείο που τη βιώνουμε.
Και αυτή ονομάζεται:
η δικτατορία του αλγορίθμου
Φαντάζομαι, θα έχετε διαβάσει βιβλία ή θα έχετε παρ ακολουθήσει ταινίες / σειρές sci-fi που μια εταιρεία Corporation-κάτι κάνει κουμάντο στον πλανήτη ελέγχοντας απόλυτα τις ζωές ανθρώπων.
Όμως, έχει πάψει προ πολλού να είναι κάτι που ανήκει στον χώρο του φανταστικού.
Η εταιρεία αυτή είναι ήδη εδώ και έχει όνομα: «Meta».
Και έχει επιβάλλει μια διαφορετική δικτατορία από αυτή που προέβλεπαν οι συγγραφείς και σεναριογράφοι. Με τους αλγόριθμους.
Τι είναι η δικτατορία του αλγόριθμου:
Ο όρος «δικτατορία του αλγορίθμου» χρησιμοποιείται για να περιγράψει την αυξανόμενη δύναμη που ασκούν τα μαθηματικά μοντέλα και η τεχνητή νοημοσύνη στην καθημερινή μας ζωή, συχνά χωρίς τη συγκατάθεσή μας ή ακόμα και χωρίς να το αντιλαμβανόμαστε.
Δεν πρόκειται για μια δικτατορία με την κλασική πολιτική έννοια, αλλά για μια αόρατη χειραγώγηση που επηρεάζει από το τι αγοράζουμε μέχρι το πώς ψηφίζουμε.
Βλέπετε, οι αλγόριθμοι δεν είναι πλέον απλά εργαλεία, αλλά διαιτητές της πραγματικότητας.
Τα social media μας δείχνουν περιεχόμενο που συμφωνεί με τις απόψεις μας. Και σαν αποτέλεσμα, αυτό δημιουργεί έναν ιδεολογικό εγκλεισμό, όπου η αντίθετη άποψη εξαφανίζεται, οδηγώντας σε ακραία πόλωση.
Και πριν δαιμονοποιήσουμε τον αλγόριθμο θα πρέπει να ξεκαθαριστεί ότι αυτός δεν είναι κακός από τη φύση του. Απλά είναι ένας καθρέφτης των δεδομένων μας. Η δικτατορία προκύπτει όταν αφήνουμε αυτά τα μαθηματικά εργαλεία να αποφασίζουν για την ηθική και την ελευθερία μας χωρίς ανθρώπινο έλεγχο.
Αλλά, κοιτάξτε τι γίνεται: η Meta δεν μας επιβάλλει κάτι με τη βία· μας το προσφέρει ως ευκολία ή ψυχαγωγία.
Και να γιατί:
Όποιος νομίζει ότι το Facebook και το Instagram είναι απλά αθώα social media για να βλέπουμε φωτογραφίες και να ανταλλάσουμε ευχές, ξανασκεφτείτε το. Η πραγματικότητα είναι πολύ πιο σκοτεινή. Πίσω από τις οθόνες μας τρέχουν αλγόριθμοι σχεδιασμένοι από τις πιο έξυπνες διάνοιες της Silicon Valley με έναν και μόνο σκοπό: το απόλυτο εθιστικό engagement.
Και επειδή ο ανθρώπινος εγκέφαλος αντιδρά ταχύτερα στο φόβο, την οργή και τη διχόνοια, οι πλατφόρμες αυτές πριμοδοτούν συστηματικά τις πιο ακραίες φωνές, μετατρέποντας το μίσος σε κέρδος.
Τα παρακάτω 3 ντοκιμαντέρ ξεσκεπάζουν το πώς η Meta και οι αλγόριθμοί της μετέτρεψαν τα προσωπικά μας δεδομένα σε όπλο και την κοινωνία σε ένα δυστοπικό πεδίο ψυχολογικού πολέμου.
1. The Social Dilemma (2020):
Πρόκειται για ένα ντοκιμαντέρ πού εστιάζει στον αλγόριθμο της Meta (Facebook/Instagram) και της Google.
Το ενδιαφέρον είναι ότι δεν μιλάνε εξωτερικοί παρατηρητές, αλλά οι ίδιοι οι μηχανικοί, σχεδιαστές και στελέχη που έφτιαξαν τους αλγόριθμους, όπως ο Tristan Harris, πρώην design ethicist της Google, και σχεδιαστές του Like" button.
Εξηγεί τεχνικά πώς ο αλγόριθμος δεν είναι σχεδιασμένος για να σε ενημερώνει, αλλά για να κρατάει την προσοχή σου. Και επειδή η οργή, ο φόβος, οι θεωρίες συνωμοσίας και οι ακρότητες προκαλούν τα περισσότερα κλικ, ο αλγόριθμος πριμοδοτεί συστηματικά το πιο ακραίο περιεχόμενο.
2. The Great Hack (2019):
Αυτό είναι ένα ντοκιμαντέρ που εστιάζει στο περιβόητο σκάνδαλο της Cambridge Analytica και στο Facebook δείχνοντας πώς τα προσωπικά δεδομένα εκατομμυρίων χρηστών του Facebook έγιναν όπλο ψυχολογικού πολέμου.
Αναλύει το πώς η Meta επέτρεψε σε μια εταιρεία να χαρτογραφήσει την προσωπικότητα αναποφάσιστων πολιτών και, μέσω στοχευμένης παραπληροφόρησης και αλγοριθμικής ενίσχυσης του μίσους, να επηρεάσει το δημοψήφισμα του Brexit και τις αμερικανικές εκλογές του 2016.
3. The Facebook Dilemma (PBS Frontline - 2018):
Αυτό εστιάζει στη σκοτεινή πλευρά της επέκτασης του Facebook παγκοσμίως (documentary 2 μερών) και πρόκειται για παραγωγή της ερευνητικής δημοσιογραφίας του PBS.
Δείχνει πώς η εμμονή του Zuckerberg για ανάπτυξη (το “move fast and break things” όπως ο ίδιος λέει) και ο αλγόριθμος ενίσχυσης του μίσους οδήγησαν σε πραγματικές τραγωδίες, όπως στη γενοκτονία της Μιανμάρ, όπου το Facebook χρησιμοποιήθηκε ως το κύριο όπλο εθνοκάθαρσης λόγω παντελούς έλλειψης moderation.
☞ Τα «The Social Dilemma» και «The Great Hack» υπάρχουν στο Netflix, ενώ το «The Facebook Dilemma»
είναι διαθέσιμο δωρεάν στο YouTube από το κανάλι του PBS Frontline.
Όμως, αν δεν έχετε Netflix, εύκολα θα τα βρείτε, αφού κυκλοφορούν παντού στο διαδίκτυο και με ελληνικούς υπότιτλους.
Κατακλείδα:
Καταλήγοντας, ας μη γελιόμαστε. Δεν είναι μόνο η Meta. Αυτή είναι ο παλιός βασιλιάς που έχτισε το κάστρο της αλγοριθμικής εξουσίας. Όμως, σήμερα ζούμε σε μια ολιγαρχία αλγορίθμων, όπου πολλές εταιρείες μάχονται για το ποια θα ελέγξει το λειτουργικό σύστημα της προσοχής μας.