#19 - 10/2020

Τίνος η υγεία; (μα της 4ης βιομηχανικής επανάστασης!)

Οι ψηφιακές τεχνολογίες, τα data ανθρώπινης συμπεριφοράς και οι αποφάσεις μέσω αλγορίθμων πρόκειται να παίξουν έναν αυξανόμενα κρίσιμο ρόλο στην αντιμετώπιση των κρίσεων στο μέλλον. Καθώς όλο και περισσότερο αφήνουμε την ελπίδα μας για την επίλυση βασικών προβλημάτων στα big data, η σημαντικότερη ερώτηση που αντιμετωπίζουμε δεν είναι το τι μπορούμε να πετύχουμε μ’ αυτά, αλλά μάλλον το τι θέλουμε να πετύχουμε.

Λίγες εβδομάδες μόνο μετά την εμφάνιση των πρώτων περιπτώσεων covid 19 στην κίνα, η νότια κορέα έθεσε σε εφαρμογή ένα σύστημα εκπομπής του ακριβούς προφίλ και των κινήσεων των ατόμων που είχαν διαγνωστεί θετικά στην αρρώστια. Άλλα ασιατικά και ευρωπαϊκά κράτη ακολούθησαν αναπτύσσοντας τα δικά τους συστήματα “ιχνηλάτησης και ελέγχου” με διάφορες αποχρώσεις επιτυχίας αλλά και ανησυχιών για τα ζητήματα ηθικής τάξης που προκύπτουν.

Αυτή η ισχυρή τάση ήταν κατανοητή: αν τα συστήματα που είναι ήδη διαθέσιμα μπορούν να σώσουν χιλιάδες ζωές, τότε γιατί δεν θα έπρεπε να τα χρησιμοποιήσουν τα κράτη; Ωστόσο, στην ορμή τους να πολεμήσουν την πανδημία, οι κοινωνίες έδωσαν μικρή σημασία στο πως αυτές οι διαδικασίες μπορούν να εφαρμοστούν σχεδόν μέσα σε μια νύχτα, και στο ποιές θα είναι οι συνέπειες.

Είναι αλήθεια ότι το νοτιοκορεατικό σύστημα ιχνηλάτησης και ελέγχου είχε ήδη προκαλέσει αρκετές συζητήσεις. Κι αυτό επειδή αυτό το σύστημα ξεπερνούσε τα ηθικά όρια κοινοποιώντας γραπτά τις ακριβείς κινήσεις των ατόμων που ήταν θετικά στον covid-19 σε άλλα άτομα της περιοχής, αποκαλύπτωντας επισκέψεις τους σε bar karaoke, σε ξενοδοχεία μιας νύχτας και σε gay clubs, για παράδειγμα.

Αλλά το νοτιοκορεάτικο σύστημα πηγαίνει μακριά επειδή συσχετίζει τα data θέσης μέσω κινητού τηλεφώνου με τα ατομικά data για τα ταξίδια του καθενός, τα δεδομένα υγείας, υλικό απ’ τις κάμερες της αστυνομίας, καθώς και data από δεκάδες εταιρείες πιστωτικών καρτών. Αυτές οι πληροφορίες συσχετίζονται μέσα από ένα σύστημα που αναπτύχθηκε για χρήση στις έξυπνες πόλεις της νότιας κορέας. Αφαιρώντας την τριβή της διοικητικής γραφειοκρατίας, αυτό το σύστημα πέτυχε την μείωση του χρόνου ιχνηλάτησης από μια μέρα σε μόλις δέκα λεπτά.

Νομικοί υπέρ της ψηφιακής ιδιωτικότητας και ασφάλειας των data έχουν προειδοποιήσει εδώ και χρόνια για τις συνέπειες της διασύνδεσης μεταξύ προσωπικών και δημόσιων βάσεων δεδομένων. Αλλά η πανδημία έδειξε για πρώτη φορά πόσο έτοιμες είναι αυτές οι ροές δεδομένων για συγκεντροποίηση και διασύνδεση. Όχι μόνο στη νότια κορέα αλλά σ’ όλο τον κόσμο.

Η πικρή αλήθεια είναι ότι δημιουργούμε τις υποδομές για την συλλογή βαθιά προσωπικών δεδομένων σχετικών με την συμπεριφορά του καθενός εδώ και καιρό. Η συγγραφέας Shoshana Zukoff εντοπίζει την γέννηση αυτού του “καπιταλισμού της επιτήρησης” στην επέκταση των κρατικών δυνάμεων ασφαλείας μετά τις τρομοκρατικές επιθέσεις της 11ης Σεπτέμβρη στις ηπα.

Τα επιχειρηματικά μοντέλα που στηρίζονται στην επεξεργασία δεδομένων έχουν ενισχύσει την χρήση των βασικών στοιχείων αυτής της υποδομής: smartphones, αισθητήρες, κάμερες, ψηφιακό χρήμα, βιομετρία και machine learning. Η ευκολία στη χρήση τους και η αποτελεσματικότητά τους - η υπόσχεση ότι μπορούν να κάνουν περισσότερα σε λιγότερο χρόνο και με μικρότερο κόστος - έχει κερδίσει τόσο τους επιχειρηματίες όσο και τους ιδιώτες χρήστες. Αλλά η γρήγορη, ενθουσιασμένη υιοθέτηση των ψηφιακών τεχνολογιών άφησε λίγο χρόνο και ελάχιστους λόγους να σκεφτούμε για τις συνέπειες που έχει το να ενώνονται όλες αυτές οι κουκίδες.

Αν και τα media συχνά αναφέρονται στις τεχνολογίες που σχετίζονται με την πανδημία σαν “αιχμής”, πολύ μικρό μέρος απ’ αυτές είναι πραγματικά καινούργιο· εκτός, ίσως, απ’ το ότι τώρα τις μαθαίνουν περισσότεροι. Η ιχνηλάτηση των ανθρώπινων κινήσεων είτε σε ατομική είτε σε παγκόσμια κλίμακα βρίσκεται στην καρδιά πολλών γνωστών εταιρειών. Οι αναφορές της google περί “κινητικότητας του covid-19”, για παράδειγμα, παρουσιάζει έναν ιλιγγιώδη όγκο δεδομένων του χρήστη, απ’ την κλίμακα της πόλης ως την κλίμακα της χώρας, δείχνοντας ποιός μένει στο σπίτι του, ποιός πάει στη δουλειά, και πως αυτές οι καθημερινές τροχιές άλλαξαν εξαιτίας του lockdown.

Το ίδιο ισχύει για τα data του τι αγοράζουμε και του πως δρούμε σαν ιδιώτες και ομάδες. Η παρακολούθηση των ιδιωτικών συμπεριφορών σε κλίμακα είναι τόσο κεντρική στην αυτοματοποίηση ώστε τα lockdown της πανδημίας που αφορούσαν πάνω 4 δισεκατομύρια ανθρώπων δημιούργησαν προβλήματα στην τεχνητή νοημοσύνη και τα μοντέλα machine learning, με συνέπεια για παράδειγμα να αποπροσανατολιστούν οι αλγόριθμοι που κυνηγούν τις απάτες και τα συστήματα διαχείρισης εφοδιαστικών αλυσίδων.
Η ξαφνική κοινωνική ορατότητα της συλλογής των δεδομένων συμπεριφοράς θα μπορούσε να προκαλέσει μια δημόσια αφύπνιση. Άλλωστε οι αποκαλύψεις του Edward Snowden αύξησαν την προσοχή του κόσμου στο γεγονός ότι οι επικοινωνίες τους μέσω skype και τα emails τους παρακολουθούνται στο όνομα της αντιτρομοκρατίας. Και το σκάνδαλο με την Cambridge Analytica στο Ηνωμένο Βασίλειο τόνισε την πώληση και την χρήση των προσωπικών δεδομένων για χρήση πολιτικής μικρο-στόχευσης.
Πιο συγκεκριμένα η κρίση του covid-19 θα μπορούσε να δείξει το πως τα data συμπεριφορών αποκαλύπτουν το τι κάνουμε ανά πάσα στιγμή, και γιατί το τι κάνουμε έχει σημασία. Αντί γι’ αυτό, αποδεχτήκαμε αυτές τις τεχνολογίες επειδή τις θεωρήσαμε - τουλάχιστον στη διάρκεια της τρέχουσας κρίσης - σαν προορισμένες για ένα ευρύτερο κοινωνικό καλό (προσπερνώντας εν τω μεταξύ το ερώτημα της αποτελεσματικότητάς τους).

Αλλά καθώς τα όρια ανάμεσα σε ιδιωτική και δημόσια υγεία θόλωσε πιο μόνιμα, μπορεί να αρχίσουμε να αντιμετωπίζουμε διαφορετικά τις παραχωρήσεις που μας ζητούν να κάνουμε. Μπορεί να δείξουμε μικρότερη ανοχή στην ιχνηλάτηση συμπεριφορών αν οι ατομικές επιλογές τρόπου ζωής παρακολουθούνται διαρκώς υπέρ του κοινού καλού. Εν δυνάμει τεχνολογίες που θα μας βοηθήσουν να διαχειριστούμε το μετα-πανδημικό μέλλον, όπως τα μέσα επιτήρησης της εργασίας ή/και τα μόνιμα ψηφιακά διαβατήρια υγείας, θα δοκιμάσουν έντονα τα συστήματα των αξιών μας. Κι αυτό μπορεί να οδηγήσει σε ισχυρές διαφωνίες, πολιτισμικές και πολιτικές, για το ποιες τεχνολογίες πρέπει και δεν πρέπει να προωθηθούν.

Θα ήταν εύκολο να περιορίσουμε αυτήν την αντιπαράθεση σε ζητήματα ειτήρησης και ιδιωτικότητας. Αλλά δεν είναι μόνον αυτές οι σημαντικές διακυβεύσεις. H συγκέντρωση διαρκώς καινούργιων data συμπεριφορών σε κλίμακα, όχι μόνο ενδυναμώνει τις μεγάλες εταιρείες, αλλά επιτρέπει επίσης την δημιουργία μοντέλων πρόβλεψης, συστητμάτων έγκαιρης προειδοποίησης, και εθνικών και παγκόσμιων συστημάτων αστυνόμευσης και ελέγχου. Επιπλέον, το μέλλον θα διαμορφώνεται από κρίσεις, από φυσικές καταστροφές μέχρι σιτοδείες και πανδημίες. Και οι ψηφιακές τεχνολογίες, τα data των ανθρώπινων συμπεριφορών, και οι αποφάσεις μέσω αλγορίθμων θα παίζουν έναν όλο και πιο αυξανόμενο ρόλο στην πρόβλεψη, στον μετριασμό και στη διαχείρισή τους.

Κατά συνέπεια οι κοινωνίες θα βρεθούν αντιμέτωπες με δύσκολα ερωτήματα για το πως αντιμετωπίζουν προκλήσεις πέρα απ’ τις πολιτικές ελευθερίες και τις βλαβερές μεροληψίες, τις διακρίσεις και τις ανισότητες που σχετίζονται με τις τεχνολογίες συλλογής data. Θα πρέπει να αποφασίσουμε ποιός έχει την ιδιοκτησία της γνώσης των συμπεριφορών και το πως χρησιμοποιείται αυτή η γνώση για το δημόσιο συμφέρον. Και θα πρέπει να παραδεχτούμε ότι το ποιος αποφασίζει τι στη βάση αυτών των data και ποιές πολιτικές απόψεις έχει, θα δημιουργήσει νέες μορφές εξουσίας με μακροπρόθεσμες συνέπειες για τις ζωές μας.

Καθώς όλο και περισσότερο ποντάρουμε στα big data για την επίλυση μεγάλων προβλημάτων, η μεγαλύτερη ερώτηση που αντιμετωπίζουμε δεν είναι το τι μπορούμε να κάνουμε μ’ αυτόν τον τρόπο, αλλά μάλλον το τι θέλουμε να κάνουμε. Αν δεν απαντήσουμε σ’ αυτό το ερώτημα, θα το απαντήσουν άλλοι για λογαριασμό μας.

Stephanie Hankey

Project Syndicate, 29 Ιούνη 2020
τίτλος πρωτότυπου: The behavioral data debate we need

μετάφραση / απόδοση: Ziggy Stardust