#31 - 10/2024

τα (ρομποτικά) δικαιώματα του κεφάλαιου

Τον Οκτώβρη του 2017 η Sophia έγινε επίσημα πολίτης της σαουδικής αραβίας, γεγονός που μάλλον δεν θα άξιζε κάποια αναφορά αν η Sophia δεν ήταν ρομπότ. Λίγες ημέρες πριν, είχε παρουσιαστεί επίσης και στα ηνωμένα έθνη, τα οποία της δώσανε τον τίτλο της “πρώτης καινοτομίας” του αναπτυξιακού προγράμματος των η.ε, κάνοντάς την τον πρώτο μη-άνθρωπο που έχει τίτλο των η.ε. Οι κινήσεις αυτές ήταν περισσότερο δημόσιες σχέσεις και προβολή, παρά είχαν κάποιο πρακτικό αποτέλεσμα, συμβάλλοντας στην διεύρυνση των συζητήσεων της ηθικής της τεχνητής νοημοσύνης, τόσο στο “επίσημο” ακαδημαϊκό όσο και στο “ανεπίσημο” “λαϊκο-θεαματικό” επίπεδο.

Η συζήτηση της ηθικής της ΑΙ και των ρομπότ είναι μεγάλη, τόσο στα ζητήματα που θίγει αλλά και στο εύρος στο οποίο γίνεται, ακόμα και αν δεν έχουμε ακούσει πολλά για αυτήν, στο “επίσημο” επίπεδο τουλάχιστον. Ανεπίσημα οι προβληματισμοί έχουν μπει σε διάφορες συζητήσεις, μέσω του θεάματος εδώ και χρόνια, από τα βιβλία και τις ταινίες, μέχρι τα τηλεοπτικά show που φιλοξενούν ρομπότ όπως η Sophia. H “επίσημη” συζήτηση, αυτή των θεωρητικών, ακαδημαϊκών και νομικών, είναι επίσης σχετικά παλιά, αλλά έχει πάρει μεγαλύτερες διαστάσεις και βάρος τα τελευταία λίγα χρόνια που η τεχνολογία έχει φτάσει στο σημείο να φτιάχνει Σοφίες και γλωσσικά μοντέλα ΑΙ, τύπου ChatGPT.

Έτσι, μέσα σε όλη αυτή τη συζήτηση προκύπτει και το ζήτημα του αν θα έπρεπε τα ρομπότ να έχουν δικαιώματα σαν τους ανθρώπους και σε ποιά βάση. Ίσως ακούγεται γελοίο - σίγουρα είναι και αυτό - αλλά μάλλον είναι πιο σοβαρό απ’ ότι φαίνεται. Τα επιχειρήματα υπέρ και κατά ποικίλουν και περιστρέφονται κυρίως γύρω από την έννοια της “ανθρωπινότητας”, τί κάνει έναν άνθρωπο “άνθρωπο” που να αξίζει δικαιώματα. Από την αρχή λοιπόν είναι εμφανές το πόσο ναρκοθετημένο είναι αυτό το πλαίσιο. Ποιός ορίζει τον άνθρωπο και τις ιδιότητές του και ποιοί ορίζουν τί είναι δικαίωμα και ποιός το αξίζει; Σε επίπεδο ατομικής άποψης μπορεί ο καθένας να το ορίζει όπως θέλει, όμως αυτό που έχει σημασία είναι το πώς το ορίζει τελικά αυτός που έχει την δυνατότητα να δώσει ή να αφαιρέσει δικαιώματα.

Επίσης, δεδομένου του ότι αυτή η συζήτηση γίνεται μεταξύ ανθρώπων, οι οποίοι έχουν δημιουργήσει και την έννοια/πρακτική του δικαιώματος, πώς θα ωφελούσε οτιδήποτε μη-ανθρώπινο το να έχει δικαιώματα; Αν είναι να το προστατέψει από τις κακές πρακτικές των ανθρώπων, γιατί η συζήτηση αφορά τα δικαιώματα στα μη-ανθρώπινα όντα και όχι τους περιορισμούς στους ανθρώπους; Αφού έτσι κι αλλιώς η συζήτηση είναι ανθρωποκεντρική και δεν θα μπορούσε να είναι αλλιώς.

Τι επιπτώσεις έχουν αυτές οι τρέχουσες συζητήσεις στα υπάρχοντα ανθρώπινα δικαιώματα, τα αναβαθμίζουν ή τα υποβαθμίζουν; Τί επιπτώσεις έχουν στην ίδια την έννοια του “δικαιώματος”; Και ακόμη πιο σημαντικό, τί ρόλο παίζουν στην έννοια και την απόδοση της “ευθύνης”; Μιας και ένα από τα βασικά επιχειρήματα “υπέρ” είναι ότι «όταν θα μπορούμε να πούμε ότι φταίει η μηχανή για τις πράξεις της, τότε θα είναι καιρός να της δώσουμε και δικαιώματα». Πότε και πώς θα απαλλαχτεί το “ρομπότ” από την ανθρώπινη εργασία/σχεδιασμό/καθοδήγηση, αν είναι ποτέ δυνατό αυτό;

Αν - λέμε αν - τα δικαιώματα δεν είναι πράγματα που αποδίδονται και αφαιρούνται, αλλά ζήτημα διεκδικήσεων και ανταγωνισμού, τί ρόλο παίζει μια συζήτηση για ένα μελλοντικό σενάριο που οι μηχανές θα είναι “αυτόνομες”, στους τωρινούς συσχετισμούς; Υπάρχουν συμφέροντα που επωφελούνται από την θέση που θέλει να κάνει τις μηχανές “υπεύθυνες για τις πράξεις τους” και τους ανθρώπους συμμορφωμένους με έναν γενικότερο δικαιωματισμό που έχει αποδοθεί “εξίσου” σε ανθρώπους και μηχανές;

Το άρθρο που έχουμε μεταφράσει παρακάτω, με σκοπό να παρουσιάσουμε ένα μέρος αυτής της συζήτησης, επιχειρηματολογεί “κατά” και δεν αναφέρεται σε όλα τα ερωτήματα που θέσαμε επιγραμματικά πριν. Είναι γραμμένο από ακαδημαϊκούς στην γλώσσα τους και σε κάποια σημεία περισσότερο τεχνικό - από την άποψη της στριφνής ακαδημαϊκής γλώσσας - από όσο αντέχουμε. Επίσης σε κάποια σημεία μας βρίσκει αντίθετους. Παρόλα αυτά παρουσιάζει ένα χρήσιμο στιγμιότυπο του επιπέδου στο οποίο γίνεται η “επίσημη συζήτηση” για τα δικαιώματα των ρομπότ και για την ηθική της τεχνητής νοημοσύνης, η οποία - ελλείψει “ανεπίσημης” - είναι αυτή που θα στρώσει το έδαφος στο οποίο θα πατήσουν (εν μέρει) εκείνοι που έχουν την δυνατότητα να δώσουν ή να αφαιρέσουν δικαιώματα, σε ανθρώπους και μη.

η απομυθοποίηση των δικαιωμάτων των ρομπότ [1Debunking robot rights metaphysically, ethically, and legally, First Monday - 1 April 2024]

Για ορισμένους θεωρητικούς της τεχνολογίας, το ηθικό ζήτημα της τεχνητής νοημοσύνης πρέπει να επεκταθεί πέρα από την εξέταση του τί μπορούν ή δεν μπορούν να κάνουν τα ρομπότ και οι υπολογιστές στους ανθρώπους. Αντίθετα και οι άνθρωποι ίσως να πρέπει να έχουν κάποια ηθικά και νομικά καθήκοντα προς τα ρομπότ, μέχρι και την αναγνώριση των δικαιωμάτων τους. Ο David Gunkel αναφέρεται σε αυτή την αντιστροφή της συζήτησης για την ηθική των ρομπότ ως «το άλλο ερώτημα: μπορεί και πρέπει τα ρομπότ να έχουν δικαιώματα;» Ή, προσαρμόζοντάς την στην κλασική ρήση του John F. Kennedy: «Μην ρωτάτε τί μπορούν να κάνουν τα ρομπότ για σας, αλλά μάλλον, τί μπορείτε ή τί θα έπρεπε να κάνετε εσείς για τα ρομπότ».

Σε αυτό το άρθρο αμφισβητούμε τα επιχειρήματα για τα δικαιώματα των ρομπότ στις μεταφυσικές, ηθικές και νομικές βάσεις τους. Στην μεταφυσική βάση, υποστηρίζουμε ότι οι μηχανές δεν είναι τα είδη των πραγμάτων που θα μπορούσαν να τους παραχωρηθούν ή όχι δικαιώματα. Στην ηθική βάση, υποστηρίζουμε ότι, δεδομένης της αρνητικής επίπτωσης των μηχανών στους πιο περιθωριοποιημένους της κοινωνίας, είναι τα όρια, αντί των δικαιωμάτων των μηχανών που θα πρέπει να βρίσκονται στο επίκεντρο της τρέχουσας συζήτησης για την ηθική της τεχνητής νοημοσύνης. Από νομική άποψη, η καλύτερη αναλογία των δικαιωμάτων των ρομπότ δεν είναι τα ανθρώπινα δικαιώματα αλλά τα εταιρικά δικαιώματα - τα οποία συχνά υπονομεύουν τη δημοκρατική εκλογική διαδικασία, καθώς και τα δικαιώματα των εργαζομένων και των καταναλωτών. Η συζήτηση περί δικαιωμάτων των ρομπότ λειτουργεί ως προπέτασμα καπνού, επιτρέποντας στους θεωρητικούς να φαντασιώνονται μηχανές που αισθάνονται, ενώ το μεγαλύτερο μέρος της τρέχουσας τεχνητής νοημοσύνης και της ρομποτικής τροφοδοτεί τον καπιταλισμό επιτήρησης, επιταχύνει την περιβαλλοντική καταστροφή και θεμελιώνει την αδικία και τα ανθρώπινα δεινά.

Βασιζόμενοι στις θεωρίες της φαινομενολογίας και των μετα-Καρτεσιακών προσεγγίσεων στη γνωστική επιστήμη, θεμελιώνουμε τη θέση μας στη ζωντανή πραγματικότητα των πραγματικών ανθρώπων σε μια ολοένα και περισσότερο πανταχού συνδεδεμένη, αυτοματοποιημένη και επιτηρούμενη κοινωνία. Αυτό που βρίσκουμε είναι η απρόσκοπτη ενσωμάτωση των μηχανικών συστημάτων στην καθημερινή ζωή στο όνομα της ευκολίας και της αποδοτικότητας. Το τελευταίο πράγμα που χρειάζονται αυτά τα συστήματα είναι “δικαιώματα” ώστε να εξασφαλίσουν την αποδοχή τους από τους ανθρώπους. Τα δικαιώματα είναι εξαιρετικά ισχυρά νομικά οικοδομήματα τα οποία, όταν παραχωρούνται αδικαιολόγητα, στην ουσία βραχυκυκλώνουν το είδος του δημοκρατικού διαλόγου και της εμπειρικής έρευνας σχετικά με τους ισχυρισμούς για αυτονομία που είναι απαραίτητοι στον ολοένα και περισσότερο τεχνολογημένο κόσμο μας. Αντιστρόφως, η “πλήρως αυτόνομη ευφυής μηχανή” είναι, για το προσεχές μέλλον, μια φαντασίωση επιστημονικής φαντασίας, που λειτουργεί κυρίως τώρα ως μιμίδιο που συγκαλύπτει το περιβαλλοντικό κόστος και την ανθρώπινη εργασία που αποτελούν τη ραχοκοκαλιά της τεχνητής νοημοσύνης. Η συζήτηση για τα δικαιώματα των ρομπότ μυστικοποιεί και επισκιάζει περαιτέρω αυτά τα προβλήματα. Και ανοίγει το δρόμο για μια κανονιστική λογική που θα επιτρέψει στις εταιρείες που αναπτύσσουν και πουλάνε τεχνητή νοημοσύνη να απαλλαχθούν από τις ευθύνες.

Τα υπάρχοντα ρομποτικά και AI συστήματα (από τα μεγάλα γλωσσικά μοντέλα / LLMs, την τεχνητή νοημοσύνη γενικού σκοπού, τα chatbots, έως και τα ανθρωποειδή ρομπότ) συχνά απεικονίζονται ως πλήρως αυτόνομα συστήματα και αυτό είναι ένα μέρος της έκκλησης για τη χορήγηση δικαιωμάτων. Ωστόσο, αυτά τα συστήματα δεν είναι ποτέ πλήρως αυτόνομα, αλλά συστήματα ανθρώπων και μηχανών που λειτουργούν στη βάση της εκμετάλλευσης της ανθρώπινης εργασίας και των περιβαλλοντικών πόρων. Είναι κοινωνικο-τεχνικά συστήματα, με τον ανθρώπινο παράγοντα να είναι παρών σε όλη την διαδρομή: από την πηγή των δεδομένων, μέχρι την ανάπτυξη των μοντέλων και την χρήση τους, εξαρτώνται όλα από τους ανθρώπους. Πολύ συχνά, η συζήτηση για τα “δικαιώματα” ξεκινάει από την υπόθεση ότι οι ρομποτικές οντότητες θα είναι κάπως αυτόνομες, ή χειρότερα ότι δεν θα βασίζονται στην εκμετάλλευση της ανθρώπινης εργασίας και ότι δεν θα βλάπτουν την περιθωριοποιημένη κοινωνία. Στη σημερινή πραγματικότητα όμως απαιτείται αντ' αυτού μια συζήτηση για αυτές τις τεχνολογίες από την σκοπιά, τις ανάγκες και τα δικαιώματα των πιο περιθωριοποιημένων και αδικημένων. Αυτό σημαίνει ότι κάθε συζήτηση για τα δικαιώματα των ρομπότ που παραβλέπει τους ανεπαρκώς αμειβόμενους και εκμεταλλευόμενους πληθυσμούς που χρησιμεύουν ως η ραχοκοκαλιά για τα “ρομπότ” (καθώς και το περιβαλλοντικό κόστος που απαιτείται για την ανάπτυξή τους) είναι υποκριτική. Ως θέμα δημόσιας πολιτικής, το ερώτημα δεν πρέπει να είναι αν τα ρομποτικά συστήματα αξίζουν δικαιώματα, αλλά, αν χορηγήσουμε ή αρνηθούμε δικαιώματα σε ένα ρομποτικό σύστημα, ποιές επιπτώσεις προκύπτουν για τους ανθρώπους που κατέχουν, χρησιμοποιούν, ωφελούνται, αναπτύσσουν και επηρεάζονται από τα τρέχοντα ρομποτικά συστήματα και την τεχνητή νοημοσύνη;

[...]

...η συνέχεια στο έντυπο τεύχος του Cyborg.
[ σημεία διακίνησης ]

Μετάφραση, απόδοση
Wintermute

Σημειώσεις

1 - Debunking robot rights metaphysically, ethically, and legally, First Monday - 1 April 2024
[ επιστροφή ]

2 - Στμ: “Embodied enactive (post-Cartesian) perspectives on cognition” στο πρωτότυπο. Ο “ενακτιβισμός” (enactivism) είναι μια φιλοσοφική θέση στις γνωσιακές επιστήμες που υποστηρίζει ότι «η νόηση προκύπτει μέσω μιας ενεργητικής αλληλεπίδρασης μεταξύ ενός δρώντος οργανισμού και του περιβάλλοντός του», η οποία αμφισβητεί (και) την θέση του δυϊσμού (και πιο συγκεκριμένα στο παρόν άρθρο της καρτεσιανής εκδοχής του δυϊσμού) η οποία κάνει διαχωρισμό μεταξύ νου και σώματος. Ο “εν-σωματωμένος ενακτιβισμός” (embodied enactivism) είναι μια υποκατηγορία, βάσει της οποίας ολόκληρο το σώμα, όχι μόνο ο εγκέφαλος, συμμετέχει στην εν λόγω αλληλεπίδραση.
[ επιστροφή ]