#23 - 02/2022

τεχνητή νοημοσύνη (και τεχνητή συνείδηση;)

Δεν υπάρχει κοινά αποδεκτός ορισμός για τη νοημοσύνη μεταξύ φιλοσόφων ή/και επιστημονών, πολύ περισσότερο που είναι αποδεκτό πως δεν αποτελεί αποκλειστικά ανθρώπινο χαρακτηριστικό. Οι περισσότεροι συμφωνούν πάντως ότι βασικό χαρακτηριστικό της είναι η ευελιξία της σε κάποιο βαθμό ή η γενικότητά της.
Αυτό το ζήτημα, της ευελιξίας ή/και της γενικότητας της νοημοσύνης, ξεχωρίζει την δημιουργία “τεχνητής νοημοσύνης” σε δύο υποσύνολα. Την στενή τεχνητή νοημοσύνη, και την γενική τεχνητή νοημοσύνη. Η πρώτη (που μπορεί επίσης να ονομάζεται μηχανική μάθηση, machine learning) έχει ήδη πολλές εφαρμογές, και επειδή συγκεντρώνει το περισσότερο τεχνικό ενδιαφέρον και τις περισσότερες χρηματοδοτήσεις, θα αποκτάει όλο και περισσότερες. Η γενική τεχνητή νοημοσύνη απ’ την άλλη παραμένει, στις τεχνικές εκφάνσεις της, ένας προκλητικός γρίφος [1Τα βασικά στοιχεία σχετικά με τις έρευνες για την τεχνητή νοημοσύνη προέρχονται απ’ το βιβλίο Inhuman Power των Nick Dyer-Witheford, Atle Mikkola Kjosen και James Steinhoff, Pluto Press, 2019. ].

Ο όρος “γενική τεχνητή νοημοσύνη” (artificial general inteligence / AGI) πρωτο-προτάθηκε το 1997 απ’ τον αμερικάνο φυσικό Mark Avrum Gubrub σ’ ένα άρθρο του με τίτλο Νανοτεχνολογία και διεθνής ασφάλεια. Εκεί ο Gubrub έγραφε μεταξύ άλλων:

Με τον όρο αναβαθμισμένη γενική τεχνητή νοημοσύνη εννοώ συστήματα τεχνητής νοημοσύνης που μπορούν να αναμετρηθούν ή και να ξεπεράσουν τον ανθρώπινο εγκέφαλο σε συνθετότητα και ταχύτητα, και που μπορούν να αποκτήσουν, να διαχειριστούν και να αιτιολογήσουν στη βάση γενικής γνώσης, αξιοποιούμενα ουσιαστικά σε κάθε φάση βιομηχανικών ή στρατιωτικών επιχειρήσεων που διαφορετικά θα χρειαζόταν ανθρώπινη νοημοσύνη. Αυτά τα συστήματα μπορεί να έχουν σαν μοντέλο τον ανθρώπινο εγκέφαλο αλλά κάτι τέτοιο δεν είναι απαραίτητο, ούτε χρειάζεται να έχουν “συνείδηση” ή άλλες δυνατότητες που δεν αφορούν αυστηρά την χρήση τους. Αυτό που έχει σημασία είναι ότι τέτοια συστήματα θα μπορούν να χρησιμοποιηθούν στη θέση ανθρώπινων μυαλών σε καθήκοντα μιας γκάμας που μπορεί να ξεκινάει απ’ την οργάνωση και τη λειτουργία ενός ορυχείου ή ενός εργοστασίου ως το πιλοτάρισμα ενός αεροπλάνου μέσω της ανάλυσης δεδομένων, ή του σχεδιασμού μιας μάχης...

Ο Mark Avrum Gubrub είχε και έχει στενές σχέσεις με τους μιλιταριστικούς ερευνητικούς βραχίονες των ηπα, συνεπώς η ιδέα αν όχι στρατηγών σίγουρα “τεχνητών συνταγματαρχών” του ήταν ελκυστική. Παρά το ότι δημιουργήθηκαν κάποια ερευνητικά προγράμματα σχετικά με μια τέτοιου είδους γενική τεχνητή νοημοσύνη, ως τα μέσα της δεκαετίας του 2000 δεν ήταν αυτός ο τομέας που τραβούσε προσοχή (και κονδύλια). Προτιμότερη ήταν η στενή τεχνητή νοημοσύνη, επειδή η δημιουργία των σχετικών αλγορίθμων και η διαμόρφωση των βάσεων δεδομένων προσδιορίζονταν πολύ συγκεκριμένα, από κάποιο ειδικό σκοπό.

Το ζήτημα των data κάνει την μεγάλη διαφορά ανάμεσα στη στενή και την γενική τεχνητή νοημοσύνη. Σ’ όλες τις εφαρμογές και τις εκδοχές της η πρώτη είναι “έντασης δεδομένων”, τα οποία συχνά πρέπει να είναι διαρκούς ροής και ενημέρωσης. Από τεχνική άποψη η διαρκής επεξεργασία όλο και περισσότερων data είναι ένα ζήτημα λυμμένο. Και μάλιστα με θεαματικά αποτελέσματα. Δεν παύει ωστόσο να είναι πρόβλημα (και όχι μόνο θεωρητικό) το ενδεχόμενο έλλειψης (προσωρινής ή διαρκούς) data: ακόμα και η καλύτερα εκπαιδευμένη μηχανή δεν μπορεί να δουλέψει (ή θα κάνει λάθη) αν της λείψουν κρίσιμα δεδομένα. Η θεωρία του χάους έχει αποδείξει πως “κρίσιμα” μπορεί να αποδειχθούν ακόμα και δεδομένα που θα θεωρούνταν πέμπτης κατηγορίας.

Για να αναγνωρίζει με επιτυχία μια “έξυπνη” μηχανή με στενή τεχνητή νοημοσύνη μια κατηγορία συνηθισμένων αντικειμένων, όπως για παράδειγμα μπουκάλια, χρειάζεται εικόνες από κάθε είδος μπουκαλιού και από κάθε διαφορετική οπτική γωνία. Το ανθρώπινο μυαλό δεν συμπεριφέρεται έτσι. Αρκεί να δει ένα, δύο ή τρία μπουκάλια και θα είναι σε θέση να αναγνωρίζει οποιοδήποτε άλλο, ακόμα και σπασμένο. Η ικανότητα αυτή της ανθρώπινης (και πιο γενικά: της ζωϊκής) σκέψης λέγεται γενίκευση: από ελάχιστα αισθητηριακά στοιχεία μπορεί να διαμορφώσει ικανοποιητικά γενικές νοητικές κατηγορίες. Είναι το αντίθετο απ’ την “ένταση δεδομένων” [2Η ικανότητα γενίκευσης, ικανότητα των ζωντανών αναμφισβήτητα (και όχι μόνο του ανθρώπινου είδους), είναι σίγουρα ενδιαφέρουσα. Σχετίζεται πιθανότατα με το γεγονός ότι η ζωή σαν τέτοια πρέπει “να τα φέρνει βόλτα” με το όποιο περιβάλλον της με μια κάποια “οικονομία ερεθισμάτων”.
Πέρα απ’ αυτό ωστόσο, ειδικά για το είδος μας, μπορούμε να αναρωτηθούμε αν η ικανότητα γενίκευσης είναι πάντα και παντού η ίδια, ή αν επηρεάζεται απ’ την πολιτιστική κίνηση (του είδους). Σε συνθήκες γενικευμένης εικονικότητας και κατακερματισμού, για παράδειγμα, όπως οι τωρινές και οι αυριανές, αυτή η ικανότητα θα είναι ίδια σε σχέση, ας πούμε, με εκείνη πριν μισό ή έναν αιώνα; Ή ξεπέφτει ήδη σε συνήθως επιφανειακή εμπειρίστικη συναρμολόγηση των εντυπώσεων, άχρηστη έως επικίνδυνη για τους πάντες εκτός από εκείνους που έχουν εξουσία; Μήπως ζούμε σε συνθήκες όπου η ανθρώπινη, ζωντανή ικανότητα γενίκευσης γίνεται διαρκώς φτωχότερη, επιτρέποντας στη μηχανική εκδοχή της να αναδυθεί κάποια στιγμή σαν πιο ικανή;]. Κι αυτή είναι η πρόκληση της κατασκευής γενικής τεχνητής νοημοσύνης: η δημιουργία μηχανικής νόησης που θα είναι σε θέση από λίγα data να κατασκευάζει (για λογαριασμό της) “γενική αντίληψη της όποιας πραγματικότητας”. Αυτό ήταν που θα ήθελε ο Gubrub το 1997.
Τα σημαντικότερα ερευνητικά προγράμματα για την AGI έχουν τις υπογραφές που θα περιμένατε: το DeepMind της google, το open AI του Elon Musk, το ευρωπαϊκό Human Brain Project με πάνω από 150 “εταίρους” κάθε είδους, το Maluuba της microsoft, ένα πρόγραμμα της uber, κ.α. Προς το παρόν οι εξελίξεις είναι σε ένα βαθμό θεωρητικές, και οι δοκιμές της AGI προσανατολισμένες σε συγκεκριμένες “ασκήσεις”.

Εν τω μεταξύ, εκκινώντας από την όσο το δυνατό πιο σύνθετη στενή τεχνητή νοημοσύνη προς την δημιουργία γενικής τεχνητής νοημοσύνης, έχουν υπάρξει κάποιες ιδιαίτερες εκπλήξεις με σημασία. Η πιο χαρακτηριστική είναι η περίπτωση του Alpha Go της DeepMind. Αυτό το λογισμικό νίκησε αρχικά τον Fab Hui, ευρωπαίο πρωταθλητή του επιτραπέζιου Go τον Οκτώβρη του 2015 και, στη συνέχεια, τον Μάρτη του 2016, τον παγκόσμιο πρωταθλητή Lee Sedol, με 4 - 1.

Το αρχαίο κινέζικο παιχνίδι Go έχει θεωρηθεί το ιερό δισκοπότηρο για τις έρευνες τεχνητής νοημοσύνης επειδή είναι ένα απ’ το πιο σύνθετα παιχνίδια που δημιούργησε ποτέ ανθρώπινος πολιτισμός. Οι αλγόριθμοι που παίζουν σκάκι (κάποτε θεωρήθηκαν το αποκορύφωμα της τεχνητής νοημοσύνης) μπορούν με ισχυρή υπολογιστική δυνατότητα να “ψάξουν” γρήγορα όλες τις δυνατές κινήσεις σε κάθε φάση της παρτίδας, επιλέγοντας την καλύτερη. Αυτό είναι αδύνατο για το Go αφού υπάρχουν άπειρες πιθανές διαμορφώσεις του ταμπλώ.

Για να “εκπαιδευτεί” να παίζει Go το AlphaGo εφοδιάστηκε με έναν συνδυασμό βαθέων νευρωνικών δικτύων και το ερευνητικό λογισμικό “monte carlo tree search”. H αρχιτεκτονική της δομής του ήταν 3 νευρωνικά δίκτυα εξειδικευμένα στην ανάλυση εικόνων, εκ των οποίων το ένα ήταν σχετικό με την “αξιολόγηση” και τα άλλα δύο με τις “αποφάσεις”. Αυτά τα 3 δίκτυα “εκπαιδεύτηκαν” μέσω δεδομένων που αφορούσαν τις χωριστές κινήσεις από 160.000 παρτίδες Go κορυφαίων παικτών. Το δίκτυο αξιολόγησης “έμαθε” μ’ αυτόν τον τρόπο να εκτιμάει τις πιθανότητες νίκης μετά από κάθε συγκεκριμένη κίνηση στο ταμπλώ, ενώ τα δίκτυα αποφάσεων έμαθαν τι κίνηση να επιλέγουν ανάλογα με την διαμόρφωση του ταμπλώ. Ύστερα, αυτά τα δύο δίκτυα αποφάσεων “ενισχύθηκαν” παίζοντας το ένα εναντίον του άλλου 30 εκατομύρια παρτίδες, αποθηκεύοντας τις καλύτερες κινήσεις αυτών των παρτίδων. Μ’ αυτή την προίκα η μηχανή θα έπρεπε να δείξει κάποιου είδους “δημιουργικότητα”.

Την έδειξε, αλλά προς γενική κατάπληξη. Στην 37η κίνηση της δεύτερη παρτίδας κατά του Sedol η μηχανή έκανε κάτι που εξέπληξε τους πάντες. Οι σχολιαστές της αναμέτρησης σημείωσαν το πόσο παράξενη ήταν η κίνηση, και κάποιοι σκέφτηκαν ότι τα νευρωνικά δίκτυα είχαν κάνει λάθος επειδή κανένας άνθρωπος δεν θα μπορούσε να σκεφτεί να κάνει κάτι τέτοιο. Οι μηχανικοί της DeepMind ούτε είχαν προβλέψει ούτε είχαν “φορτώσει” τέτοια κίνηση, και ο Sedol σκέφτηκε ασυνήθιστα πολύ για το ποια θα έπρεπε να είναι η απάντησή του. Αλλά η κίνηση αποδείχθηκε σωστή: με την προίκα των δεδομένων που είχε (και με την διαμόρφωση των νευρωνικών δικτύων του) το Alpha Go είχε “σκεφτεί” και είχε προχωρήσει πέρα απ’ τα data του.

Παρ’ όλα αυτά δεν θεωρήθηκε μια αποδεκτά πετυχημένη εμφάνιση γενικής τεχνητής νοημοσύνης: η προίκα των data ήταν βαριά και τεράστια για να αντιπροσωπεύει τον τρόπο που οι άνθρωποι μαθαίνουν να παίζουν Go. To Alpha Go είχε “εκπαιδευτεί” με δεδομένα περισσότερων από 30 εκατομύρια παρτίδες, ενώ ο Lee Sedol είχε παίξει στη ζωή του το πολύ 50.000. Η διαφορά δεν είναι στενά ποσοτική. Αφορά τον τρόπο που γενικεύει και κάνει αφαιρέσεις η ανθρώπινη σκέψη.
Αν είναι μια φορά δύσκολο να δοθεί ένας αυστηρός ορισμός για την νοημοσύνη, είναι δέκα και εκατό φορές δυσκολότερος ο ορισμός της φαντασίας. Ωστόσο ορισμένοι γνωσιακοί ψυχολόγοι που εμπλέκονται στις έρευνες τεχνητής νοημοσύνης υποστηρίζουν ότι το ανθρώπινο μυαλό γενικεύει επειδή φαντάζεται. Ιδού λοιπόν πεδίο δόξης: τεχνητή φαντασία.

Η start up Vicarious PFC κατασκεύασε ένα σύστημα προσανατολισμένο στη διάκριση μεταξύ ανθρώπων και bots στο διαδίκτυο. Κατά την εταιρεία το σύστημά της διαθέτει “τεχνητή φαντασία”, που μεταφράζεται “στη δυνατότητα των λογισμικών να κάνουν εκτίμηση για το πως θα έμοιαζε μια πληροφορία σε διαφορετικό πλαίσιο απ’ αυτό που ανήκει”. Ειπωμένο διαφορετικά, οι αλγόριθμοι πρέπει να κάνουν διαφορετικά “σενάρια” ενσωματώνοντας κάποια data ΚΑΙ να επιλέγουν ποιο απ’ αυτά είναι προτιμότερο - προς το παρόν σε πολύ απλά ζητήματα, όπως βρίσκοντας την απάντηση στην ερώτηση “τι είναι αυτό;” (παπούτσι) με χρήση λίγων δεδομένων από παπούτσια, κάλτσες και καρέκλες.

Υπάρχει και μια εντελώς διαφορετική προσέγγιση. Για να μπορεί να υπάρξει γενική τεχνητή νοημοσύνη (λένε οι υποστηρικτές της) που να είναι λειτουργική σε οποιοδήποτε περιβάλλον είναι υποχρεωτικό οι μηχανές/αλγόριθμοι να έχουν κάποια “αίσθηση / εννόηση” του εαυτού τους, και της διαφοράς τους απ’ οτιδήποτε άλλο γύρω. Μια κάποια συνείδηση λοιπόν... Artificial consciousness;

Ρομποτικός “καφετζής” στους χειμερινούς ολυμπιακούς αγώνες στο Πεκίνο.

η επίθεση των όρων

Όποιος / όποια θέλει και μπορεί να παρακολουθήσει τις σχετικές τεχνολογικές εξελίξεις ας είναι σίγουρος ότι αν γίνεται λόγος για “τεχνητή νοημοσύνη”, “τεχνητή δημιουργικότητα” και “τεχνητή φαντασία”, είναι θέμα χρόνου να υπάρξει και “τεχνητή συνείδηση”. Ένας κάποιος ορισμός της σίγουρα.

Αυτό επιβάλλει να γυρίσουμε πίσω. Όχι για να δώσουμε ορισμούς της νοημοσύνης, της φαντασίας, της δημιουργικότητας ή της συνείδησης που να είναι απρόσβλητοι από κάθε είδος μηχανοποίησης. Αλλά για να δούμε ποιοί και γιατί ορίζουν και ξαναορίζουν τέτοιες έννοιες. Και, επιπλέον αλλά εξίσου σημαντικό, τι σημασία αποκτούν σαν ιδεολογίες για εκτεταμένη κοινωνική χρήση αυτοί οι ορισμοί.
Υπάρχει ένα τουλάχιστον προηγούμενο, ιδιαίτερα διαφωτιστικό: η έννοια της δύναμης. Παρότι εμπειρικά θεωρείται κοινότοπη έννοια δεν είναι τέτοια· ούτε καν για την φυσική στην οποία έχει κεντρική θέση. Τι κοινό υπάρχει, για παράδειγμα, ανάμεσα στην μυϊκή δύναμη και την ψυχική δύναμη ώστε να είναι εκδοχές της ίδιας στενά ορισμένης έννοιας; Τίποτα. Και σε καμμία περίπτωση η ψυχική δύναμη (ή η “δύναμη της αγάπης”) δεν μπορούν να μετρηθούν με newton.

Παρά τις θεμελειώδεις διαφορές στα νοήματα μπορούμε να συνεννοηθούμε χρησιμοποιώντας την λέξη “δύναμη” σε σχέση με έμβια όντα. Υπάρχει μια ιστορική (και πολιτική) τομή: η μηχανική δύναμη. Μετά την εφεύρεση της ατμομηχανής οι πρώτες ατμοκίνητες μηχανές (μηχανικοί αργαλειοί) αποθεώθηκαν απ’ τους ιδεολόγους του 19ου αιώνα σαν η γέννηση του “ατσάλινου ανθρώπου”. Οι μηχανές οι ίδιες δεν ήταν ανθρωπόμορφες· η χρήση τους όμως προοριζόταν σε δουλειές που πριν έκαναν ανθρώπινα όντα. Εργάτες και εργάτριες.
Το να αποδοθεί, λοιπόν, ένα ανθρώπινο χαρακτηριστικό (η “δύναμη”) σε μηχανές που προορίζονταν (όπως το έλεγε ο φιλόσοφος των βιομηχανών Andrew Ure το 1835) να τσακίσουν το απείθαρχο χέρι των εργατών (της “εργατικής δύναμης” δηλαδή) δεν ήταν ένα αθώο δάνειο εννοιών είτε απ’ το λεξιλόγιο της επιστήμης είτε απ’ την καθημερινή γλώσσα. Ήταν μια ιδεολογική / πολιτική επιλογή να υποτιμηθούν τα ανθρώπινα χαρακτηριστικά (σε σχέση, τότε, σχεδόν αποκλειστικά με την οργάνωση της εργασίας) στο βαθμό που μηχανές θα μπορούσαν είτε να υποκαταστήσουν είτε να ελέγξουν την ανθρώπινη εργασία. Πρακτικά και τα δύο μαζί.

Κάτι ανάλογο έγινε και με τους ηλεκτρονικούς εγκεφάλους. Αν η ανθρώπινη (και γενικότερα: η ζωϊκή) νοητική δραστηριότητα είναι υπολογισμοί και μόνο, τότε ο μηχανικός εγκέφαλος δικαιούται την αυθεντικότητα του ονόματός του. Είναι έτσι όμως; Όχι. Στο βαθμό που (και σε κάθε βήμα που) γινόταν εφικτή η μηχανοποίηση κάποιων διανοητικών δουλειών που πριν γίνονταν από ανθρώπους, η απόδοση σ’ αυτές τις μηχανές ιδιοτήτων σκέψης (έστω: υπολογιστικής) δεν ήταν αναπόφευκτη. Ήταν ιδεολογική / πολιτική επιλογή υποτίμησης των ανάλογων δραστηριοτήτων της ανθρώπινης σκέψης.
Και στα δυο πιο πάνω ιστορικά παραδείγματα, της δύναμης και του εγκεφάλου, δεν έχουν ξετυλιχθεί οι διαδικασίες μόνο μιας τέτοιας υποτίμησης. Αλλά και εκείνες “ανατίμησης” (συμβολικής και ουσιαστικής) του παγίου κεφαλαίου - και, κατά συνέπεια, του κεφαλαίου γενικά. Οι μηχανές που είναι “δυνατές”, οι μηχανές που είναι “έξυπνες”, δεν είναι όντα που γεννήθηκαν προικισμένα και άρχισαν να πολλαπλασιάζονται χάρη σε κάποια μυστηριώδη ενδογαμία. Είναι κεφάλαιο: βασικά συστατικά, δηλαδή, μιας διαδικασίας εκμετάλλευσης και πειθάρχησης που λέγεται καπιταλισμός. Η “ανατίμηση των τεχνικών κατορθωμάτων” που υπηρετούν την καπιταλιστική εκμετάλλευση / συσσώρευση είναι, αναμφίβολα, κάτι πολύ περισσότερο από παιχνίδι-με-τις-λέξεις.

Γιατί θα έπρεπε να ισχύει κάτι διαφορετικό για την τεχνητή “νοημοσύνη”, “δημιουργικότητα”, “φαντασία” ή και “συνείδηση”; Γιατί θα έπρεπε να ισχύει κάτι διαφορετικό για τις μηχανές που διαμορφώνουν καινούργια “οικοσυστήματα” χαρακτηριζόμενες σαν έξυπνες; Όχι μόνο δεν ισχύει αλλά το δίπολο υποτίμηση / ανατίμηση εκτοξεύεται σε μεγάλο ύψος.
Η ιδέα περί μηχανών που διαθέτουν μια κάποια “αρτιότητα” (ακόμα και σχεδιασμένη) έτσι ώστε να είναι σε θέση να “διευθύνουν” όχι τους εαυτούς τους αλλά ανθρώπινες δραστηριότητες, είναι απ’ τις πιο αγαπημένες των αφεντικών του καπιταλισμού. Το να τους αποδίδονται ικανότητες που θεωρούνται διανοητικές και, μάλιστα, όλο και πιο υψηλής συνθετότητας, μορφοποιεί με τον τελειότερο ως τώρα τρόπο εκείνο που ονειρεύτηκε νωρίς νωρίς ο Ure: την απειλή ότι τα αφεντικά διαθέτουν πια τόσο ικανές μηχανές ώστε μπορούν και χωρίς εμάς (την ζωντανή εργασία με την δυνατότητα αρνησικυρίας).

Ένα απ’ τα ζητήματα που έχει απασχολήσει τους τωρινούς “φιλοσόφους της βιομηχανίας” είναι το εξής: με νοημοσύνη, με δημιουργικότητα, με φαντασία, ακόμα και με συνείδηση.... μπορεί να αποδοθεί σ’ αυτό το ηλεκτρομηχανικό “οικοσύστημα” ευθύνη; Οι πιο φιλάνθρωποι απ’ αυτούς τους φιλόσοφους, έχοντας κυρίως υπόψη τους τα ρομποτικά (+ τεχνητή νοημοσύνη) όπλα, απαντούν “όχι”. Πράγμα που σημαίνει πρακτικά ότι οι εξελίξεις στον προγραμματισμό, στους “έξυπνους” αλγόριθμους και στην επεξεργασία των data θα πρέπει να αυτοπεριοριστούν λίγο πριν το κατώφλι εκείνο όπου οι “έξυπνες” μηχανές θα παίρνουν αποφάσεις ανεξέλεγκτα.

Αλλά η καπιταλιστική χρήση αυτών των μηχανών (και μόνο καπιταλιστική θα μπορούσε να είναι!) κινείται προς την αντίθετη μεριά. Όχι να παίρνουν ανεξέλεγκτα οι μηχανές αποφάσεις· όχι να έχουν οι μηχανές “ευθύνη”· αλλά να είναι ανεξέλεγκτες οι μεθοδεύσεις των αφεντικών και των ειδικών τους πίσω και μέσα απ’ τις λειτουργίες αυτών των μηχανών· να κρύβονται οι δικές τους ευθύνες πίσω από κυκλώματα και αλγόριθμους!
Τα παραδείγματα δεν λείπουν. Αν, για παράδειγμα, το ανθρώπινο είδος όπως έφτασε στον 21ο αιώνα θεωρείται “ανεπαρκές” και χρειάζεται βιοτεχνολογική αναβάθμιση αυτό δεν οφείλεται (λέει η κυρίαρχη ρητορική) στους σχεδιασμούς των αφεντικών αλλά στο γεγονός ότι οι μηχανές έχουν εξελιχθεί τόσο πολύ ώστε το ανθρώπινο είδος χάνει διαρκώς έδαφος στη σχέση του μαζί τους! Είναι οι μηχανές-σαν-μηχανές που ζητούν, απαιτούν, επιβάλλουν αυτό που λέγεται “μετα-ανθρωπισμός” - όχι ο καπιταλισμός της 4ης βιομηχανικής επανάστασης!!
Κι αν οι αισθήσεις και οι ρυθμοί των ανθρώπινων σωμάτων χρειάζονται εντατική βελτίωση, αν η όποια φυσικότητα τους έχει απομείνει θεωρείται πια απελπιστικά αργόσυρτη και ασύμβατη, αυτό δεν οφείλεται στην επιτάχυνση της καπιταλιστικής συσσώρευσης / κυκλοφορίας, αλλά στο ότι οι μηχανές-σαν-μηχανές “δουλεύουν” με νανοδευτερόλεπτα! Σαν οδηγοί (“προσόν” μόλις του καπιταλιστικού 20ου αιώνα) οι άνθρωποι είναι κακοί· κάνουν λάθη, είναι απρόσεκτοι, προκαλούν ατυχήματα... Τα “έξυπνα” αυτοκίνητα θα τους απαλλάξουν απ’ αυτήν την ανευθυνότητα. Σαν αισθήσεις είναι ανεπαρκείς· χρειάζονται οπωσδήποτε αισθητήρες παντού. Σαν μνήμη είναι άχρηστοι (ή και επικίνδυνοι)· χρειάζονται terra ψηφιακής μνήμης. Ως γνωστόν και το ανθρώπινο ανοσοποιητικό είναι άχρηστο - χρειάζεται τεχνητό.

Όσο πιο πολύπλοκη, “δημιουργική”, “έξυπνη” και όλες οι υπόλοιπες ανθρώπινες χάρες δείχνει μια μηχανή, τόσο πιο μαγική θεωρείται. Απ’ τα υδραυλικά αυτόματα του Ήρωνα του Αλεξανδρέα τον 4ο π.χ. αιώνα ως τα εντυπωσιακά ως προς την συνθετότητα και την φινέτσα τους κουρντιστά αυτόματα της δύσης τον 15ο, 16ο και 17ο αιώνα, η “μάγευση” ήταν το πιο συνηθισμένο αποτέλεσμα. Με την διαφορά ότι συν τω χρόνω αυτή η τεχνική “μαγεία” δεν έμεινε στη σφαίρα της αισθητικής και της διασκέδασης.
Είναι εδώ που η τεχνολογική, καπιταλιστική μεταφυσική μπορεί να παράξει (και παράγει) απτά κοινωνικά αποτελέσματα, πολύ μακρύτερα απ’ τις τυπικές εφαρμογές των “ευφυών” μηχανών. Αρκεί η πεποίθηση ότι μια μηχανή είναι έξυπνη, είναι νοήμων, για να διαλυθεί όχι μόνο οποιοδήποτε ερώτημα, πολιτικό ή φιλοσοφικό, περί ευφυίας αλλά, ακόμα χειρότερα, η προτεραιότητα του ανθρώπινου είδους απέναντι στις μηχανές.

Ένας σύνθετος αλγόριθμος που δεν ξεχωρίζει τους σκύλους απ’ τις γάτες δεν θεωρείται “χαζός”! Απλά δεν έχει κατασκευαστεί για να κάνει αυτή τη δουλειά. Ένας άλλος σύνθετος αλγόριθμος που ξεχωρίζει τους σκύλους απ’ τις γάτες γιατί πρέπει να θεωρηθεί “έξυπνος”; Απλά έχει φτιαχτεί για να κάνει αυτή τη διάκριση. Το γεγονός ωστόσο ότι ο όποιος χρήστης αντιλαμβάνεται την μηχανή μόνο ως προς το έργο της και όχι ως προς τη δομή της (την οποία άλλωστε αγνοεί) δημιουργεί την εντύπωση μιας “πανουργίας-της-μηχανής”, μια “έμφυτης” ικανότητάς της.
Όπως είχε σχολιάσει ο Μαρξ για τον φετιχισμό του εμπορεύματος, έτσι και ο φετιχισμός της μηχανής, η απόδοση σ’ αυτήν ιδιότητας “όντος”, είναι απ’ την μια μεριά στόχος των αφεντικών της μηχανής και απ’ την άλλη αυτο-υποτίμηση του ανθρώπινου. Αν οι μηχανές είναι “όντα”, τότε ασφαλώς μπορούν να είναι και έξυπνες, και τρυφερές, και φιλικές - όμως τότε τα ανθρώπινα όντα θα μετριούνται μ’ αυτήν την μηχανική “ζωή” και θα βρίσκονται διαρκώς υποδεέστερα.

Ρομπότ “υποδοχής” στους χειμερινούς ολυμπιακούς αγώνες στο Πεκίνο.

Δεν πρόκειται για παρεξήγηση! Πρόκειται για επίδειξη της ακαταμάχητης υπεροχής των μηχανών, τόσης και τέτοιας ώστε το ανθρώπινο θα πρέπει να τις προσκυνά. Ακόμα ακόμα και να τις “αντιγράφει”.
Πριν μερικές δεκαετίες, τόσες πολλές ώστε να μην θέλει κανείς να τις θυμάται και τόσο λίγες ώστε να είναι μόνο το ιστορικό προχτές της “τεχνητής νοημοσύνης”, ένας μαθηματικός, απ’ τους πρωτοπόρους των cybernetics (εφευρέτης άλλωστε του όρου), ο Norbert Wiener, συγγραφέας του έργου αναφοράς Κυβερνητική και Κοινωνία, η ανθρώπινη χρησιμοποίηση των ανθρώπινων όντων, είχε την ετοιμότητα ή το θράσος να γράψει μεταξύ άλλων:

... Εδώ θέλω να παρεμβάλω ένα σημαντικό στοιχείο: λέξεις όπως Ζωή, Σκοπός και Ψυχή είναι τελείως ακατάλληλες στην καθαρή επιστημονική σκέψη. Οι όροι αυτοί απέκτησαν την σημασία τους με αναγνώριση από εμάς της ενότητος μιας συγκεκριμένης ομάδας φαινομένων και στην πραγματικότητα δεν μας παρέχουν οποιαδήποτε κατάλληλη βάση για να χαρακτηρίσουμε αυτή την ενότητα. Κάθε φορά που βρίσκουμε ένα καινούργιο φαινόμενο το οποίο συμμετέχει σε κάποιο βαθμό στη φύση εκείνων που ήδη ονομάσαμε “φαινόμενα Ζωής” αλλά δεν συμφωνεί με όλες τις σχετιζόμενες απόψεις που καθορίζουν τον όρο “ζωή”, αντιμετωπίζουμε το πρόβλημα να πλατύνουμε την λέξη “ζωή”, έτσι ώστε να τις περιλαμβάνει όλες, ή να την καθορίζουμε μ’ ένα πιο περιοριστικό τρόπο έτσι ώστε να μην τις περιλαμβάνει.
Έχουμε αντιμετωπίσει αυτό το πρόβλημα στο παρελθόν εξετάζοντας ιούς, οι οποίοι δείχνουν μερικές ιδιότητες της ζωής να διαρκούν, να πολλαπλασιάζονται και να οργανώνονται - αλλά δεν εκφράζουν αυτές τις ιδιότητες με μία πλήρως εξελιγμένη μορφή. Τώρα που παρατηρούνται ορισμένες αναλογίες συμπεριφοράς στη μηχανή και στο ζωντανό οργανισμό, το πρόβλημα του αν η μηχανή ζει ή όχι είναι για τους σκοπούς μας θέμα σημασιολόγησης και είμαστε ελεύθεροι να απαντήσουμε σ’ αυτό, είτε με τον ένα είτε με τον άλλο τρόπο, όπως εξυπηρετεί καλύτερα. Όπως λέει ο Humpty Dumpty για μερικές απ’ τις πιο σπουδαίες κουβέντες του: “τις πληρώνω έξτρα και τις αναγκάζω να κάνουν ό,τι θέλω”.

Εάν επιθυμούμε να χρησιμοποιούμε τη λέξη “Ζωή” για να καλύψουμε όλα τα φαινόμενα τα οποία κινούνται αντίθετα προς το ρεύμα της αυξανόμενης εντροπίας, είμαστε ελεύθεροι να το κάνουμε. Όμως τότε θα συμπεριλάβουμε πολλά αστρονομικά φαινόμενα τα οποία έχουν σκιώδη μόνον ομοιότητα με τη ζωή όπως κανονικά την ξέρουμε. Γι’ αυτό σύμφωνα με τη γνώμη μου το καλύτερο είναι να αποφύγουμε όλες τις αόριστες εκφράσεις που προκαλούν ερωτήσεις, όπως “ζωή”, “ψυχή”, “βιταλισμός” και τα παρόμοια και να πούμε απλώς για ό,τι αφορά τις μηχανές ότι δεν υπάρχει λόγος να μην μοιάζουν με τα ανθρώπινα όντα στο να αντιπροσωπεύουν εστίες ελαττούμενης εντροπίας σε ένα πλαίσιο όπου η ευρεία εντροπία τείνει να αυξάνει...

Δεν είμαστε ελεύθεροι! Οι λέξεις και τα νοήματα έχουν αποκτήσει ιδιοκτήτες· κι αυτοί είναι που πληρώνουν για κάνουν και να λένε ότι θέλουν!
Θα πρέπει να προστατέψουμε, να διασώσουμε, να απελευθέρωσουμε την ζωή - και τα λόγια της.
Αλλιώς συνείδηση θα έχουν οι μηχανές... Την συνείδηση των αφεντικών / ιδιοκτητών τους.

Ziggy Stardust

Σημειώσεις

1 - Τα βασικά στοιχεία σχετικά με τις έρευνες για την τεχνητή νοημοσύνη προέρχονται απ’ το βιβλίο Inhuman Power των Nick Dyer-Witheford, Atle Mikkola Kjosen και James Steinhoff, Pluto Press, 2019.
[ επιστροφή]

2 - Η ικανότητα γενίκευσης, ικανότητα των ζωντανών αναμφισβήτητα (και όχι μόνο του ανθρώπινου είδους), είναι σίγουρα ενδιαφέρουσα. Σχετίζεται πιθανότατα με το γεγονός ότι η ζωή σαν τέτοια πρέπει “να τα φέρνει βόλτα” με το όποιο περιβάλλον της με μια κάποια “οικονομία ερεθισμάτων”.
Πέρα απ’ αυτό ωστόσο, ειδικά για το είδος μας, μπορούμε να αναρωτηθούμε αν η ικανότητα γενίκευσης είναι πάντα και παντού η ίδια, ή αν επηρεάζεται απ’ την πολιτιστική κίνηση (του είδους). Σε συνθήκες γενικευμένης εικονικότητας και κατακερματισμού, για παράδειγμα, όπως οι τωρινές και οι αυριανές, αυτή η ικανότητα θα είναι ίδια σε σχέση, ας πούμε, με εκείνη πριν μισό ή έναν αιώνα; Ή ξεπέφτει ήδη σε συνήθως επιφανειακή εμπειρίστικη συναρμολόγηση των εντυπώσεων, άχρηστη έως επικίνδυνη για τους πάντες εκτός από εκείνους που έχουν εξουσία; Μήπως ζούμε σε συνθήκες όπου η ανθρώπινη, ζωντανή ικανότητα γενίκευσης γίνεται διαρκώς φτωχότερη, επιτρέποντας στη μηχανική εκδοχή της να αναδυθεί κάποια στιγμή σαν πιο ικανή;
[ επιστροφή]