#28 - 10/2023

Mηχανικό, πολύ μηχανικό: σχόλια πάνω στην τεχνητή γενική νοημοσύνη

Θα παράγουν αξία οι έξυπνες μηχανές;

Παρά την πληθώρα των σχετικών αναλύσεων, η όλη συζήτηση (τουλάχιστον στα κυρίαρχα μέσα) γύρω από την τεχνητή νοημοσύνη μοιάζει να έχει φτάσει σε ένα τέλμα, εγκλωβισμένη σε κάποια επαναλαμβανόμενα μοτίβα τα οποία αναπαράγει με κουραστική επιμονή. Σχεδόν όλοι φαίνεται να είναι (ή παριστάνουν ότι είναι) βέβαιοι για την ακατάσχετη πρόοδο προς την 4η βιομηχανική επανάσταση και για τις κατακλυσμιαίες αλλαγές που θα επιφέρει η τεχνητή νοημοσύνη στον δρόμο προς το «έξυπνο» ζην εν γένει. Σαν να διαθέτει κάποιο μυθικό άγγιγμα του Μίδα, οπουδήποτε απλώσει το χέρι της η τεχνητή νοημοσύνη, αναμένονται περίπου κοσμογονικές μεταβολές· ο διακηρυγμένος σκοπός εξάλλου είναι κάθε ανθρώπινη συμπεριφορά και συνήθεια να γίνει τελικά αντικείμενο αλγοριθμικών χειρισμών, να περνάει από πολλαπλά επίπεδα «έξυπνων» διαμεσολαβήσεων πριν της επιτραπεί να αφήσει το αποτύπωμά της στον πραγματικό κόσμο.

Για τη συντριπτική πλειοψηφία όσων έχουν μια (άμεση ή κι έμμεση) εμπλοκή με τις διαδικασίες ανάπτυξης και προώθησης των σχετικών τεχνολογιών, οι όποιες επιφυλάξεις για την πορεία αυτής της «προόδου» είναι φυσικά αδιανόητες. Ο φυσικός και επιθυμητός προορισμός των «έξυπνων» τεχνολογιών είναι να γίνουν τόσο κοινές όσο και ο ηλεκτρισμός ο ίδιος. Το ανάστροφο (αλλά όχι αντίθετο) μοτίβο απέναντι στην υπεραισιοδοξία όσων έχουν λαμβάνειν από τα «θαύματα» της τεχνητής νοημοσύνης λαμβάνει κατά κανόνα τη μορφή της καταστροφολογίας: αν αφήσουμε ανεξέλεγκτες τις σχετικές τεχνολογίες υφίσταται ο πολύ υπαρκτός κίνδυνος αυτές να καταπιούν την ίδια την ανθρωπότητα στο τέλος και ίσως ακόμα και να την αντικαταστήσουν με πιο εξελιγμένα νοήμονα όντα, ενδεχομένως απαλλαγμένα από τα βαρίδια των σωμάτων και της παρωχημένης βιολογίας τους. Από την άλλη πλευρά τώρα, ο όλος ντόρος γύρω από την τεχνητή νοημοσύνη έχει εξωθήσει σε έναν (δικαιολογημένο, ως έναν βαθμό) σκεπτικισμό. Στην πιο ακραία του εκδοχή, αυτός ο σκεπτικισμός οχυρώνεται πίσω από τη λογική του «μία από τα ίδια»: η 4η βιομηχανική επανάσταση με τις έξυπνες τεχνολογίες της αποτελεί μια ακόμα τεχνική αναδιάρθρωση του καπιταλισμού η οποία δεν αγγίζει τον πυρήνα της λειτουργίας του παρά μόνο την «εξωτερική» του όψη, τις μορφές και τους τρόπους εκμετάλλευσης της εργατικής δύναμης.

Αυτή η ένταση ανάμεσα στις δύο αναγνώσεις της τεχνητής νοημοσύνης, με τον έναν πόλο να καταλαμβάνεται από την αντίληψη του «ξεχάστε ό,τι ξέρατε, όλα θα αλλάξουν» και τον άλλο από αυτή του «μία από τα ίδια», διαπερνάει σε μεγάλο βαθμό και πολλές μαρξιστικές αναλύσεις [1Για μια πιο διεξοδική εξέταση των μαρξιστικών αναλύσεων πάνω στο θέμα της τεχνητής νοημοσύνης, βλ. Inhuman Power: Artificial Intelligence and the Future of Capitalism, Nick Dyer-Witheford, Atle Mikkola Kjosen, James Steinhoff, Pluto Press, 2019.]. Δεν λείπουν εξάλλου όσοι, εμπνεόμενοι από ορισμένα χωρία του Μαρξ στο Κεφάλαιο και στα Grundrisse, βλέπουν την καθολική ψηφιοποίηση ως το σκοινί που ο ίδιος ο καπιταλισμός περνάει στο λαιμό του και άρα περίπου ως ευκαιρία για τη μετάβαση σε μια κομμουνιστική κοινωνία μετα-σπάνης. Ειδικά για τη μαρξιανή κριτική ωστόσο, η ενασχόληση με την τεχνητή νοημοσύνη δεν αποτελεί απλώς θέμα μόδας και αποδοχής ή απόρριψης των αντιλήψεων του συρμού, καθώς αγγίζει ένα κρίσιμο ζήτημα: αυτό του ποιος παράγει τελικά αξία και άρα του ποιος αποτελεί αντικείμενο εκμετάλλευσης. Για τον ίδιο τον Μαρξ, ούτε οι μηχανές ούτε τα ζώα ούτε ακόμα και οι σκλάβοι παράγουν αξία. Όσο κι αν παράγουν έργο κατά μία έννοια, παρ’ όλα αυτά δεν παράγουν αξία με την καπιταλιστική σημασία του όρου. Για να παράγει ένα υποκείμενο αξία μέσα από την εργασία του, πρέπει να πληρούνται τουλάχιστον δύο προϋποθέσεις. Πρώτον, να είναι ένα αυτόνομο υποκείμενο με ένα ρεπερτόριο συμπεριφορών που υπερβαίνει τις αντανακλαστικές αντιδράσεις των ενστίκτων και τις ρουτίνες των μηχανικά επαναλαμβανόμενων κινήσεων – κάτι που προφανώς δεν ισχύει για τις μηχανές και για τα ζώα [2Αν κι έχουν διατυπωθεί κάποιες ενστάσεις σε σχέση με τα ζώα.]. Δεύτερον, να είναι «ελεύθερο» να πουλήσει την εργατική του δύναμη ώστε να μπορεί να επιβιώσει, δηλαδή να έχει εισέλθει στη νομική σχέση της μισθωτής εργασίας μέσα από την οποία υπεξαιρείται μέρος της αξίας που παράγει – κάτι που δεν ισχύει στην περίπτωση των σκλάβων ή των δουλοπαροίκων.

Αν όμως η τεχνική εξέλιξη φτάσει στο σημείο που θα έχει τη δυνατότητα να παράγει μηχανές με πραγματική ικανότητα σκέψης, μηχανές που θα μπορούν να επιδείξουν ακόμα και φαντασία; Τι θα σήμαινε για τις μαρξιανές αναλύσεις περί αξίας η εμφάνιση της λεγόμενης τεχνητής γενικής νοημοσύνης (artificial general intelligence), δηλαδή τεχνουργημάτων που θα μπορούσαν να αντικαταστήσουν οποιονδήποτε άνθρωπο σε οποιαδήποτε εργασία (σύμφωνα με έναν ορισμό της); Αν γίνει ποτέ δυνατό να κατασκευαστούν τέτοιες «τέλειες» μηχανές που θα έχουν το καθεστώς αυτόνομων υποκειμένων (κι επομένως θα έπαυαν να είναι απλώς μηχανές), τότε προφανώς θα βρίσκονται (τουλάχιστον δυνητικά) σε θέση να παράγουν αξία. Άρα και να προλεταριοποιηθούν.

Τεστ, κι άλλα τεστ

Διάφορα σενάρια μπορεί να φανταστεί κανείς πάνω σε αυτή την υπόθεση εργασίας σχετικά με τους τύπους και τις μορφές εκμετάλλευσης που ενδέχεται να προκύψουν. Ωστόσο, η απόπειρα να απαντηθεί το ερώτημα περί της δυνατότητας κατασκευής νοημόνων μηχανών με έναν αφοριστικό, γενικό και αόριστο τρόπο αποτελεί μάλλον ανέξοδη άσκηση στη μελλοντολογία· άρα και στην κακή μεταφυσική. Περισσότερο ενδιαφέρον και πολιτικά κρίσιμο είναι το να γίνουν κατανοητοί οι όροι και οι συνθήκες υπό τις οποίες διεξάγεται αυτή τη στιγμή η συζήτηση περί τεχνητής γενικής νοημοσύνης, καθώς και οι όποιες (ρητές ή άρρητες) οντολογικές και αξιολογικές δεσμεύσεις όσων σπεύδουν να δώσουν εύκολες και γρήγορες απαντήσεις. Δεδομένου του ότι κανένας φιλόσοφος, κανένας ψυχολόγος και κανένας νευροεπιστήμονας δεν έχει καταφέρει να δώσει έναν αυστηρό ορισμό της «νοημοσύνης», η έννοια αυτή λειτουργεί περισσότερο ως ένα εύπλαστο κυμαινόμενο σημαίνον που παίρνει μορφή και σχήμα κατά τις ανάγκες (και τα συμφέροντα) όποιου τυγχάνει να τη χρησιμοποιεί. Επομένως, η ψηλάφηση αυτών των σχημάτων μπορεί να μετατρέψει την άσκηση μελλοντολογίας σε άσκηση χαρτογράφησης των σπασμών του υπερώριμου καπιταλισμού.

Το περίφημο άρθρο του Turing σχετικά με τη νοημοσύνη των μηχανών κατέχει περίπου καταστατική θέση μέσα στις σχετικές συζητήσεις, ειδικά μεταξύ όσων ορκίζονται μετά πάθους στη δυνατότητα κατασκευής τους [3Βλ. το άρθρο του Turing Computing Machinery and Intelligence. Μια πληρέστερη κατανόηση της νοημοσύνης θα απαιτούσε και μια ανάλυση της φιλοσοφικής και κοινωνικής ιστορίας αυτής της έννοιας. Δεν θα επιχειρήσουμε εδώ μια τέτοια αναδίφηση. Μια σύντομη επισκόπηση μπορεί να βρεθεί σε προηγούμενο τεύχος του Cyborg. Βλ. Το τεστ του Turing: σημειώσεις για μια γενεαλογία της «νοημοσύνης», Cyborg, τ. 8.]. Ως γνωστό, σε αυτό του το άρθρο ο Turing εισηγήθηκε ένα τεστ με βάση το οποίο μπορεί να διαπιστωθεί αν μια μηχανή σκέφτεται ή όχι. Ένας άνθρωπος λαμβάνει τη θέση του εξεταστή και διεξάγει μια γραπτή συνομιλία με μία μηχανή και με έναν άλλο άνθρωπο. Ο σκοπός του είναι να καταφέρει να διακρίνει ποιος από τους συνομιλητές του είναι η μηχανή και ποιος ο άνθρωπος. Αν η μηχανή έχει τόσο υψηλές διαλογικές ικανότητες ώστε να μπορεί να ξεγελάσει τον εξεταστή, τότε είμαστε σε θέση να αποδώσουμε σε αυτήν το χαρακτηριστικό της νοημοσύνης. Σε όσους τυχόν εγείρουν την ένσταση ότι η μηχανή ενδέχεται απλώς να προσομοιώνει την ικανότητα συνομιλίας χωρίς ωστόσο να διαθέτει συνείδηση του τι πράττει, ο Turing απαντάει με το αφοπλιστικό επιχείρημα ότι με τον ίδιο τρόπο εξάλλου κρίνουμε και τη νοημοσύνη των συνανθρώπων μας. Συνομιλούμε με αυτούς χωρίς να σκαλίζουμε τα ενδότερά τους για να ανακαλύψουμε κάπου μια κρυμμένη νοημοσύνη· αντιθέτως, κάνουμε την ευγενική παραχώρηση να τους θεωρούμε νοήμονες. Προεκτείνοντας αυτή την επιχειρηματολογία του ανασηκώματος των ώμων, δεν είναι λίγοι όσοι θεωρούν ότι η τεχνική εξέλιξη θα καταστήσει εν τέλει τέτοιες διενέξεις άνευ σημασίας. Όταν οι μηχανές φτάσουν στο σημείο να μιμούνται κάθε ανθρώπινη συμπεριφορά σε επαρκή βαθμό, τότε η διερώτηση σχετικά με το αν κάπου μέσα τους κατοικοεδρεύει κάποιος «νους» θα εκφυλιστεί σε έναν άγονο σχολαστικισμό. Οι περισσότεροι απλά θα θεωρούν με φυσικό τρόπο ότι πράγματι διαθέτουν νοημοσύνη.

Το τεστ του Turing δεν είναι πάντως το μοναδικό του είδους του. Παρόμοια νοητικά πειράματα έχουν διατυπωθεί ακόμα και με ρομπότ, παρακάμπτοντας έτσι το πρόβλημα του λόγου και της ομιλίας. Ένα τέτοιο παράδειγμα αποτελούν τα (λιγότερο γνωστά) οχήματα του Braitenberg (από τον επιστήμονα που τα εισηγήθηκε) [4Βλ. το βιβλιαράκι του Valentino Braitenberg Vehicles: Experiments in Synthetic Psychology.]. Πρόκειται καταρχήν για νοητικά ρομπότ (δεν κατασκευάστηκαν, παρά μόνο αργότερα), εξαιρετικά απλά στη σύλληψή τους. Διαθέτουν μερικούς αισθητήρες για να συλλαμβάνουν ορισμένα ερεθίσματα του περιβάλλοντός τους (π.χ. πηγές φωτός) οι οποίοι συνδέονται με τα κινητικά μέρη του ρομπότ (π.χ. τα ροδάκια του). Ο Braitenberg ξεκίνησε με ορισμένες απλές διατάξεις στις οποίες το ερέθισμα μεταβιβάζει άμεσα μια απλή εντολή στο κινητικό τμήμα του ρομπότ, π.χ., αν ο αριστερός αισθητήρας εντοπίσει μια φωτεινή πηγή τότε συνδέεται με την αριστερή ρόδα και την αναγκάζει να κινηθεί προς τα πίσω. Από τις απλές αυτές διατάξεις προχώρησε κατόπιν σε όλο και πιο περίπλοκες (π.χ. ο αριστερός αισθητήρας να συνδέεται με τη δεξιά ρόδα και η εντολή να είναι για κίνηση προς τα εμπρός), οι οποίες όμως πάντα είχαν ως βάση τους απλούς αισθητήρες και απλές εντολές κίνησης. Μόνο οι μεταξύ τους συνδυασμοί και οι δυνατές αποκρίσεις μεταβάλλονταν. Κατάφερε έτσι να δείξει ότι τέτοια ρομποτάκια, βασιζόμενα σε απλές αντανακλαστικές αντιδράσεις και χωρίς καν να διαθέτουν κάποιον εσωτερικό υπολογιστή, μπορούν να επιδεικνύουν ένα πλήθος συμπεριφορών, πολλές από τις οποίες μοιάζουν να είναι νοήμονες (π.χ., συμπεριφορές επιθετικότητας ή έλξης προς τα ερεθίσματα). Σε ποιον βαθμό άραγε διαφέρουν τα οχήματα του Braitenberg από ένα έντομο που έλκεται από ένα άνθος, τουλάχιστον από την πλευρά ενός εξωτερικού παρατηρητή;

Νοημοσύνη χωρίς σώμα, χωρίς συνείδηση

Νοητικά πειράματα σαν αυτά του Turing και του Braitenberg έχουν βέβαια το πλεονέκτημα της αμεσότητας και της διαισθητικής προφάνειας. Το μειονέκτημά τους, από την άλλη, τουλάχιστον για όσους αρέσκονται στις ακριβείς διατυπώσεις και στη ρωμαλέα σκέψη, είναι ότι ποτέ δεν λένε ακριβώς αυτό που θέλουν να πουν. Αρκεί να ξύσει κανείς λίγο την επιφάνειά τους για να πάει πίσω από το τείχος της «αμεσότητας» και αμέσως θα συναντήσει ορολογικές ασάφειες και νοηματικές αντιφάσεις. Ακόμα κι έτσι πάντως, μπορεί να διακρίνει κανείς έναν βασικό πυρήνα από κοινές παραδοχές – ασχέτως του αν συνιστούν ένα συνεκτικό όλο ή αν βασίζονται σε κάποια αρραγή επιχειρηματολογία.
Μία από αυτές αφορά στην υλικότητα της όποιας νοημοσύνης. Για να γίνεται λόγος περί νοημοσύνης, αυτή αναγκαστικά πρέπει να εκδηλώνεται επί ενός υλικού υποστρώματος. Σε αυτό το σημείο όμως χρειάζεται προσοχή. Η υπόθεση περί υλικότητας της νοημοσύνης δεν συνεπάγεται και κάποια δέσμευση σε μια οποιαδήποτε υλιστική οντολογία. Πρόκειται για ένα πολύ συγκεκριμένο είδος υλισμού που καλείται να λειτουργήσει ως υποστήριγμα της νοημοσύνης και ο οποίος ακούει στο όνομα «φυσικαλισμός». Είτε μιλάμε για μια μηχανή που συνομιλεί με ανθρώπους είτε για μία που κινείται «αυτόνομα» στον χώρο, σε κάθε περίπτωση μιλάμε για μηχανές. Η υπόρρητη παραδοχή εδώ είναι ότι καταρχάς η έγκυρη κατανόηση της φύσης προϋποθέτει την εννόησή της με μαθηματικούς – μηχανιστικούς όρους. Με όρους τυπικής λογικής, αυτή θα ήταν η μείζονα πρόταση του όλου συλλογισμού. Σε δεύτερο χρόνο ακολουθεί και η ελάσσονα πρόταση, η οποία βεβαιώνει ότι και ο νους (συχνά ταυτιζόμενος με τον εγκέφαλο) αποτελεί μέρος της φύσης. Το συμπέρασμα αναμφίλεκτο: άρα και ο νους οφείλει να κατανοείται με μηχανιστικούς όρους, ως μια μηχανή τους νόμους της οποίας πρέπει να ανακαλύψουμε αν θέλουμε να κατανοήσουμε τη λειτουργία της.

Το γεγονός ότι η φιλοσοφία της τεχνητής (γενικής) νοημοσύνης δανείζεται το κύρος των φυσικο-μαθηματικών επιστημών μοιάζει να είναι ένα καλό χαρτί στα χέρια της. Όμως δεν λύνει όλα τα προβλήματα, ειδικά αν κανείς δεν πάει πάσο και μπει στο στοίχημα με τα ρέστα του, αποφασισμένος να δει όλα τα φύλλα να ανοίγουν. Ακόμα κι αν γίνει παραδεκτό ότι ο παραπάνω συλλογισμός έχει μια εγκυρότητα στον βαθμό που αναφέρεται στον εγκέφαλο – το μοναδικό σύμπλοκο ύλης στο οποίο μπορεί ενδεχομένως να αποδοθεί νοημοσύνη – αυτή δεν είναι αυταπόδεικτο ότι μεταφέρεται και στην περίπτωση των μηχανικών συμπλεγμάτων. Επομένως, η κοινότητα μεταξύ εγκεφάλου και του όποιου μηχανικού νου θα πρέπει να εντοπιστεί σε ένα άλλο επίπεδο, πέρα από αυτό της υλικότητάς τους. Με αυτόν τον τρόπο όμως προκύπτει αναγκαστικά ένα χάσμα, μια διάσταση μεταξύ νοημοσύνης και βιολογίας. Η νοημοσύνη δεν ανάγεται σε βιολογικές λειτουργίες παρά τις χρησιμοποιεί σχεδόν κατά συμβεβηκός, ως μέσο «έκφρασης» της. Το χάσμα γίνεται ακόμα πιο ανάγλυφο με τη διατύπωση του εξής αφελούς ερωτήματος: έχουμε δικαίωμα να αναφερόμαστε σε ένα μωρό που έχει γεννηθεί μέσω τεχνητής γονιμοποίησης ως δείγμα τεχνητής νοημοσύνης; Η απάντηση είναι προφανώς αρνητική. Παρ’ όλα αυτά, ένα τέτοιο μωρό προφανώς διαθέτει νοημοσύνη και προφανώς έχει προκύψει ως αποτέλεσμα κάποιας τεχνικής επέμβασης. Η ειδοποιός διαφορά σε σχέση με ό,τι κατά κανόνα ονομάζεται ως νοήμον τεχνούργημα είναι μάλλον ότι η τεχνική επέμβαση στην περίπτωση της τεχνητής γονιμοποίησης έλαβε χώρα άπαξ και μετά η φύση αφέθηκε να ακολουθήσει την πορεία της, χωρίς αυτή να προδιαγράφεται σε κάθε βήμα της. Με άλλα λόγια, πρόκειται για τη διαφορά μεταξύ «καλλιέργειας» και «κατασκευής»· έστω και κάπως καταχρηστικά, μπορεί να μιλήσει κανείς για ένα μωρό που καλλιεργείται (όπως μεγαλώνει κανείς και ένα δέντρο), αλλά σε καμμία περίπτωση για ένα που κατασκευάζεται. Το ακριβώς αντίστροφο θα ίσχυε φυσικά για ένα δείγμα τεχνητής νοημοσύνης. Το μωρό φαίνεται τελικά να πάσχει από υπερβολική βιολογία και από υπερβολική φύση ώστε να μπορεί να του αποδοθεί το παράσημο του τεχνητού.

Η αλυσίδα των χασμάτων, ωστόσο, δεν σταματάει στην απόσπαση της νοημοσύνης από το βιολογικό της υπόστρωμα και στη διάκριση του ζωικού από το τεχνητό και το κατασκευασμένο. Αν αυτή η διάκριση γίνει καταρχήν αποδεκτή, τότε σχεδόν αναπόφευκτα προκύπτει και μία ακόμα. Αυτή μεταξύ της νοημοσύνης και της συνείδησης. Η διαπίστωση ότι μόνο τα έμβια πλάσματα, με την τόσο «παρωχημένη» τους βιολογία, επιδεικνύουν ένσκοπη και εμπρόθετη συμπεριφορά αποτελεί βέβαια μια κοινοτοπία. Όμως εμπλέκονται στον κόσμο μέσα από εμπρόθετες σχέσεις μόνο στον βαθμό που η θνητότητα αποτελεί πάγια συνθήκη της ύπαρξής τους. Ένα πλάσμα χωρίς κανένα απολύτως αίσθημα θνητότητας θα ήταν ένα πλάσμα που δεν θα γνώριζε κανένα όριο και δεν θα είχε απολύτως καμμία επιθυμία, ούτε καν ένστικτο αυτοσυντήρησης. Θα μπορούσε να αναμιχθεί με το περιβάλλον του σε κάθε πιθανό συνδυασμό και για αυτό δεν θα είχε και καμμία αίσθηση του εαυτού, ούτε καν σε ενστικτώδη μορφή. Εκ των πραγμάτων, επομένως, δεν θα ήταν δυνατό να έχει και την οποιαδήποτε μορφή συνείδησης, όντας απλώς ένα πράγμα, αντικείμενο χωρίς υποκειμενικότητα. Με μια παρόμοια λογική, μια μηχανή που δεν έχει ανάγκη τη βιολογία του ζωικού δεν μπορεί να έχει και κανένα αίσθημα θνητότητας ούτε και κάποια δική της βούληση· άρα ούτε και κάποια μορφή συνείδησης. Το τίμημα για την απο-βιολογικοποίηση της νοημοσύνης είναι και η «απαλλαγή» της από τη συνείδηση.
Ένα ακόμα αφελές ερώτημα ίσως είναι χρήσιμο σε αυτό το σημείο. Με βάση τα κριτήρια της τεχνητής νοημοσύνης, ένας άνθρωπος που πάσχει από βαριά νοητική υστέρηση έχει νοημοσύνη ή όχι; Συνείδηση προφανώς διαθέτει, ωστόσο κανένας μηχανικός δεν θα έκανε το ατόπημα να θέσει το τεστ του Turing σε μια μηχανή με τόσο «χαμηλό IQ». Θα αποτύγχανε παταγωδώς, ό,τι κι αν λέει αυτό για το πόση «ανθρωπιά» εμπεριέχεται στη νοημοσύνη που έχουν κατά νου οι μηχανικοί.

Από τη μία, λοιπόν, η νοημοσύνη. Από την άλλη η συνείδηση, η βιολογία και η ζωή η ίδια, πράγματα τα οποία η νοημοσύνη δεν χρειάζεται καν. Έτσι όμως μοιάζει σχεδόν να έχει εξαϋλωθεί και η ίδια. Παρά τους όρκους πίστης σε ένα είδος υλισμού, δεν φαίνεται να έχει απομείνει καμμία υλική βάση για να σταθεί ο νους. Γιατί αν αυτός δεν συνάπτεται αναγκαστικά με το σώμα, αλλά μπορεί και να εκφράζεται μηχανικά, τότε το λογικά επόμενο βήμα καθίσταται προφανές. Ούτε τα τρανζίστορ, οι σερβομηχανισμοί και τα καλώδια αποτελούν κάποια αναγκαία προϋπόθεση για την εμφάνιση της νοημοσύνης. Όπως ο εγκέφαλος, έτσι και οι ημιαγωγοί επέχουν στην καλύτερη περίπτωση θέση συμβεβηκότος. Θα μπορούσαν να αντικατασταθούν με κάποιο άλλο υλικό. Η νοημοσύνη, επομένως, χρειάζεται κάποιο υλικό μέσο για να εκδηλωθεί, αλλά η ουσία της υπερίπταται άνωθεν της ύλης. Η φιλοσοφική διέξοδος από αυτή την υποψία νέο-νέοπλατωνισμού (η διπλή χρήση του προθέματος «νέο-» εδώ δεν είναι πλεονασμός) είναι η πρόταξη ενός λειτουργισμού: ο πυρήνας της νοημοσύνης υποτίθεται πλέον ότι βρίσκεται στον τρόπο που αυτή λειτουργεί, ανεξαρτήτως του μέσου δια του οποίου υλοποιούνται οι κανόνες λειτουργίας της. Αυτό συχνά σημαίνει ότι ο νους ταυτίζεται με τον αλγοριθμικό χειρισμό συμβόλων στη βάση αυστηρών και διακριτών βημάτων. Με τον ίδιο τρόπο που μπορεί κανείς να οδηγήσει ένα αυτοκίνητο ανεξαρτήτως του αν κάτω από το καπώ του κρύβεται ένας κινητήρας εσωτερικής καύσης ή ένα ηλεκτρικό μοτέρ και να εξακολουθεί να μιλάει για αυτοκίνητο, έτσι και η νοημοσύνη διαθέτει μια ποικιλία «μέσων έκφρασης», τόσο βιολογικών όσο και ηλεκτρονικών.

Έστω ότι γίνεται καταρχάς αποδεκτή η εισαγωγή του λειτουργισμού και ότι παραμερίζονται οι υποψίες ότι εδώ έχουμε να κάνουμε με μια ακόμα εφαρμογή του «σώζειν τα φαινόμενα». Είμαστε, ωστόσο, ακόμα σίγουροι ότι το τεστ του Turing και τα ρομποτάκια του Braitenberg εξακολουθούν να λένε αυτό που υποτέθηκε αρχικά; Με την ίδια ευκολία που ο Turing παρακάμπτει τους «σχολαστικισμούς περί συνείδησης» είναι δυνατό να προσφέρει κανείς την ακριβώς αντίθετη ερμηνεία. Εφόσον γνωρίζουμε μετά βεβαιότητας ότι μια ομιλούσα μηχανή ή ένα συνονθύλευμα αντανακλαστικών κινήσεων όπως τα ρομποτάκια δεν διαθέτουν ούτε ίχνος συνείδησης (εμείς τα έχουμε κατασκευάσει εξάλλου), τότε το μόνο ασφαλές συμπέρασμα που μπορεί να εξαχθεί από τέτοιες νοητικές ασκήσεις είναι ότι η δυνατότητα προσομοίωσης μιας συμπεριφοράς δεν μας λέει απολύτως τίποτα για αυτή την ίδια και ούτε προσφέρει κάποια κλειδιά για την κατανόησή της. Το να εκλάβει κανείς το GPT ως μια μηχανή με νοημοσύνη επειδή μπορεί να διεξαγάγει μια στοιχειώδη συζήτηση μαζί του θα ήταν τόσο αφελές όσο και οι αντιδράσεις διαφυγής των πρώτων θεατών του κινηματογράφου όταν έβλεπαν το τραίνο στο πανί να εφορμά καταπάνω τους. Το μόνο που μετράνε αυτά τα τεστ δεν είναι τη νοημοσύνη των μηχανών, αλλά την ευπιστία των ανθρώπων [5Βλ. The mind’s provisions: a critique of cognitivism, Vincent Descombes, Princeton University Press, 2001.].

Παρόμοιες ενστάσεις σχετικά με τη δυνατότητα της προσομοίωσης να προσεγγίσει πραγματικά αυτό που υποτίθεται ότι προσπαθεί να προσομοιώσει είχε διατυπώσει στο παρελθόν και ο φιλόσοφος John Searle στο δικό του περίφημο νοητικό πείραμα του κινέζικου δωματίου. Σε αυτό μας καλεί να φανταστούμε έναν άνθρωπο κλεισμένο μέσα σε έναν θάλαμο, μαζί με ένα βιβλίο κανόνων που του λέει (στα αγγλικά) τους κανόνες με βάση τους οποίους μπορούν να συνδυαστούν τα κινέζικα ιδεογράμματα ώστε να βγάζουν νόημα στην κινέζικη γλώσσα. Ο ίδιος δεν γνωρίζει το παραμικρό για το τι σημαίνουν αυτά, βασιζόμενος μόνο στην όψη και το σχήμα τους για να εφαρμόσει τους κανόνες του βιβλίου. Το αντίστοιχο στα ελληνικά θα ήταν σαν να του έδινε κάποιος μια κάρτα μέσα στο θάλαμο με τη φράση «Γεια, τι κάνεις;», αυτός να ταίριαζε οπτικά το Γ, το ε, το ι κ.ο.κ., να ανέτρεχε στο βιβλίο, να έβλεπε ότι μετά από αυτή τη σειρά σχημάτων ακολουθεί το «Καλά» και τότε να έπαιρνε ένα Κ, ένα α, ένα λ, ένα ακόμα α, να τα έβαζε στη σειρά και να τα έδινε προς τα έξω σε μια άλλη κάρτα. Το ερώτημα του Searle ήταν το εξής: έχουμε πραγματικά το δικαίωμα να πούμε ότι ένας τέτοιος άνθρωπος γνωρίζει να μιλάει κινέζικα μόνο και μόνο επειδή θα έδινε την εντύπωση ότι συνομιλεί με έναν Κινέζο, ανταλλάσσοντας καρτούλες με ιδεογράμματα; Προφανώς όχι. Εφόσον ο έγκλειστος αδυνατεί να συλλάβει το νόημα των όσων πράττει, δεν μπορεί να γίνεται λόγος και για κατανόηση της κινέζικης γλώσσας. Ορισμένοι (όπως ο φιλόσοφος Daniel Dennett) έχουν επιχειρήσει να αντικρούσουν το αρνητικό συμπέρασμα του κινέζικου δωματίου, καταφεύγοντας στην έννοια του συστήματος. Ναι μεν ο άνθρωπος δεν γνωρίζει κινέζικα, αλλά αυτή η ικανότητα μπορεί να αποδοθεί στο σύνολο του «συστήματος» άνθρωπος – βιβλίο οδηγιών – κουβούκλιο. Παραμένει πάντως δύσκολο να συλλάβει κανείς τι είδους σύστημα είναι αυτό στο οποίο δεν υφίσταται καμμία αναγκαία δομική ή λειτουργική οργάνωση των μερών προς το όλο. Ο ίδιος ο Searle είχε απαντήσει με μία ακόμα παραλλαγή του πειράματος, θεωρώντας ότι δεν χρειάζεται να υπάρχει καν κάποιο κουβούκλιο ή βιβλίο οδηγιών· μπορεί να υποτεθεί ότι ο άνθρωπος έχει απομνημονεύσει όλες τις οδηγίες. Ποιο ακριβώς είναι το «σύστημα» σε αυτή την περίπτωση; [6Το πρόβλημα με τις ενστάσεις του Searle είναι ότι ο ίδιος τελικά δείχνει μια ιδιαίτερη επιμονή στην κεντρικότητα του εγκεφάλου. Φαίνεται να απορρίπτει ο,τιδήποτε θεωρείται ως τώρα δείγμα τεχνητής νοημοσύνης επειδή δεν υπάρχει κάποιος βιολογικός εγκέφαλος μέσα στον οποίο να κατοικεί ένας κάποιος νους. Όμως η κεντρικότητα του εγκεφάλου έχει και αυτή τα προβλήματά της. Δεν είναι απαραιτήτως ένας εγκέφαλος ο οποίος σκέφτεται, αλλά ένα ολόκληρο σώμα που σκέφτεται και πράττει (και ποτέ μόνο το ένα ή το άλλο), που αλληλεπιδρά με άλλα σώματα, που εισέρχεται σε κοινωνικές σχέσεις, που ζει εν γένει σε ένα περιβάλλον και διαλέγεται μαζί του. Από αυτή την άποψη, ο εγκέφαλος μπορεί να θεωρηθεί «απλώς» ως ένα συντονιστικό όργανο του σώματος, αλλά όχι το «μέρος που εδρεύει η νοημοσύνη». Αυτή είναι πολύ πιο διάχυτη. Για παρόμοιες κριτικές απέναντι στην κεντρικότητα του εγκεφάλου, βλ. τα έργα των Alva Noe (Out of Our Heads: Why You Are Not Your Brain, and Other Lessons from the Biology of Consciousness, αρκετά βατό), Vincent Descombes (The mind’s provisions: a critique of cognitivism, βαθύτερο και πιο απαιτητικό) και Hubert Dreyfus (What Computers Can't Do: The Limits of Artificial Intelligence). Με τον ένα ή τον άλλο τρόπο, όλα αυτά τα έργα έλκουν την καταγωγή τους από τον Μερλώ-Ποντύ, τον Χάιντεγκερ και τον Χούσσερλ.]

Νοημοσύνη στο εργαστήριο

Εν πάση περιπτώσει, η εισαγωγή του λειτουργισμού στη σχετική επιχειρηματολογία μάλλον στοχεύει περισσότερο να καταστήσει ευλογοφανές το συμπέρασμα ότι είναι πράγματι δυνατό να προσομοιωθεί η νοημοσύνη. Εφόσον αυτή απαλλάσσεται από το βάρος της βιολογίας και από τον «βιταλισμό» που αναγκαστικά ενυπάρχει σε αυτή σε μικρότερο ή μεγαλύτερο βαθμό, τότε ανοίγει ο δρόμος της μηχανικού τύπου κατασκευασιμότητάς της. Το υπόρρητο ερώτημα που φαίνεται να διατυπώνει ο λειτουργισμός συμπυκνώνεται ως εξής: μήπως και η νοημοσύνη δεν ανάγεται τελικά σε μηχανικούς νόμους, εφόσον έχουμε δείξει ότι ένα είδος νοήμονος συμπεριφοράς παρουσιάζουν ακόμα και τεχνουργήματα κατασκευασμένα με εντελώς μηχανικό τρόπο;

Το ζήτημα, ωστόσο, της συνείδησης παραμένει πιεστικό, τουλάχιστον αν με τον όρο νοημοσύνη εννοείται η λεγόμενη γενική νοημοσύνη (η οποία, όπως αναφέρθηκε ήδη, θα μπορούσε να παράγει αξία και να είναι αντικείμενο εκμετάλλευσης). Αν η (γενική) νοημοσύνη θεωρείται κατασκευάσιμη, τότε το ίδιο θα έπρεπε να ισχύει και για τη συνείδηση. Μια συνείδηση όμως μπορεί να συγκροτηθεί ως τέτοια και να συγκροτήσει το νόημα της ύπαρξής της μόνο σε αναφορά με κάτι εξωτερικό ως προς αυτή – κάθε απόπειρα συγκρότησης νοήματος εξάλλου προϋποθέτει ότι αυτό που καλείται να νοηματοδοτηθεί σχετίζεται με κάτι το εξωτερικό ως προς το ίδιο. Το απολύτως εξωτερικό της συνείδησης είναι φυσικά ο θάνατός της, η αίσθηση του πεπερασμένου. Για μια τεχνητή συνείδηση, το εξωτερικό ως προς αυτή θα ήταν ο κατασκευαστής της. Ήδη εδώ αντηχούν κάποιοι μεταφυσικοί κραδασμοί [7Πέραν του ότι υφίσταται και ένα λογικού τύπου σφάλμα, μια σύγχυση νοηματικών επιπέδων. Στην περίπτωση της ανθρώπινης συνείδησης, το νόημα συγκροτείται ως προς κάτι θεμελιωδώς εξωτερικό προς αυτή. Στην περίπτωση της τεχνητής συνείδησης, το νόημα συγκροτείται ως προς κάτι εσωτερικό (την ανθρώπινη συνείδηση του κατασκευαστή), εφόσον θεωρείται ότι μηχανικός και ανθρώπινος νους δεν διαφέρουν επί της ουσίας σε τίποτα.]. Οι κατασκευαστές των «έξυπνων» τεχνουργημάτων φιλοδοξούν λίγο πολύ να πάρουν τη θέση οιονεί θεϊκών όντων ως προς τα κατασκευάσματά τους· φιλοδοξία τους είναι να κτίσουν νοήμονα πλάσματα, σχεδόν όπως στο χριστιανικό δόγμα της κτίσεως ο θεός έπλασε τον άνθρωπο. Η πίστη στη δυνατότητα προσομοίωσης του ο,τιδήποτε στον οποιοδήποτε βαθμό ευκρίνειας συνιστά μια μεταφυσική πίστη παντοδυναμίας. Πρόκειται για μια χειρονομία άρνησης και αδυναμίας αναγνώρισης των ορίων και του πεπερασμένου, του ο,τιδήποτε υπερβαίνει τις δυνατότητες του homo faber.

Αν διαβαστεί ανάποδα και με ένα πιο ιστορικό μάτι, αυτή η αίσθηση κατασκευαστικής παντοδυναμίας ουσιαστικά αποτελεί την ονείρωξη κάθε κοινωνικής μηχανικής, εφόσον εντείνει την αίσθηση ότι τα υποκείμενα (τα ανθρώπινα υποκείμενα) μπορούν εξίσου εύκολα να μετατραπούν σε αντικείμενα χειρισμών – δεν έχουν εξάλλου με τα τεχνητά υποκείμενα μια λειτουργική ισοδυναμία; Με πιο μαρξιανούς όρους, η αντίληψη περί καθολικής κατασκευασιμότητας (ακόμα και της συνείδησης) απολήγει σε μια ακραία μορφή πραγμοποίησης – τίποτα δεν μπορεί να διαφύγει από τη μοίρα του να μετατραπεί σε πράγμα· επομένως και σε εμπόρευμα με ανταλλακτική αξία. Αν τελικά κάτι πρέπει να τεθεί υπό αμφισβήτηση στις αναλύσεις του Μαρξ δεν είναι τόσο η διάκριση που κάνει μεταξύ ανθρώπου από τη μία και ζώου ή μηχανής από την άλλη, αλλά η διαφωτιστική του πίστη στην κατασκευαστική παντοδυναμία της ανθρώπινης εργασίας. Το «καταφύγιο» της συνείδησης είναι ακριβώς το ότι δεν μπορεί να κατασκευαστεί. [8Μιας και τα τεστ έχουν τόση πέραση στις συζητήσεις περί νοημοσύνης, ας μας επιτραπεί να προσθέσουμε κι εμείς το δικό μας σχετικά με τη συνείδηση. Θα το πούμε the Lazarus test. Πώς είναι δυνατό να τεστάρουμε αν ένα πλάσμα διαθέτει συνείδηση; Αν σκοτώσουμε αυτό το πλάσμα, είναι δυνατό να το επαναφέρουμε κατόπιν ακριβώς στην ίδια του μορφή, ακόμα κι αν προσπαθήσουμε με όλες μας τις δυνάμεις; Αν η απάντηση είναι καταφατική και μπορούμε να το επανακατασκευάσουμε, τότε δεν διέθετε και δεν διαθέτει συνείδηση. Αν η απάντηση είναι αρνητική, τότε διέθετε συνείδηση· στην οποία περίπτωση βέβαια αποδειχτήκαμε και δολοφόνοι, εκτός από εξεταστές… Κι επειδή είναι εύκολο να παίξει κανείς με αυτά τα τεστ, ορίστε ένα ακόμα. Ας το πούμε the mind snatcher test. Το ερώτημα τώρα έχει ως εξής: είναι δυνατό να μπεις απολύτως μέσα στη σκέψη ενός πλάσματος, να ξέρεις τι σκέφτεται μέχρι την παραμικρή λεπτομέρεια; Για τα πραγματικά νοήμονα όντα, η απάντηση πρέπει να είναι αρνητική. Διαθέτουν πάντα έναν πυρήνα ανεξάλειπτης υποκειμενικότητας. Στην περίπτωση μιας α-νόητης μηχανής είναι πάντα δυνατό να εξετάσεις όλες τις εισόδους και τις εσωτερικές καταστάσεις και να καταλάβεις τι «σκέφτεται», όπως και να προβλέψεις πώς θα αντιδράσει.]

Σύμπτωμα πραγμοποίησης όμως είναι και η απάντηση του Turing ότι ακόμα και τη νοημοσύνη των ανθρώπων την κρίνουμε από την εξωτερική τους συμπεριφορά, χωρίς να χρειάζεται να εισέλθουμε μέσα στο μυαλό τους για να διαπιστώσουμε ότι όντως σκέφτονται. Με αυτή του την παρατήρηση, ο Turing απαντάει σε όσους προτάσσουν την ανάγκη για ένα theory of the mind (όπως συνηθίζεται να λέγεται) εκ μέρους των νοημόνων πλασμάτων, δηλαδή την ανάγκη για κάθε τέτοιο πλάσμα να μπορεί να αναπαραστήσει εντός του τον νου άλλων, παρόμοιων με αυτών, πλασμάτων κι έτσι να ξέρει ότι και αυτά σκέφτονται με τον ίδιο τρόπο. Αυτός ο τρόπος διατύπωσης του ζητήματος της «δι-υποκειμενικότητας» είναι εξαιρετικά παραπλανητικός, όποια και αν είναι τελικά η απάντηση σχετικά με το πώς κρίνεται η νοημοσύνη ενός άλλου όντος. Ο λόγος βρίσκεται στο ότι ο «νους» γίνεται αντιληπτός ως κάτι το περίκλειστο, ως μια ατομική ιδιότητα. Η ανάδυση του ατομικού νου προηγείται πάντα της συνάντησής του με τα άλλα όντα και τις δικές τους συνειδήσεις. Μια τέτοια αντίληψη φαντάζει φυσική και αυτονόητη μόνο σε κοινωνίες για τις οποίες ο φετιχισμός του Εγώ έχει γίνει και ο ίδιος απολύτως «φυσικός» - με άλλα λόγια μόνο σε κοινωνίες όπου ο εαυτός έχει αναχθεί σε αυταξία· άρα και σε αξία ή ακόμα και σε κεφάλαιο προς αξιοποίηση. Όμως ο νους δεν είναι καθόλου απαραίτητο να εννοείται με αυτόν τον τρόπο. Αντιθέτως, προϋπόθεση κάθε ατομικής συνείδησης είναι ο «κοινωνικός νους». Ο ατομικός νους «χτίζεται» (μεταφορικά μιλώντας) μόνο μέσα από την εμπλοκή του με το περιβάλλον του και διαμέσου των κοινωνικών σχέσεων που αναπτύσσει σταδιακά, χωρίς να χρειάζεται σε καμμία περίπτωση να επιβεβαιώσει με κάποιο τεστ και μόνο εκ των υστέρων ότι και τα άλλα υποκείμενα του μοιάζουν και δεν τον εξαπατούν. Μια τέτοια καχύποπτη συνείδηση θα ήταν ήδη μια συνείδηση βαριά παθολογική η οποία θα αδυνατούσε ριζικά να υπάρξει μέσα στον κοινωνικό κόσμο της. Το γεγονός ότι μια τέτοια παθολογική στάση της συνείδησης μετατρέπεται σε κάτι το απολύτως «φυσικό» λέει περισσότερα για την κοινωνία που τη γέννησε παρά για το όποιο οντολογικό καθεστώς της ίδιας της συνείδησης.

Άρνηση των μηχανών ή πίστη στην από μηχανής άρνηση;

Όχι, λοιπόν. Δεν αναμένεται στο άμεσο μέλλον να κάνουν την εμφάνισή τους προλεταριοποιημένες τεχνητές συνειδήσεις. Η τεχνητή νοημοσύνη, στον βαθμό που αδυνατεί να αναπτύξει έναν πυρήνα υποκειμενικότητας μαζί με τις αντίστοιχες δυνατότητες αντίδρασης και άρνησης (και είναι δύσκολο να φανταστεί κανείς πώς θα μπορούσε να το καταφέρει αυτό), δεν είναι και σε θέση να παράγει αξία. Οι σχέσεις εργασίας και η παραγωγή αξίας αποτελούν κατεξοχήν κοινωνικές σχέσεις. Το συσσωρευμένο κεφάλαιο, παρά την πραγμοειδή μορφή που μοιάζει να έχει, αποτελεί και αυτό κοινωνική σχέση: αποτελεί νομική μορφή για τις αξιώσεις που μπορεί να εγείρει ο κάτοχός του απέναντι σε άλλους κατόχους κεφαλαίου και κυρίως απέναντι σε όσους δεν κατέχουν κανένα κεφάλαιο παρά μόνο την εργατική τους δύναμη. Αξιώσεις ως προς τη διάθεση του χρόνου τους και το μερίδιό τους στον παραγόμενο κοινωνικό πλούτο. Οι μέλισσες μπορεί να παράγουν έργο αλλά όχι αξία γιατί το όποιο έργο τους συνιστά ένα συμβεβηκός εντός των ανθρωπίνων σχέσεων. Τα «υποκείμενα» της τεχνητής νοημοσύνης, εφόσον δεν συμμετέχουν στο φάσμα των κοινωνικών σχέσεων, δεν μπορούν να εγείρουν ούτε αξιώσεις ούτε απαιτήσεις. Δεν μπορούν να γίνουν αντικείμενα εκμετάλλευσης γιατί είναι σκέτα αντικείμενα.

Από αυτή την άποψη, έχουν ένα δίκιο όσοι αντιμετωπίζουν την τεχνητή νοημοσύνη ως «μία από τα ίδια». Πράγματι, δεν είναι δύσκολο να φανταστεί κανείς την 4η βιομηχανική επανάσταση ως μια ακόμα έφοδο του κεφαλαίου με απώτερο σκοπό την απαλλοτρίωση των γνώσεων των εργατών, αυτή τη φορά έχοντας στο στόχαστρό του τις λεγόμενες «διανοητικές» εργασίες. Οι συμβολικές μηχανές μοιάζουν έτσι με άρματα μάχης στην προέλασή τους προς αποδόμηση κάθε έννοιας νοήματος της εργασίας. Θα ήταν, παρ’ όλα αυτά, μυωπικό να μη διακρίνει κανείς τα τεράστια νέα πεδία εκμετάλλευσης που ανοίγονται μαζί με τις ποιοτικές αλλαγές που θα επέλθουν, όχι μόνο στην εννόηση της εργασίας αλλά και της κοινωνικής ζωής εν γένει. Όσο η οργανική σύνθεση του κεφαλαίου αυξάνεται, με την εισαγωγή κάθε είδους μηχανών για το παραμικρό, ελεγχόμενων πάντα από κάποιο αδιόρατο κέντρο, τόσο πολώνεται το πεδίο της εργασίας: σε μια ελίτ από προνομιούχους και καλά αμειβόμενους διαχειριστές και σε μία μονίμως κακοπληρωμένη μάζα από εναλλάξιμους «δουλοπάροικους» για τους οποίους η άγρια απόσπαση υπεραξίας θα γινόταν μια μόνιμη συνθήκη και άφευκτη μοίρα [9Δυνατότητες αντίστασης πάντα θα υπάρχουν βέβαια. Το ζήτημα είναι από ποιο σημείο ξεκινά κάθε φορά η άμυνα και η αντεπίθεση και πόσα εδάφη θα έχουν παραχωρηθεί εν τω μεταξύ.]. Και αν αυτοί νομίζουν ότι θα μπορούν τουλάχιστον να διαθέτουν τον ελεύθερο χρόνο τους καταπώς το επιθυμούν, απατώνται οικτρά. Γιατί οι ορέξεις της τεχνητής νοημοσύνης δεν σταματάνε στην εργασία. Κάθε μετακίνηση και πόντος που διανύεται, κάθε αγορά, κάθε κλικ, κάθε δευτερόλεπτο προσοχής σε ένα βιντεάκι, κάθε συναισθηματική αντίδραση σε κάποιο ποστ στα κοινωνικά δίκτυα, κάθε κοινωνική συμπεριφορά εν γένει (οφείλει να) μετατρέπεται σε data από τα οποία με κάποιο τρόπο πρέπει να εξαχθεί κέρδος· άρα μετατρέπονται και σε αντικείμενα χειρισμών, τόσο πιο απαραίτητων όσο οι αξιώσεις των παραγωγών του πλούτου επί της «πραγματικής πραγματικότητας» θα συρρικνώνονται.

Πίσω από τις έξυπνες συσκευές, τις έξυπνες πόλεις και την καθολική διασύνδεση με τις ευλογίες της τεχνητής νοημοσύνης κρύβεται ένα μέλλον πολύ λιγότερο απαστράπτον. Αυτό ενός «καπιταλισμού χωρίς τριβές», όπου οι κύκλοι της αναπαραγωγής, της παραγωγής, της κυκλοφορίας και της πραγματοποίησης της αξίας θα έχουν συντονιστεί με μια τέτοια μηχανική ακρίβεια ώστε το κοινωνικό εργοστάσιο να περάσει πλέον στην τογιοτική του φάση. Χωρίς φύρα, χωρίς καθυστερήσεις, χωρίς χασομέρι. Πάνω απ’ όλα όμως, χωρίς σαμποτάζ. Γιατί είναι προφανές ότι «αστοχίες» θα εξακολουθούν να υπάρχουν, ενδεχομένως και κολοσσιαίων διαστάσεων, από τη στιγμή που η καθολική διασύνδεση θα μετατρέπει κάθε σημείο του κοινωνικού «δικτύου» σε μια πιθανή πηγή σφαλμάτων. Όμως τουλάχιστον αυτές οι «αστοχίες» θα μπορούν πάντα να θεωρούνται αποτέλεσμα ενός κάποιου «τεχνικού» λάθους. Ποτέ πια όμως, αποτέλεσμα μιας άρνησης.

Separatrix

Σημειώσεις

1 - Για μια πιο διεξοδική εξέταση των μαρξιστικών αναλύσεων πάνω στο θέμα της τεχνητής νοημοσύνης, βλ. Inhuman Power: Artificial Intelligence and the Future of Capitalism, Nick Dyer-Witheford, Atle Mikkola Kjosen, James Steinhoff, Pluto Press, 2019.
[ επιστροφή ]

2 - Αν κι έχουν διατυπωθεί κάποιες ενστάσεις σε σχέση με τα ζώα.
[ επιστροφή ]

3 - Βλ. το άρθρο του Turing Computing Machinery and Intelligence. Μια πληρέστερη κατανόηση της νοημοσύνης θα απαιτούσε και μια ανάλυση της φιλοσοφικής και κοινωνικής ιστορίας αυτής της έννοιας. Δεν θα επιχειρήσουμε εδώ μια τέτοια αναδίφηση. Μια σύντομη επισκόπηση μπορεί να βρεθεί σε προηγούμενο τεύχος του Cyborg. Βλ. Το τεστ του Turing: σημειώσεις για μια γενεαλογία της «νοημοσύνης», Cyborg, τ. 8.
[ επιστροφή ]

4 - Βλ. το βιβλιαράκι του Valentino Braitenberg Vehicles: Experiments in Synthetic Psychology.
[ επιστροφή ]

5 - Βλ. The mind’s provisions: a critique of cognitivism, Vincent Descombes, Princeton University Press, 2001.
[ επιστροφή ]

6 - Το πρόβλημα με τις ενστάσεις του Searle είναι ότι ο ίδιος τελικά δείχνει μια ιδιαίτερη επιμονή στην κεντρικότητα του εγκεφάλου. Φαίνεται να απορρίπτει ο,τιδήποτε θεωρείται ως τώρα δείγμα τεχνητής νοημοσύνης επειδή δεν υπάρχει κάποιος βιολογικός εγκέφαλος μέσα στον οποίο να κατοικεί ένας κάποιος νους. Όμως η κεντρικότητα του εγκεφάλου έχει και αυτή τα προβλήματά της. Δεν είναι απαραιτήτως ένας εγκέφαλος ο οποίος σκέφτεται, αλλά ένα ολόκληρο σώμα που σκέφτεται και πράττει (και ποτέ μόνο το ένα ή το άλλο), που αλληλεπιδρά με άλλα σώματα, που εισέρχεται σε κοινωνικές σχέσεις, που ζει εν γένει σε ένα περιβάλλον και διαλέγεται μαζί του. Από αυτή την άποψη, ο εγκέφαλος μπορεί να θεωρηθεί «απλώς» ως ένα συντονιστικό όργανο του σώματος, αλλά όχι το «μέρος που εδρεύει η νοημοσύνη». Αυτή είναι πολύ πιο διάχυτη. Για παρόμοιες κριτικές απέναντι στην κεντρικότητα του εγκεφάλου, βλ. τα έργα των Alva Noe (Out of Our Heads: Why You Are Not Your Brain, and Other Lessons from the Biology of Consciousness, αρκετά βατό), Vincent Descombes (The mind’s provisions: a critique of cognitivism, βαθύτερο και πιο απαιτητικό) και Hubert Dreyfus (What Computers Can't Do: The Limits of Artificial Intelligence). Με τον ένα ή τον άλλο τρόπο, όλα αυτά τα έργα έλκουν την καταγωγή τους από τον Μερλώ-Ποντύ, τον Χάιντεγκερ και τον Χούσσερλ.
[ επιστροφή ]

7 - Πέραν του ότι υφίσταται και ένα λογικού τύπου σφάλμα, μια σύγχυση νοηματικών επιπέδων. Στην περίπτωση της ανθρώπινης συνείδησης, το νόημα συγκροτείται ως προς κάτι θεμελιωδώς εξωτερικό προς αυτή. Στην περίπτωση της τεχνητής συνείδησης, το νόημα συγκροτείται ως προς κάτι εσωτερικό (την ανθρώπινη συνείδηση του κατασκευαστή), εφόσον θεωρείται ότι μηχανικός και ανθρώπινος νους δεν διαφέρουν επί της ουσίας σε τίποτα.
[ επιστροφή ]

8 - Μιας και τα τεστ έχουν τόση πέραση στις συζητήσεις περί νοημοσύνης, ας μας επιτραπεί να προσθέσουμε κι εμείς το δικό μας σχετικά με τη συνείδηση. Θα το πούμε the Lazarus test. Πώς είναι δυνατό να τεστάρουμε αν ένα πλάσμα διαθέτει συνείδηση; Αν σκοτώσουμε αυτό το πλάσμα, είναι δυνατό να το επαναφέρουμε κατόπιν ακριβώς στην ίδια του μορφή, ακόμα κι αν προσπαθήσουμε με όλες μας τις δυνάμεις; Αν η απάντηση είναι καταφατική και μπορούμε να το επανακατασκευάσουμε, τότε δεν διέθετε και δεν διαθέτει συνείδηση. Αν η απάντηση είναι αρνητική, τότε διέθετε συνείδηση· στην οποία περίπτωση βέβαια αποδειχτήκαμε και δολοφόνοι, εκτός από εξεταστές… Κι επειδή είναι εύκολο να παίξει κανείς με αυτά τα τεστ, ορίστε ένα ακόμα. Ας το πούμε the mind snatcher test. Το ερώτημα τώρα έχει ως εξής: είναι δυνατό να μπεις απολύτως μέσα στη σκέψη ενός πλάσματος, να ξέρεις τι σκέφτεται μέχρι την παραμικρή λεπτομέρεια; Για τα πραγματικά νοήμονα όντα, η απάντηση πρέπει να είναι αρνητική. Διαθέτουν πάντα έναν πυρήνα ανεξάλειπτης υποκειμενικότητας. Στην περίπτωση μιας α-νόητης μηχανής είναι πάντα δυνατό να εξετάσεις όλες τις εισόδους και τις εσωτερικές καταστάσεις και να καταλάβεις τι «σκέφτεται», όπως και να προβλέψεις πώς θα αντιδράσει.
[ επιστροφή ]

9 - Δυνατότητες αντίστασης πάντα θα υπάρχουν βέβαια. Το ζήτημα είναι από ποιο σημείο ξεκινά κάθε φορά η άμυνα και η αντεπίθεση και πόσα εδάφη θα έχουν παραχωρηθεί εν τω μεταξύ.
[ επιστροφή ]