#27 - 06/2023

το ερώτημα του παπαγάλου: πόσο μακρυά πετάει η νόηση;

Ένας άνθρωπος θεωρούμενος ως ο νονός της τεχνητής νοημοσύνης (ΑΙ) παραιτήθηκε απ’ την δουλειά του, προειδοποιώντας για τους αυξανόμενους κινδύνους εξαιτίας των εξελίξεων σ’ αυτόν τον τομέα.
Ο Geoffrey Hinton, 75 χρονών, ανακοίνωσε την παραίτησή του από την Google με μια δήλωσή του στους New York Times, λέγοντας ότι τώρα μετανοιώνει για την δουλειά του.
Είπε στο BBC ότι μερικοί απ’ τους κινδύνους των chatbots τεχνητής νοημοσύνης είναι “πολύ τρομακτικοί”. “Ως τώρα δεν είναι πιο έξυπνες [εννοεί τα συστήματα τεχνητής νοημοσύνης] από εμάς, απ’ όσο μπορώ να ξέρω. Αλλά νομίζω ότι σύντομα θα γίνουν”.
... Η πρωτοπόρα έρευνα του δρ. Hinton πάνω στα νευρωνικά δίκτυα και στην βαθιά μάθηση [: deep learning] άνοιξε τον δρόμο για τα τωρινά συστήματα τεχνητής νοημοσύνης, όπως το ChatGPT.

Η παραίτηση του Hinton (αν και αναγνώρισε ότι στα 75 του ήταν πια ο καιρός να βγει στη σύνταξη...), μαζί με τις δυσοίωνες ανησυχίες του, έκαναν τον διεθνή μηντιακό θόρυβο που τους αναλογούσε στις αρχές του Μάη 2023 - “ευτυχώς όχι στο χωριό μας”... Η “μετάνοιά” του πρόσθεσε μελόδραμα στις δυστοπικές προβλέψεις του για ένα κοντινό μέλλον όπου το είδος μας θα χειραγωγηθεί απ’ την τεχνητή νοημοσύνη - αν και τέτοιες “μετάνοιες” είναι συνηθισμένες μεταξύ των ειδικευμένων τεχνικών της πληροφορικής, και μάλλον δωρεάν: αν πράγματι συνεργάστηκαν σε κάτι τόσο επικίνδυνο, δεν τους περιμένει η μετά θάνατον κόλαση· ούτε όμως τρόπος να αποκαταστήσουν την ζημιά που προκάλεσαν. Συνεπώς οι “μετάνοιες” είναι δωρεάν αν όχι θεατρικές.

Ο Hinton δεν είναι ο μόνος “επώνυμος” ειδικός που ανησυχεί. Την ίδια χρονική περίοδο εκατομμύρια εξαρτημένων απ’ τον κυβερνοχώρο έχουν γοητευτεί απ’ τις δυνατότητες συστημάτων όπως το ChatGPT, έχοντας ανομολόγητα όχι μόνο παιδική περιέργεια (για το “τι είναι αυτό το καινούργιο που μπορώ να προσεγγίσω τόσο εύκολα;”) αλλά και μια έντονη παιδιάστικη προδιάθεση θαυμασμού για την τεχνολογία. “Παιδιάστικη” δεν σημαίνει όμως αθώα...
Εκείνο που δεν λέγεται, ούτε καν στο περιθώριο της γοητείας ή/και των δυστοπικών προβλέψεων, είναι το πως και γιατί η τεχνητή νοημόσυνη σερβιρίστηκε στην αγορά των ιντερνετικών επικοινωνιών τόσο απλόχερα· έτσι ώστε να χαρούν εκατομμύρια ενήλικα “παιδιά”. Το κινεζικό κράτος / κεφάλαιο χρησιμοποιεί τα τελευταία χρόνια εφαρμογές τεχνητής νοημοσύνης για την οργάνωση βιομηχανικής παραγωγής, για την οργάνωση ορυχείων, για στρατιωτικούς σκοπούς και για έρευνες σχετικές με το διάστημα. Σίγουρα πρόκειται για διαφορετικού τύπου εφαρμογές· ωστόσο δεν είναι για “μαζική κατανάλωση”.

Πως λοιπόν και γιατί το ChatGPT μπήκε τόσο εύκολα στις ζωές τόσων εκατομμυρίων με σκοπούς που δεν φαίνονται από πρώτη ματιά να έχουν υψηλή “προστιθέμενη αξία”; Είναι γνωστό ότι η microsoft (ιδιοκτήτρια του ChatGPT) θέλει να αξιοποιήσει την τεχνητή νοημοσύνη σαν εξοπλισμό “μηχανής αναζήτησης” στο internet, για να κτυπήσει την google που έχει σχεδόν μονοπώλιο σ’ αυτόν τον τομέα. Η εύρυθμη λειτουργία ενός τέτοιου συστήματος για αυτήν την χρήση απαιτεί την διαρκή συγκέντρωση άπειρου όγκου δεδομένων απ’ τους χρήστες· το πρώτο όφελος λοιπόν για την εταιρεία που θα κυριαρχήσει στη νέα αγορά της “πλοήγησης” στον κυβερνοχώρο είναι το εντονότερο φακέλωμα των χρηστών. Τα διαρκώς επικαιροποιούμενα ατομικά προφίλ που θα διαμορφωθούν έτσι θα εμπλουτιστούν ή/και θα εμπλουτίσουν άλλες (παρόμοιες) βάσεις δεδομένων... Συνεπώς οι παιδιάστικες αντιδράσεις στη συγκεκριμένη χρήση ταϊζουν το ψηφιακό πανοπτικό.

Έχει όμως σημασία και το “τυράκι” σ’ αυτή τη συγκεκριμένη φάκα. Τι είναι εκείνο που έκανε ξαφνικά τόσο δημοφιλή την τεχνητή νοημοσύνη; Είναι το ότι η μηχανή “μιλάει”, η μηχανή “σκέφτεται”, η μηχανή “είναι έξυπνη”. Προς το παρόν γραπτά αλλά σύντομα και προφορικά, με το κατάλληλο (κατ’ επιλογή του χρήστη / πελάτη) ηχόχρωμα. Η ανησυχία τύπων σαν τον Hinton περί των κινδύνων της “ευφυίας” της τεχνητής νοημοσύνης έγινε δυνατό να κοινωνικοποιηθεί μέσω των media ακριβώς επειδή η “επαφή” των υπηκόων με την τεχνητή νοημοσύνη έχει γίνει με τέτοιο τρόπο ώστε πολλοί να έχουν ήδη πεισθεί για την “ευφυία” της.

Στο προηγούμενο τεύχος ο Separatrix εξήγησε την δομή των συγκεκριμένων συστημάτων, των λεγόμενων μεγάλων γλωσσικών μοντέλων (large language models / LLM) [1“Τεχνητή νοημοσύνη”: Μεγάλα γλωσσικά μοντέλα στην εποχή των “πνευματικών” περιφράξεων - cyborg 26, Φλεβάρης 2023.]. Γράφει στην εισαγωγή της ανάλυσής του:

...Είναι σχεδόν βέβαιο ότι τα συγκεκριμένα συστήματα, που ανήκουν στην κατηγορία των λεγόμενων μεγάλων γλωσσικών μοντέλων (large language models), θα μπορούσαν να περάσουν με επιτυχία το περιβόητο τέστ του Turing, τουλάχιστον υπό την προϋπόθεση ότι ο διάλογος θα ήταν σχετικά σύντομος. Το ένα ζήτημα που προκύπτει εδώ αφορά στο κατά πόσον το τεστ του Turing είναι όντως κατάλληλο για να κρίνεται η όποια «νοημοσύνη» ενός συστήματος. Αυτή είναι η πιο «συμπεριφορική» πλευρά του θέματος· ασχολούμαστε με το πώς συμπεριφέρεται κάτι, ασχέτως του πώς φτάνει σε αυτήν τη συμπεριφορά. Ένα άλλο ζήτημα, ωστόσο, αφορά ακριβώς σε αυτό το «πώς», στην εσωτερική λειτουργία αυτών των γλωσσικών μοντέλων που τους επιτρέπει να διεξάγουν τόσο αληθοφανείς διαλόγους. Πέρα από την όποια αυταξία μπορεί να έχει μια τέτοια γνώση του «εσωτερικού κόσμου» αυτών των μοντέλων, σίγουρα βοηθάει και στην απομυθοποίησή τους. Το να προσφέρει κανείς ως εξήγηση φράσεις σαν «πρόκειται για μοντέλα που βασίζονται σε βαθιά νευρωνικά δίκτυα που χρησιμοποιούν μετασχηματιστές» μάλλον δεν χρησιμεύει ιδιαίτερα· αντιθέτως ίσως να εντείνει το αίσθημα το μυστηρίου. Για να γίνει καλύτερα κατανοητή η εσωτερική δομή τους, χρειάζεται να κάνει κανείς πρώτα λίγα βήματα πιο πίσω...

Θα ήταν απίθανο να αποδώσει ο μέσος χρήστης (του internet) “ευφυία” σε ένα τέτοιο σύστημα αν βρισκόταν μπροστά σε μια οθόνη σ’ ένα κέντρο ελέγχου ενός ορυχείου ή ενός λιμανιού εντελώς αυτοματοποιημένου μέσω εφαρμογών τεχνητής νοημοσύνης. Ενός συστήματος που θα κινούσε συγχρονισμένα και με αξιοπρόσεκτη ακρίβεια εκσκαφείς σε στοές, φορτωτές και φορτηγά· ή γερανογέφυρες, κοντέινερ, και φορτηγά. Μπροστά σε κάτι τέτοιο οι αυτοματισμοί θα ήταν ολοφάνεροι· καμία όμως απόδοση “ευφυίας” σ’ αυτούς.
Εν προκειμένω λοιπόν, σε παραδείγματα όπως το ChatGPT, και η πιο απλή κουβέντα ή παρατήρηση, παιδιάστικη φανερά ή όχι, περί μηχανικής “ευφυίας” (πάντα απ’ την μεριά του ανειδίκευτου κοινού) έχει άμεση σχέση με τον Λόγο. Το γεγονός ότι η μηχανή “μοιάζει να μιλάει”.
Ακόμα κι αν επρόκειτο για προπαγανδιστική εκστρατεία, ακόμα κι αν η τεχνητή νοημοσύνη με την προσιτή σε εκατομμύρια μορφή της ChatGPT ή οποιαδήποτε άλλη παρόμοια εμφανίστηκε στη δημόσια σφαίρα για να γοητεύσει / αποπλανήσει το κοινό επειδή ”μιλάει”, αυτή η υπόθεση έχει πολύ ψωμί. Η μηχανοποίηση της γλώσσας μπορεί να προκαλεί παιδιάστικο ενθουσιασμό· αλλά δεν είναι για παιδιά!

Η γλώσσα και η μηχανή

Σε μια απ’ αυτές τις αναλύσεις που φαίνεται ότι θα ανακαλυφθούν, αν ανακαλυφθούν, μάλλον απ’ τους μελλοντικούς αρχαιολόγους παρά απ’ τους σύγχρονους εργάτες και εργάτριες, γράφαμε μεταξύ άλλων: [2Η μηχανοποίηση της σκέψης - τετράδιο για εργατική χρήση νο 3, Σεπτέμβρης 2018.]

... Ο Wiener μπορεί να φαινόταν τολμηρός το 1950 όταν έγραφε ανάμεσα σε άλλα τα πιο κάτω· ήταν, όμως, ακριβής ως προς το τι ήταν ήδη το ζητούμενο:

... Συνήθως θεωρούμε ότι η επικοινωνία και η γλώσσα κατευθύνονται από πρόσωπο σε πρόσωπο. Όμως, είναι εξ ίσου δυνατό για ένα πρόσωπο να μιλήσει σε μια μηχανή, όσο και για μια μηχανή να μιλήσει σε ένα πρόσωπο, και μια μηχανή ναμιλήσει σε μια άλλη μηχανή...
... Με κάποια έννοια όλα τα συστήματα επικοινωνίας καταλήγουν σε μηχανές, αλλά τα κανονικά συστήματα γλώσσας καταλήγουν σε ένα μόνο είδος μηχανής, το γνωστό μας ανθρώπινο ον...
... Το ανθρώπινο ενδιαφέρον για τη γλώσσα φαίνεται να προέρχεται από ένα έμφυτο ενδιαφέρον στην κωδικοποίηση και στην αποκρυπτογράφηση... [3Κυβερνητική και κοινωνία, εκδ. Παπαζήση.]

Σ’ αυτό το χρονικό σημείο, στα μέσα του 20ου αιώνα, όπου η μηχανοποίηση των επικοινωνιών μεταξύ “ανθρώπων και μηχανών” και “μηχανών και μηχανών” έχει αναδειχθεί σε ένα καινούργιο και πολλά υποσχόμενο τεχνο-επιστημονικό πεδίο, και όπου η μηχανική διαχείριση της γλώσσας υπάγεται στη μηχανική διαχείριση της επικοινωνίας (με την “πληροφορία” σαν την καινούργια έννοια / θεά), δεν φαίνεται η σκέψη να αποτελεί ομολογημένο στόχο. Ο Taylor (ο ταιηλορικός Wiener) μοιάζει επικοινωνιο-λόγος.

Όμως ο Turing, συνεπής στην εξέλιξη του ταιηλορισμού σε καινούργια πεδία, υπήρξε λιγότερο μετριόφρων. Σ’ ένα 20σέλιδο κείμενό του, του 1950, με τίτλο υπολογιστικές μηχανές και ευφυία (computing machinery and intelligence) προτείνει αυτό:

1 - Το παιχνίδι της μίμησης

Προτείνω να εξετάσουμε το ερώτημα, “Μπορούν οι μηχανές να σκεφτούν;” Μια τέτοια έρευνα θα μπορούσε να ξεκινήσει με ορισμούς για το νοήμα των λέξεων “μηχανή” και “σκέψη”. Οι ορισμοί θα πρέπει να καθοριστούν με τέτοιο τρόπο ώστε να αντανακλούν, όσο περισσότερο είναι δυνατόν, την συνηθισμένη χρήση των λέξεων· αλλά μια τέτοια προσέγγιση θα ήταν επικίνδυνη. Αν το νόημα των λέξεων “μηχανή” και “σκέψη” πρόκειται να βρεθεί μέσα απ’ την έρευνα όπως χρησιμοποιούνται συνήθως, τότε θα είναι δύσκολο να αποφύγουμε το συμπέρασμα ότι το νόημα και η απάντηση στο ερώτημα “Μπορούν οι μηχανές να σκεφτούν” θα προκύψει μέσα από μια στατιστική καταγραφή, του είδους δειγματοληψία α λα Gallup. Όμως αυτό είναι άτοπο. Αντί να ψάξουμε, λοιπόν, με τέτοιο τρόπο ορισμούς θα αντικαταστήσω την ερώτηση με μια άλλη, που σχετίζεται στενά με την πρώτη, και μπορεί να διατυπωθεί με σχετικά σαφείς λέξεις.

Η καινούργια μορφή του προβλήματος μπορεί να περιγραφεί με τους όρους ενός παιχνιδιού, που το ονομάζω “παιχνίδι μίμησης”. Παίζεται με τρία άτομα, έναν άντρα (Α), μια γυναίκα (Β) και έναν “ανακριτή” (C) είτε του ενός είτε του άλλου φύλου.
Ο ανακριτής βρίσκεται σε ένα δωμάτιο χωριστά απ’ τους άλλους δύο. Ο σκοπός του παιχνιδιού είναι ο ανακριτής να καταλάβει ποιος απ’ τους άλλους δύο είναι ο άντρας και ποιος η γυναίκα. Κατ’ αρχήν τους ξέρει σαν Χ και Ψ, και στο τέλος του παιχνιδιού θα πρέπει να κάνει την αντιστοίχηση “Χ είναι Α και Υ είναι Β” ή “Χ είναι Α και Υ είναι Β”. Ο ανακριτής επιτρέπεται να κάνει ερωτήσεις του είδους:
C: Παρακαλώ τον/την Χ να μου πει το μήκος των μαλλιών του.

Ας υποθέσουμε ότι Χ είναι Α. Σκοπός του Α στο παιχνίδι είναι να προσπαθήσει να ξεγελάσει τον C, και να τον σπρώξει σε λάθος διαπίστωση. Η απάντησή του θα μπορούσε να είναι:

“Τα μαλλιά μου είναι ίσια και οι μακρύτερες τρίχες έχουν περίπου 10 πόντους μήκος”.

Για να μην βοηθηθεί ο C απ’ το ηχόχρωμα της φωνής, οι ερωτήσεις και οι απαντήσεις θα πρέπει να είναι γραπτές, ακόμα καλύτερα (για να μην υπάρχει γραφικός χαρακτήρας) σε γραφομηχανή.... Σκοπός του παιχνιδιού για τον τρίτο παίκτη (Β) είναι να βοηθήσει τον ανακριτή. Η καλύτερη στρατηγική απ’ την μεριά της είναι, ίσως, το να δίνει ειλικρινείς απαντήσεις. Μπορεί να γράψει ακόμα και “Εγώ είμαι η γυναίκα, μην τον ακούς!”, πράγμα που, όμως, δεν θα είναι πειστικό, αφού το ίδιο θα μπορεί να γράψει και ο άντρας (Α).

Τώρα κάνω την εξής ερώτηση: “Τι θα συμβεί αν μια μηχανή πάρει την θέση του Α σ’ αυτό το παιχνίδι; Η τελική γνώμη του ανακριτή θα είναι πιο λαθεμένη σ’ αυτήν την περίπτωση απ’ ότι αν το έπαιζε με δύο ανθρώπους, τον άντρα Α και την γυναίκα Β;” Αυτές είναι οι ερωτήσεις που αντικαθιστούν την αρχική, “Μπορούν οι μηχανές να σκεφτούν;”
...

Αυτή η έξυπνη μετατόπιση του ζητήματος της σκέψης των μηχανών, απ’ το ανθρωποκεντρικό Καρτεσιανό Cogito, ergo sum (Σκέφτομαι, άρα υπάρχω) στο μηχανοκεντρικό Credis me cogitare, ergo cogito (Πιστεύεις ότι σκέφτομαι, άρα σκέφτομαι), έχει μείνει στην ιστορία (και στην πράξη) σαν “test Turing”. Ωστόσο, είτε το είχε συνείδηση ο Turing είτε όχι, έχει σημαντικές προεκτάσεις. Δεν είναι παιχνίδι!

Η μετατόπιση που έκανε ο Turing είναι κομβική για το ζήτημα της τεχνητής νοημοσύνης και ειδικά για το πως μπορεί (ή και “πρέπει”...) να εννοηθεί απ’ την μεγάλη μάζα των υπηκόων.
Θα μπορούσαμε να διευρύνουμε το πεδίο του παιχνιδιού της μίμησης αφαιρώντας απ’ την διάταξη του Turing τα πρόσωπα Α, Β και C και βάζοντας δύο παπαγάλους της ράτσας african grey. Πρόκειται για το πιο “ομιλητικό” είδος παπαγάλου, μπορεί να μάθει να χρησιμοποιεί 500 ή ακόμα και 1000 λέξεις κάνοντας επιλογή χρήσης ανάμεσα σ’ αυτές ανάλογα με το τι ακούει (ή τι βλέπει) από έναν άνθρωπο, και επιπλέον μπορεί να μιμηθεί πολλούς άλλους ήχους, ακόμα και κατά παραγγελία. Αν του πει κάποιος “τραίνο” σφυρίζει σαν τραίνο· να το πει “αηδόνι” κελαηδάει. Μοιάζει ότι καταλαβαίνει το νόημα των λέξων “τραίνο” ή “αηδόνι”. Στην πραγματικότητα διακρίνει τον ήχο κάθε λέξης χωριστά.
Είναι πιθανό πως αν δύο τέτοιοι παπαγάλοι βρίσκονταν μαζί, κάποιοι στιγμή “θα άνοιγαν συζήτηση” μεταξύ τους, η οποία μάλιστα μπορεί να έβγαζε και (ανθρώπινο) νόημα αν είχαν τον ίδιο εκπαιδευτή και κοινό ρεπερτόριο λέξεων. Αλλά θα επρόκειτο για επίδειξη...
Σκέφτεται ένας καλά εκπαιδευμένος, ώριμος σε ηλικία, με πλούσιο λεξικόγιο, παπαγάλος african grey; Κάτι τέτοιο φαίνεται! Οπωσδήποτε το-κάτι-τέτοιο-φαίνεται είναι που εντυπωσιάζει οποιονδήποτε βρεθεί μπροστά του· κι αυτό είναι που διαφοροποιεί έντονα έναν ζωντανό, χρωματιστό παπαγάλο african grey από ένα κοινό μαγνητόφωνο.

Υπάρχει όμως στο δικό μας, το ανθρώπινο είδος, μια όλο και περισσότερο ογκούμενη παρανόηση - με - αιτίες: ότι η γλώσσσα και η σκέψη ταυτίζονται. Λάθος! Οι άνθρωποι που για διάφορους λόγους δεν μπορούν ή δεν θέλουν να μιλήσουν σκέφτονται (ενώ υπάρχουν αρκετοί που φλυαρούν χωρίς να σκέφτονται...). Ένας σιωπηλός άνθρωπος μπορεί να σκέφτεται. Ένας σιωπηλός παπαγάλος african grey επίσης. Ένα σύστημα LLM όχι, ακόμα κι αν τροφοδοτείται με δεδομένα.

African gray εναντίον ChatGPT: η σημασία δεν έχει σημασία

Εκείνο που έκαναν οι προγραμματιστές των LLM (μετά από πολύ δουλειά) ήταν να μετατρέψουν το ζήτημα της σημασίας σε πρόβλημα στατιστικής. Ή, για να το πούμε αλλιώς, μετέτρεψαν μια (οποιαδήποτε) πρόταση-με-νόημα, γραπτή ή προφορική, σε καταγραφή και “αντιγραφή” της συχνότητας με την οποία οι λέξεις αυτής της πρότασης εμφανίζονται με την συγκεκριμένη σειρά στο “ηλεκτρονικό αρχείο / αποθήκη” του συστήματος LLM.
Ο Separatrix στο κείμενο που μνημονεύσαμε νωρίτερα γράφει για τα LLM:

...Από καθαρά τεχνική άποψη... το σημαντικό είναι ότι τα επιτεύγματά τους βασίζονται καθαρά στην ανακάλυψη στατιστικών κανονικοτήτων μέσα στα κείμενα που έχουν ήδη datoποιηθεί. Όταν ένας χρήστης ζητάει από το ChatGPT “να γράψει μια ιστορία με τρεις παραγράφους με μάγους, νάνους, ξωτικά και ιππότες”, αυτό ανταποκρίνεται με επιτυχία (ίσως δίνοντας και πρωτότυπα ονόματα στους ήρωες) επειδή έχει ήδη καταναλώσει αντίστοιχα κείμενα, έχει φτιάξει ένα απόθεμα από κατάλληλες φράσεις (μαζί με το τι συνήθως προηγείται και ακολουθεί κάθε φράση) και μπορεί να τις ανακαλέσει, να τις συγκολλήσει και να τις ανασυνδυάσει με ποικίλους τρόπους.
Για να είναι πετυχημένη (δηλαδή αληθοφανής) αυτή η διαδικασία, προφανώς απαιτείται ένας τεράστιος όγκος κειμενικών δεδομένων για την εκπαίδευση των μοντέλων και τη δημιουργία ενός επαρκούς αποθεματικού τυποποιημένων φράσεων. Κάτι που με τη σειρά του συνεπάγεται ότι απαιτούνται και ογκώδη ... γλωσσικά μοντέλα, τέτοια που να διαθέτουν την κατάλληλη “χωρητικότητα” ώστε να αποθηκεύσουν πολλαπλούς συνδυασμούς από ακολουθίες λέξεων για να τις συνδυάζουν και να παράγουν την αίσθηση του πρωτότυπου...
... Τα νευρωνικά δίκτυα που βρίσκονται πίσω από τα γλωσσικά μοντέλα είναι οι “άρχοντες του παστις”. Αυτό που παράγουν είναι μεν ένα στατιστικό προϊόν, αλλά όχι ακριβώς τυχαίο, αν με την έννοια αυτή εννοεί κανείς ότι ακόμα κι ένας πίθηκος μπροστά σε μια γραφομηχανή ίσως τελικά μπορεί κάποια στιγμή να “γράψει” ένα ποιήμα του Μπόρχες. Ένα τέτοιο μοντέλο, σε αντίθεση με έναν πίθηκο που πατάει τυχαία πλήκτρα, δεν θα γράψει ποτέ μια τελείως ασυνάρτητη σειρά γραμμάτων (κάτι σαν “ψλομφ, γγφκπ, οειφμψα”), χωρίς όμως αυτό να σημαίνει ότι παράγει κείμενο κατόπιν “σκέψης”. Η έξοδός τους παράγεται καθαρά στατιστικά, μέσω κειμενικής κοπτοραπτικής. Η μεγάλη αληθοφάνεια των κειμένων τους οφείλεται ακριβώς στην υψηλή συνδυαστική ικανότητά τους.
Από την άλλη, αυτό είναι και ένα από τα αδύναμα σημεία τους. Εφόσον δεν διαθέτουν κάποια ικανότητα εκτέλεσης συλλογισμών, όταν διαπράττουν σφάλματα, αυτά συχνά είναι τερατώδη και παιδιάστικα: ο χρήστης ρωτάει “τι είναι αβρύτερο, ένα κιλό ατσάλι ή ένα κιλό βαμβάκι;” και το μοντέλο απαντάει με αυτοπεποίθηση και “επιχειρήματα” ότι φυσικά το ένα κιλό ατσάλι είναι βαρύτερο επειδή κάπου μέσα στα κείμενά που έχει καταναλώσει το ατσάλι πάντα θεωρείται βαρύτερο από το βαμβάκι...
(Το ίδιο λάθος θα έκαναν και πολλά ανθρώπινα όντα που δεν θα έδιναν προσοχή στο “ένα κιλό” αλλά στο ατσάλι και στο βαμβάκι....)

Είναι εξαιρετικά αμφίβολο αν ένας καλοεκπαιδευμένος παπαγάλος african grey, με πολύ μικρότερο ρεπερτόριο λέξων ή και μικρών προτάσεων, κάνει στατιστική συσχέτιση όταν “απαντάει” σε συγκεκριμένες ερωτήσεις / ηχητικά ερεθίσματα. Οπωσδήποτε όμως κάνει μια συσχέτιση. Όχι νοημάτων· ήχων. Απ’ αυτή την άποψη θα ήταν δίκαιο να θεωρηθεί εξυπνότερος (εντός ή εκτός εισαγωγικών) ακόμα κι απ’ το τελειότερο σύστημα LLM. Δεν έχει όμως ελπίδα να ανταγωνιστεί την τεχνητή νοημοσύνη σε κανένα πεδίο. Ούτε, φυσικά, να απειλήσει το ανθρώπινο είδος - αν και μπορεί να κάνει κι άλλα πράγματα εκτός από το να μιλάει: μπορεί να σου “δαγκώσει” δυνατά το δάκτυλο...

Έχουμε, λοιπόν, να κάνουμε με “λεκτικές μηχανές”, μηχανές τόσο σύνθετες στην κατασκευή τους ώστε να “παίζουν” scrabble με προτάσεις, αρκεί να έχουν απέναντί τους κάποιον ακόμα, είτε ανθρώπινο ον είτε λεκτική μηχανή. Πάντα αποκρίνονται, “απαντούν”. Πριν έναν αιώνα αν κάποιος έφτανε μπροστά σε μια πόρτα που θα άνοιγε μπροστά του “μόνη της”, θα θεωρούσε ότι συμβαίνει κάτι “μαγικό”. Σήμερα ξέρουμε (έστω στοιχειωδώς...) πως ηλεκτρικοί αισθητήρες κίνησης μπορούν να ανάψουν τα φώτα ή να ανοίξουν μια πόρτα χωρίς να ακουμπήσει κάποιος το πόμολο ή τον διακόπτη. Τίποτα “μαγικό”. Και τίποτα “έξυπνο”.
Γιατί, λοιπόν, γίνεται λόγος περί “νοημοσύνης” σε ότι αφορά τα μηχανικά συστήματα μεγάλων γλωσσικών μοντέλων; Γιατί τους αποδίδεται “ευφυία”, έστω με την προσθήκη του χαρακτηρισμού “τεχνητή”, που δεν μειώνει την “ευφυία” τους (έννοια εξαιρετικά αόριστη έτσι κι αλλιώς...) σαν τέτοια αλλά, μάλλον, της αναγνωρίζει την δυνατότητα της απεριόριστης βελτίωσης;
Εν τέλει: αν υπάρχει κάτι όντως προβληματικό (ίσως και απειλητικό) με τις “λεκτικές μηχανές” είναι η ψευδεπίγραφη “νοημοσύνη” τους; Ή κάτι άλλο;

The Eliza effect (το φαινόμενο Eliza)

Β: Υπάρχει κάτι που σε ταλαιπωρεί;
Α: Όλοι οι άνδρες είναι ίδιοι.
Β: Τι σχέση νομίζεις ότι έχει;
Α: Μας ενοχλούν συνέχεια πότε για το ένα, πότε για το άλλο.
Β: Μπορείς να σκεφτείς ένα συγκεκριμένο παράδειγμα;
Α: Λοιπόν, ο φίλος μου μου είπε να έρθω εδώ.
Β: Σου είπε κάτι τέτοιο ο φίλος σου;
Α: Λέει ότι τον περισσότερο καιρό είμαι σε κατάθλιψη.
Β: Λυπάμαι που ακούω ότι έχεις κατάθλιψη.
Α: Είναι αλήθεια. Δεν χαίρομαι.
Β: Πιστεύεις ότι με το να έρθεις εδώ θα βοηθηθείς να χαίρεσαι;

Αυτός ο μικρός διάλογος φαίνεται φυσιολογικός, μεταξύ δύο ανθρώπων· εύλογα ο ένας (ο B) δείχνει να είναι κάτι σαν ψυχολόγος. Αλλά δεν είναι. Ο Β είναι ένα από τα πρώτα ηλεκτρονικά chatbot, “εφαρμογές διαλόγου με μηχανή”... από το μακρινό 1966. Ο προγραμματιστής του MIT που το κατασκεύασε (Joseph Weizenbaum) “προίκισε” το chatbot με λεκτικά data ψυχοθεραπείας. Αυτό σημαίνει ότι κάθε ένας και καθεμιά που “έπιασε κουβέντα” με το chatbot Eliza, σα να λέμε το ανθρώπινο μέρος αυτής της “διάδρασης - μέσω - γραπτού - κειμένου”, ήταν κατά κάποιον τρόπο καταβεβλημένο, πεπεισμένο ότι έχει κάποιο “πρόβλημα” ψυχολογικού είδους. Είτε προς έκπληξη της ομάδας του Weizenbaum είτε όχι προέκυψε ότι οι “πελάτες” της Eliza εκδήλωναν συναισθηματική αντίδραση και απόδοση στη μηχανή ανθρώπινων χαρακτηριστικών. “Δεν είχα σκεφτεί εκ των προτέρων ... ότι ακόμα και σύντομη έκθεση σ’ ένα τέτοιο σχετικά απλό υπολογιστικό πρόγραμμα θα προκαλούσε ισχυρή ψευδαισθησιακή σκέψη σε αρκετά φυσιολογικούς ανθρώπους” παρατήρησε αργότερα ο Weizenbaum.

Ο όρος “Eliza effect” καθιερώθηκε έκτοτε ως αναφορά σ’ εκείνο που ονομάστηκε τάση ανθρωποποίησης των υπολογιστών αν οι χρήστες τους κρίνουν ότι οι “συμπεριφορά” τους μοιάζει με ανθρώπινη. Αυτή η “τάση” αξιοποιήθηκε στη συνέχεια ιδιαίτερα απ’ τους μηχανικούς τεχνητής νοημοσύνης: το να περάσουν (σκέφτηκαν) το γνωστό “Turing test” είναι μάλλον ζήτημα πετυχημένης παραπλάνησης παρά τεχνικής ακρίβειας. Credis me cogitare, ergo cogito...
Αυτό ήταν όμως ένα μάλλον ιδιοτελές έως δόλιο συμπέρασμα. Υπάρχει, πράγματι, μια τέτοια “τάση”· που είναι αντίστροφα ανάλογη με την μέση κοινωνική γνώση, εμπειρία, εξοικείωση ως προς το τι μπορούν-να-κάνουν οι ηλεκτρονικές μηχανές “αλληλεπιδρώντας” με τους χρήστες τους: πολλά προγράμματα διάφορων χρήσεων βγάζουν πλέον τακτικά (γραπτές) ερωτήσεις προς τους χρήστες τους σε σχέση με την συνέχεια των ενεργειών τους· αλλά αυτό ούτε μηχανική “ευφυία” θεωρείται, ούτε υπόνοια “ανθρώπινης συμπεριφοράς”.

Το “φαινόμενο Eliza”, η “ανθρωποποίηση” δηλαδή μηχανικών λειτουργιών, δεν ήταν λοιπόν (ούτε είναι) ένα είδος έμφυτου ανιμισμού του ανθρώπινου είδους, παρότι υπάρχουν πράγματι πολιτιστικές συνθήκες και ιδέες που αποδίδουν στα πάντα, ακόμα και στα άψυχα (και όχι μόνο στις μηχανές) ψυχή, πνεύμα, ή “ιερές δυνάμεις”· όπως ο ιαπωνικός σιντοϊσμός.
Αντίθετα μια τέτοια ανθρωποποίηση-του-μηχανικού θα μπορούσε να είναι στόχος, ιδεολογικό (και όχι μόνο) ζητούμενο των ιδιοκτητών και των κατασκευαστών τέτοιων μηχανών. Ακριβώς! Περί αυτού πρόκειται! Έτσι συμβαίνει απ’ τις απαρχές της καπιταλιστικής ανάπτυξης!! Νωρίς νωρίς στη διαδρομή αυτού εδώ του περιοδικού γράφαμε σχετικά μεταξύ άλλων [4Cyborg 2, άνοιξη 2015, Το πιστόνι, ο εργάτης, ο γάτζος: ανατομία των cyborg προγόνων.]:

Στις αρχές του 19ου αιώνα, όταν το πρώτο κύμα της μηχανοποίησης (μέσω της καθιέρωσης της ατμομηχανής) είχε αρχίσει να απλώνεται στα αγγλικά υφαντουργεία, ο Andrew Ure, καθηγητής στο πανεπιστήμιο της Γλασκώβης, έγινε διάσημος υποστηρίζοντας δημόσια την μεταφορά της ανθρώπινης σκέψης σε σιδερένιες μηχανές, ώστε να μορφοποιηθεί ένας αυτοκινούμενος μηχανισμός που θα μεγαλώνει και θα μαθαίνει. Ο Ure, εντυπωσιασμένος από μια αυτόματη κλωστική μηχανή που είχε κατασκευάσει το 1824 ο μηχανικός και εφευρέτης Richard Roberts, πανηγύριζε για τις μηχανές που είναι προικισμένες με την σκέψη, την αίσθηση και την προσοχή ενός πεπειραμένου τεχνίτη. Ο Ure ονόμασε τέτοιου είδους μηχανές, που τις φανταζόταν να αντικαθιστούν ή να πειθαρχούν την ανθρώπινη εργασία στα υφαντουργεία (και μελλοντικά σε όλο και περισσότερους τομείς) δανειζόμενος μια αρχαιοελληνική λέξη: ανδροειδή(androids)... Στην κλωστική μηχανή του Roberts ο Ure έβλεπε πολύ περισσότερα από ένα μηχάνημα. Έβλεπε τον επερχόμενο “σιδερένιο άνθρωπο”: ο σιδερένιος άνθρωπος, προέκυψε απ’ τα χέρια του σύγχρονου Προμηθέα [του Roberts] - και είναι ένα πλάσμα προορισμένο να αποκαταστήσει την ομαλότητα και την ειρήνη στις βιομηχανικές τάξεις και να κάνει την Μεγάλη Βρετανία αυτοκρατορία των τεχνολογιών.

Όχι μόνο για τον Ure αλλά και το αυξανόμενο πλήθος των υποστηρικτών των τότε “νέων τεχνικών”, στο πρώτο μισό του 19ου αιώνα, οι αυτοκινούμενες μηχανές έδειχναν το ίδιο έξυπνες με τους τεχνίτες που αντικαθιστούσαν. Η διάκριση μεταξύ ανθρώπινου και μηχανικού ξεπερνιόταν· και, εφόσον οι μηχανές θεωρούνταν σαν ζωντανά όντα, οι άνθρωποι θα ήταν εύλογο να θεωρούνται ζωντανές μηχανές. Έμοιαζε ότι η ιδέα του χρονικά προγενέστερου κατά δύο σχεδόν αιώνες Descartes γινόταν πια πραγματικότητα: ο Descartes θεωρούσε ότι τα οργανικά σώματα υπάγονται στους ίδιους φυσικούς νόμους με κάθε άλλο ανόργανο πράγμα στη φύση. Φυσικά ο Descartes δεν ταύτιζε απόλυτα το μηχανικό με το έμβιο και το ανθρώπινο: η διαφορά, υποστήριζε, είναι η ψυχή. Αρχικά συνεπείς σ’ αυτό που στη συνέχεια θα θεωρούνταν λεπτομέρεια, οι βιομηχανιστές του 19ου αιώνα μπορούσαν να αποδόσουν όλα τα κύρια χαρακτηριστικά της ανθρώπινης δραστηριότητας σε κατά βάση μηχανικές λειτουργίες, που θα μπορούσαν να μορφοποιηθούν αποτελεσματικά “χωρίς ψυχή”.

Εκείνο που αποδείκνυε πέρα από κάθε αμφιβολία ότι η σύζευξη μηχανικού / τεχνητού και ανθρώπινου δεν είναι μόνο επιθυμητή αλλά και αποτελεσματική, ήταν η δυνατότητα (κι αυτή των αρχών του 19ου αιώνα) τεχνητών μελών για τα ανθρώπινα σώματα: ξύλινων ποδιών ή σιδερένιων γάτζων στα χέρια. Ειδικά τα ξύλινα πόδια άρχισαν να χρησιμοποιούνται όλο και περισσότερο εξαιτίας των επίσης συχνών εργατικών ατυχημάτων λόγω της καθιέρωσης των νέων μηχανών, πρώτα στα υφαντουργεία και ύστερα αλλού. Εκείνοι οι πρώιμοι cyborgs (πιο σωστά: machorgs) έγιναν αντικείμενο μιας κάπως άβολης αλλά αισιόδοξης συνηγορίας εκ μέρους του Ure: η προσθήκη εργαλείων στη θέση των ανθρώπινων χεριών ... που γίνεται για να βοηθήσει την δουλειά εκείνων που είναι αδικημένοι απ’ τη φύση ή έχουν υποστεί κάποιο ατύχημα, όπως επίσης και η προσθήκη ξύλινων ποδιών, επιτρέπει στους εργάτες να κάνουν τη δουλειά τους με ακρίβεια, παρότι δουλεύουν με το μειονέκτημα της απώλειας ενός χεριού ή ποδιού.

...Η αναμόρφωση της ιδέας περί ανθρώπου (: ουσιαστικά περί εργάτη...) στη βάση των προδιαγραφών των μηχανών, άλλαξε και το ρεπερτόριο της πειθαρχίας μέσα στα εργοστάσια. Στην πρώτη φάση το πρόβλημα ήταν να πειθαρχήσουν οι εργάτες και οι εργάτριες που ήταν αγρότες και είχαν μια “ηλιακή” και “εποχιακή” αίσθηση του χρόνου, στο ρολόι και στην απαίτηση διαρκούς και έντονης / εντατικής προσοχής στις μηχανές. Αλλά με την αναλογία του ανθρώπινου και του μηχανικού, το πρόβλημα της ανθρώπινης παραγωγικότητας άρχισε να μετατρέπεται σταδιακά σε πρόβλημα συντήρησης και καλύτερης εκμετάλλευσης της “ανθρώπινης ενέργειας”. Το ζητούμενο άρχισε να παίρνει την μορφή της αναζήτησης της μέγιστης απόδοσης με κριτήρια την σχέση ενέργειας / έργου ανά μονάδα χρόνου.

...O Ure και οι υπόλοιποι βιομηχανιστές είδαν στην εξάπλωση του πρώτου κύματος μηχανοποίησης εκείνο που τους συνέφερε: την υπαγωγή, την προσάρτηση της ανθρώπινης εργασίας στη μηχανή· την απαλλοτρίωση της ζωντανής εργασίας απ’ τις μηχανές. Η σύμπλεξη γινόταν, κατά τη γνώμη τους, τόσο στη μικρή κλίμακα (σε κάθε ατομική δουλειά) όσο και συνολικά: το εργοστάσιο γινόταν το γενικό ιδεώδες του machorg, το πρότυπο της επωφελούς για τους εργοδότες προόδου.

Παρότι σε εποχές σαν την τωρινή η ιστορία είναι αδιάφορη (όταν δεν έχει διαστραφεί...) υπάρχουν εδώ σημαντικά μαθήματα - (και) για την τεχνητή νοημοσύνη.

Μάθημα πρώτο: η “ανθρωποποίηση - του - μηχανικού” που αυτούς τους καιρούς, σε ότι αφορά την “τεχνητή νοημοσύνη”, έχει δώσει τροφή για έρευνες, δημοσιεύσεις, ορολογίες και διδακτορικά σε κάμποσους “ειδικούς” της ψυχολογίας, της κοινωνιολογίας, κλπ είναι σύμφυτη με συγκεκριμένες καπιταλιστικές ιστορικές περιόδους. Κυρίως όταν εμφανίζονται σε δημόσια θέα ή/και χρήση τεχνολογίες και εφαρμογές (δηλαδή “μηχανές” με την ευρεία έννοια της λέξης) που πριν ήταν άγνωστες.

Μάθημα δεύτερο: η “ανθρωποποίηση - του - μηχανικού” ΔΕΝ είναι η “αυτόματη” αντίδραση του ανειδίκευτου είδους μας απέναντι στις κάθε φορά καινούργιες μηχανές! Υπάρχει μια άλλη αντίδραση που υπό ορισμένες συνθήκες θα ήταν η πιο φυσιολογική: ο εντυπωσιασμός και η γρήγορη, ενστικτώδης αντίληψη ότι πρόκειται για κάτι το μηχανικό! Απόδειξη εδώ είναι το πως αντιμετωπίζονταν τα ασύλληπτης σήμερα τέχνης και μηχανικής τεχνικής αυτόματα στην ευρώπη (και αργότερα την ίδια περίπου εποχή στην κίνα), τον 14ο, τον 15ο, τον 16ο αιώνα. Αυτόματα που είχαν μορφή είτε ζώων είτε και ανθρώπων.
Το ιστορικό (κοινωνικό, ιδεολογικό, πολιτισμικό) “πλαίσιο” υπερκαθορίζει το αν η μηχανική αντιγραφή ανθρώπινων χαρακτηριστικών θα οδηγήσει στην “ανθρωποποίηση” τους ή όχι! Οι κατασκευαστές εκείνων των αυτόματων (μαστόρια που έβγαζαν κυριολεκτικά τα μάτια τους κατασκευάζοντας ωρολογιακούς μηχανισμούς που αντέγραφαν ακόμα και τις πιο σύνθετες κινήσεις...) και οι ιδιοκτήτες τους (παλατιανοί αλλά και η ανερχόμενη εμπορική / αστική τάξη) δεν επεδίωκαν με τα αυτόματα να νουθετήσουν ή να πλαστογραφήσουν τους υποτελείς τους: ουσιαστικά αυτά τα αριστουργήματα βρίσκονταν εκτός θέας των μαζών...
Οι “ορισμένες συνθήκες” είναι λοιπόν η απουσία (ή/και κριτική) της καπιταλιστικής μυθολογίας!

Μάθημα τρίτο: η “ανθρωποποίηση - του - μηχανικού” επιβάλλεται, προβάλλεται, “διδάσκεται”! Την εποχή του Ure, εποχή πολύ περιορισμένης εγγραμματοσύνης, αυτή η “ανθρωποποίηση” ήταν δουλειά των “φιλοσόφων”, των διανοούμενων (του βιομηχανισμού), με αποδέκτες ουσιαστικά τις ανώτερες τάξεις. Όχι για να νοιώσουν αυτές οι ίδιες τον κίνδυνο της υποκατάστασής τους από “σιδερένιους ανθρώπους”! Αλλά για να προχωρήσουν στην υιοθέτηση των σχετικών κατασκευών στις δουλειές τους - σε βάρος της πλέμπας...
Ωστόσο είτε άμεσα είτε έμμεσα αυτή η “ανθρωποποίηση” - και ο 19ο αιώνας είναι το all time manual της - είχε στόχο αφενός την υπεξαίρεση ανθρώπινων χαρακτηριστικών και ιδιοτήτων (για λογαριασμό των ιδιοκτητών των μηχανών), αφετέρου την πειθάρχηση εκείνων των κοινωνικών υποκειμένων που θα έπρεπε να νοιώσουν υποδεέστερα απ’ τις όποιες μηχανές.

Μάθημα τέταρτο: η υπεξαίρεση / υποκατάσταση ανθρώπινων χαρακτηριστικών, ή πιο σωστά: η δημιουργία ενός διανοητικού / ιδεολογικού περιβάλλοντος που να υποδεικνύει ότι το α ή το β ανθρώπινο χαρακτηριστικό έχει μειωμένη (κοινωνική...) αξία εφόσον μπορεί να αντικατασταθεί από μηχανικό έργο, και ότι αυτό μπορεί και πρέπει να γίνει “για καλούς σκοπούς”, αυτή λοιπόν η διαδικασία ΔΕΝ είναι πάρεργο της “ανθρωποποίησης - του - μηχανικού”! Είναι, αντίθετα, ο πραγματικός στόχος της.

Χάρη σ’ αυτά τα ιστορικά μαθήματα και μέσα απ’ αυτά μπορούμε τώρα να κρίνουμε την “τεχνητή νοημοσύνη” με σωστό τρόπο. Και πρώτα απ’ όλα: ποιός χαρακτήρισε, ονόμασε “νοημοσύνη” την (ηλεκτρομηχανική) στατιστική ταξινόμηση του οτιδήποτε (εν προκειμένω λέξεων και φράσεων που έχουν μετατραπεί σε αλληλουχίες 0 και 1); Και ύστερα: γιατί;

Η μηχανή έχει σημασία

Είναι ο θρυλικός Turing που εισηγήθηκε για πρώτη φορά την intelligence ως δυνατότητα της computing machinery - στο 20σέλιδο κείμενο που μνημονεύσαμε πιο πάνω. Πρόκειται για μια καταπληκτική παρουσίαση σε ότι αφορά ειδικά την κατηγορηματικότητά της, απόδειξη της ευφυίας του Turing: απαντούσε προκαταβολικά και συστηματικά σε όλες τις ενστάσεις απέναντι στη δυνατότητα “της μηχανής να σκεφτεί” - τον Οκτώβρη του 1950. Ή, εν πάσει περιπτώσει, απαντούσε σ’ όλες τις ενστάσεις που υπέθετε, φανταζόταν, εκτιμούσε ότι θα υπερασπίζονταν την σκέψη ως αποκλειστικά ανθρώπινη δυνατότητα.
Ταυτόχρονα όμως αποκάλυπτε μια θέση που θα μπορούσε να θεωρηθεί πολιτική αν δεν ήταν για τον ίδιο κάτι πολύ περισσότερο: υπαρξιακή! Η μηχανή την οποία είχε κατά νου (και σημειώστε το αυτό: κατά νου!) ο Turing, μηχανή που ήταν θεωρητική σύλληψή του, μηχανή που δεν υπήρχε την στιγμή που μιλούσε, μηχανή για την οποία προέβλεπε ότι σε 50 χρόνια θα υπάρχει, αυτή λοιπόν η ψηφιακή, υπολογιστική μηχανή έπρεπε να μιμηθεί την ανθρώπινη σκέψη· “έπρεπε να σκέφτεται”! Που σημαίνει: να είναι πρακτικά πειστική σε ανθρώπινα όντα ότι σκέφτεται.

Θεωρούμε χαρακτηριστικό αυτό το απόσπασμα της σκέψης Turing απ’ το computing machinery and intelligence [5Διαθέσιμο στο https://academic.oup.com/mind/article/LIX/236/433/986238].

...Θα απλοποιήσω τα πράγματα για τον αναγνώστη εξηγώντας τις δικές μου πεποιθήσεις για το ερώτημα “μπορούν οι μηχανές να σκεφτούν;”... Πιστεύω ότι σε περίπου πενήντα χρόνια θα είναι δυνατός ο προγραμματισμός υπολογιστών με χωρητικότητα αποθήκευσης περίπου 109, ώστε να παίζουν το παιχνίδι της μίμησης τόσο καλά που ένας μέσος ανακριτής να μην έχει περισσότερες από 70% πιθανότητες να κάνει την σωστή αναγνώριση ύστερα από πέντε λεπτά έρευνας.
Η αρχική ερώτηση “μπορεί οι μηχανές να σκεφτούν;” πιστεύω ότι είναι πολύ ανούσια ώστε να αξίζει συζήτηση. Παρ’ όλα αυτά πιστεύω ότι στο τέλος του αιώνα η χρήση των λέξεων και η γενικά μορφωμένη κοινή γνώμη θα έχουν αλλάξει τόσο πολύ ώστε κάποιος θα μπορεί να μιλάει για την σκέψη των μηχανών χωρίς να προκαλεί αντιδράσεις. Πιστεύω επίσης ότι δεν υπάρχει κάποια χρησιμότητα στο να κρυφτούν πεποιθήσεις σαν αυτήν...

Εκτός απ’ την εξέλιξη των υπολογιστικών μηχανών, θα ήταν ο μετασχηματισμός των κοινωνικών αντιλήψεων ως το τέλος του 20ου αιώνα που θα επιβεβαίωνε ότι “ναι, οι μηχανές σκέφτονται” - τέτοια ήταν η πρόβλεψη του Turing. Η απάντηση θα δινόταν τελικά μέσω του ξεπεράσματος της ερώτησης...
Αλλά γιατί ένας άνθρωπος τέτοιας ανθρώπινης ευφυίας να διεκδικεί την ικανότητα της “μηχανικής ευφυίας”, πενήντα χρόνια πριν αυτή αναγνωριστεί σύμφωνα με τις δικές του προβλέψεις;
Δώσαμε την απάντηση [6Sarajevo νο 81, Φλεβάρης 2014, Η άφεση των αμαρτιών του Turing.]:

το πένθος και η σκέψη

Σε αντίθεση με τους προηγούμενους που, από πολλές απόψεις, θεωρούνται σα να ανήκουν στην τεχνοεπιστημονική προϊστορία, ο Alan Turing είναι ακόμα ένας θρύλος· το ομώνυνο τεστ, το “τεστ Turing”, εξακολουθεί να γίνεται σαν μέτρο των εξελίξεων στην τεχνητή νοημοσύνη.
Και ήταν, πράγματι, η νοημοσύνη, σαν ηθικο-φιλοσοφικό ερώτημα κατ’ αρχήν, που προσδιόρισε την διαδρομή του Turing:

...
Ο βιογράφος του Turing Andrew Hodges σημειώνει ότι στα παιδικά του χρόνια δεν έδειχνε κάποιο ενδιαφέρον γι’ αυτό που λεγόταν “επιστήμη”, εκτός ίσως από μια περιέργεια για την χημεία. Το σημείο καμπής ήταν η πολύ έντονη φιλική του σχέση, στα 16 του, με τον κατά ένα χρόνο μεγαλύτερο συμμαθητή του Christofer Morcom, απ’ το 1928 ως τον ξαφνικό θάνατο του Morcom στις αρχές του 1930. Ο Turing αγάπησε και θαύμασε στον Morcom και την εξυπνάδα του, έτσι ώστε μετά τον θάνατό του άρχισε να νοιώθει το βασανιστικό αίσθημα ότι θα πρέπει να κάνει (και να σκεφτεί) τα όσα δεν πρόλαβε να σκεφτείκαι να κάνει ο φίλος του.
Αυτό το αίσθημα τον έριξε σε μια υπαρξιακή μελαγχολία για τρία χρόνια. Όπως προκύπτει απ’ την αλληλογραφία του με την μάνα του Morcom ένα απ’ αυτά που τον βασάνιζαν ήταν η σχέση του ανθρώπινου μυαλού, και ειδικά του μυαλού του Christofer, με την ύλη· το πως “αποτυπώνεται” υλικά η σκέψη και η λογική· και το πως θα ήταν δυνατόν οι σκέψεις του Christofer να απελευθερωθούν απ’ το υλικό του μυαλού του, αφού ήταν πια νεκρός.
Σκέψεις και αγωνίες ενός μακρόσυρτου πένθους - θα πει κάποιος. Όμως αυτές οι αναρωτήσεις ήταν που ώθησαν τον φοιτητή Turing στη φυσική του 20ου αιώνα, ειδικά στην κβαντομηχανική θεωρία, και στον τρόπο που αυτή η θεωρία αντιμετώπιζε το παραδοσιακό πρόβλημα της σχέσης της νόησης με την ύλη. Πρώτα έπεσε με τα μούτρα στις σελίδες του βιβλίου του A. S. Eddington The Nature of the Physical World. Ύστερα, διαβάζοντας την “φρέσκια” δουλειά του von Neumann περί των λογικών θεμελίων της κβαντικής μηχανικής, η συναισθηματική του κατάσταση άρχισε να βρίσκει μια στοιβαρή διανοητική βάση. Η ανακούφιση της δυνατότητας ή και της προοπτικής για λογική θεμελίωση της σχέσης ανάμεσα στην σκέψη και στην υλική της αποτύπωση ή καταγραφή, εκείνη την ίδια χρονιά, το 1932, απελευθέρωσε τον Turing κι απ’ την αυτοενοχοποίηση για τις ερωτικές του προτιμήσεις. Από τότε και μετά θα συμφιλιωνόταν με την ομοφυλοφιλία του.
...

Παρότι γνωστός ήδη στους κύκλους των μαθηματικών από προηγούμενες εργασίες του ο Turing “άλλαξε πίστα” όταν παρουσίασε τη “γενική λογική” λειτουργίας μιας μηχανής που θα μπορούσε να κάνει εξαιρετικά σύνθετους υπολογισμούς· και να βγάζει συμπεράσματα σε οτιδήποτε θα μπορούσε να “μεταγλωτιστεί” σε υπολογιστική διαδικασία. Η ιδέα του ήταν απάντηση σε ένα απ’ τα (23) ερωτήματα που είχε θέσει στην παγκόσμια μαθηματική κοινότητα ο διάσημος γερμανός μαθηματικός Hilbert, στο διεθνές συνέδριο στο Παρίσι το 1900, το λεγόμενο πρόβλημα απόφασης.

Η σχέση, η αναλογία, εν τέλει η ομοιότητα ανάμεσα στη ζωντανή σκέψη και στη νεκρή, με “αποθηκευμένη” μνήμη, αλλά παρ’ όλα αυτά παραγωγική μίμησή της, ήταν για τον Turing ένα υπαρξιακό ζήτημα που ξεκίνησε απ’ την αγάπη και τον θαυμασμό του για τον φίλο του.

Δεν “ψυχολογικοποιούμε” την αφετηρία της ιδέας περί απόδοσης στις μηχανές ευφυίας, νοημοσύνης! Μάλλον το αντίθετο: η κατηγορηματικότητα (του Turing) ότι αυτή η σχέση - αναλογία - ομοιότητα ανάμεσα στη ζωντανή σκέψη και στη μηχανική μίμησή της μπορεί και πρέπει να υπάρξει, πολύ μακρύτερα απ’ τις τεχνικές του γνώσεις και τις θεωρητικές του δυνατότητες, ταίριαζε γάντι στη βασική καπιταλιστική λειτουργία “υποκατάστασης” της ζωντανής εργασίας από την νεκρή, μηχανική λειτουργία· εννοημένη σαν πάγιο κεφάλαιο, ιδιοκτησίας του αφεντικού! Προφανώς αυτό ο Turing το καταλάβαινε καλά: το 1950 είχε ξεκινήσει ο λεγόμενος “ψυχρός πόλεμος” (στη δική μας “μέτρηση” ο 3ος παγκόσμιος) και ο Turing ήταν ήδη ένα απ’ τα λαμπρότερα αστέρια στο τεχνοεπιστημονικό στερέωμα της μεγάλης βρετανίας.

Παρά την εμβληματική θέση του στην ιστορία των υπολογιστών και της κυβερνητικής, ο Turing δεν ήταν ο μόνος που εννοούσε σκεπτόμενες μηχανές. Το 1949 ο αμερικάνος Edmund Callis Berkeley, μηχανικός υπολογιστών, εξέδωσε ένα βιβλίο 300 σελίδων με τίτλο Γιγάντιοι Υπολογιστές ή Μηχανές που Σκέφτονται (Giant Brains, or Machines that Think)... Το 1955 ο αμερικάνος μαθηματικός John McCarthy πρότεινε (και καθιέρωσε) τον όρο τεχνητή νοημοσύνη... Εν τέλει η χρήση του όρου “εγκέφαλος” για τις εξελισσόμενες ηλεκτρικές υπολογιστικές μηχανές έγινε κοινότοπη επειδή προβλήθηκε (με διάφορους τρόπους) “απ’ τα πάνω”. Απ’ τους τεχνικούς, τα ιδρύματα, τις πρώτες εταιρείες πληροφορικής.

Πολύ πριν, λοιπόν, κάποιοι “δημιουργήσουν” το Eliza effect και πολύ πριν (με αυτό σαν σημαία...) η ανθρωποποίηση - της - μηχανής αποδοθεί στο ευρύ κοινό· πολύ πριν καν και καν αυτό το “ευρύ κοινό” έρθει σε άμεση επαφή με μηχανές τέτοιας κατασκευαστικής συνθετότητας ώστε να μιμούνται, έστω και πρωτόλεια, οτιδήποτε θα μπορούσε να εννοηθεί σαν “σκέψη”, η ανθρωποποίηση είναι “κατασκευαστεί” απ’ τους ίδιους τους τεχνικούς και το σύνολο των προπαγανδιστικών μηχανισμών που ήταν σε λειτουργία απ’ τα μέσα του 20ου αιώνα και μετά!

Πρόκειται σήμερα για τον ίδιο ακριβώς πολιτικό χειρισμό όπως στην αφετηρία της 1ης βιομηχανικής επανάστασης! Kαι με τον ίδιο ακριβώς στόχο: εκείνο που George Caffetzis χαρακτήρισε ένοπλη παρέλαση του κεφάλαιου - μέσω της επίδειξης των μηχανών του και των δυνατοτήτων τους [7George Caffetzis Γιατί οι μηχανές δεν παράγουν αξία.]:

...Οι μεγάλες βιομηχανικές εκθέσεις του 1851 και του 1862 δεν ήταν μόνο ευκαιρίες για ενδοκαπιταλιστικές ανταλλαγές πληροφοριών σχετικά με τις τελευταίες τεχνολογικές εξελίξεις. Αυτές οι εκθέσεις εγκαταστάθηκαν στο Crystal Palace του Λονδίνου, πράγμα που σήμαινε μεγαλύτερα έξοδα, με σκοπό να προβληθούν οι μηχανές στην εργατική τάξη. Αυτές οι εκθέσεις ήταν ένα είδος “ένοπλης παρέλασης”, που ο σκοπός της ήταν να ματαιώσει την επίθεση του εχθρού με μια δημόσια επίδειξη δύναμης.
Η επιτυχία εκείνων των προληπτικών επιδείξεων ήταν τέτοια, ώστε η μηχανή και η δύναμή της έγιναν κυριολεκτικά η έκφραση του κεφάλαιου, στη γενικότητά του. Αυτό ήταν το μήνυμα που οι εκθέσεις του Crystal Palace μετέφεραν από το Λονδίνο σ’ όλη την Ευρώπη, κι ακόμα μακρύτερα, ως τους δρόμους του Petersburg...

Η “ένοπλη παρέλαση” δεν ήταν ούτε είναι ένα μια-κι-έξω γεγονός. Οι “έξυπνες μηχανές” των μέσων του 19ου αιώνα (στο βαθμό που υμνούνταν σαν τέτοιες) έμελλε τις επόμενες δεκαετίες να αποειδικεύσουν τους τεχνίτες, να μετατρέψουν την ζωντανή εργασία στον έναν ή στον άλλο βαθμό σε “ανειδίκευτο” χειρισμό των μηχανών· και απ’ την στιγμή που ο Ταίηλορ πέτυχε να σχεδιάζει την γενική αναδιάρθρωση της βιομηχανικής παραγωγής στις αρχές του 20ου αιώνα, η “ένοπλη παρέλαση” έγινε μηχανική κατοχή της χειρωνακτικής εργασίας. Δηλαδή υποτίμησή της.

“Ηλεκτρονικός εγκέφαλος” στη διάρκεια του Β παγκόσμιου

Ανάλογη είναι η σκοπιμότητα της επίδειξης της “ευφυίας”, της “νοημοσύνης” των μηχανών και της “τεχνητής νοημοσύνης” στον 21ο αιώνα. Η αποειδίκευση πολλών μορφών διανοητικής εργασίας έχει αναγγελθεί. Η μαζική εξοικείωση με την υποτιθέμενη μηχανική διάνοια μέσω μηχανών και εφαρμογών τύπου ChatGPT έχει στόχο (για μια ακόμη φορά) να επιβάλλει την αναγνώριση της ανωτερότητας του κεφάλαιου: το κεφάλαιο, είτε με την μορφή της αέναης datoποίησης και της συσσώρευσης των data, είτε με την μορφή της στατιστικής επεξεργασίας τους, είτε με κάθε άλλη και οποιονδήποτε τεχνικό συνδυασμό, σκέφτεται μ’ έναν ανώτερο, αλάνθαστο, κατηγορηματικό τρόπο! Η μηχανή είναι που κατέχει την σημασία· κι εδώ η λέξη “σημασία” δεν αφορά μόνο την αξιολόγηση της μηχανής αλλά και κάθε τι (κάθε φράση, κάθε εικόνα, κάθε ήχο) στο οποίο μπορεί να αποδοθεί νόημα.

Θα υιοθετήσουμε την φράση του Turing η ερώτηση αν “μπορεί οι μηχανές να σκεφτούν;” ... είναι πολύ ανούσια ώστε να αξίζει συζήτηση - χωρίς, όμως, εφαρμογή του τεστ Turing!! Σ’ αυτήν την διάταξη όπου οποιαδήποτε μηχανή αποκαλύπτεται μόνο ως μορφή του πάγιου κεφάλαιου και καθόλου σαν “οντότητα” ή “ύπαρξη” που πρέπει να αντιμετωπιστεί σα να είναι αυθύπαρκτη, το παιχνίδι της μίμησης δεν είναι όντως “παιχνίδι” αλλά πολιτικό σχέδιο, τεχνική της εξουσίας.

Και ναι, είναι αλήθεια, δεν χρειάζεται συζήτηση!!! Όχι, οι μηχανές ΔΕΝ μπορούν να σκεφτούν· όχι, ΔΕΝ υπάρχει “τεχνητή νοημοσύνη” ούτε “μηχανική ευφυία”· όχι, ΔΕΝ υπάρχει μηχανική “μάθηση” ούτε οποιοδήποτε άλλο χαρακτηριστικό της ζωής! Κάθε τέτοια υπόδειξη για το αντίθετο, κάθε τέτοια διαβεβαίωση, κάθε τέτοιος ισχυρισμός και κάθε τέτοιος θαυμασμός, είναι διάβρωση του ζωντανού, με σκοπό την υπεξαίρεση, την αλλοτρίωση και την καθολική υπαγωγή της ζωής στις καπιταλιστικές προσταγές! Είναι σημαιοφόρος της “ένοπλης παρέλασης”! Αυτό είναι για εμάς αξίωμα.
Που αν χρειάζεται επιδέχεται απόδειξη: η σκέψη, η νόηση, η νοημοσύνη, δεν χρειάζονται ηλεκτρικό ρεύμα, μπαταρίες, “φόρτιση”!! Αυτό που ονομάζεται “τεχνητή νοημοσύνη” χρειάζεται...

Κατόπιν αυτού ο παρακατιανός παπαγάλος african grey σταματάει να μιλάει και φεύγει απ’ την σκηνή πετώντας προς το άγνωστο...

Ziggy Stardust

Σημειώσεις

1 - “Τεχνητή νοημοσύνη”: Μεγάλα γλωσσικά μοντέλα στην εποχή των “πνευματικών” περιφράξεων - cyborg 26, Φλεβάρης 2023.
[ επιστροφή ]

2 - Η μηχανοποίηση της σκέψης - τετράδιο για εργατική χρήση νο 3, Σεπτέμβρης 2018.
[ επιστροφή ]

3 - Κυβερνητική και κοινωνία, εκδ. Παπαζήση.
[ επιστροφή ]

4 - Cyborg 2, άνοιξη 2015, Το πιστόνι, ο εργάτης, ο γάτζος: ανατομία των cyborg προγόνων.
[ επιστροφή ]

5 - Διαθέσιμο στο https://academic.oup.com/mind/article/LIX/236/433/986238
[ επιστροφή ]

6 - Sarajevo νο 81, Φλεβάρης 2014, Η άφεση των αμαρτιών του Turing.
[ επιστροφή ]

7 - George Caffetzis Γιατί οι μηχανές δεν παράγουν αξία.
[ επιστροφή ]