#32 - 02/2025

η ευγονική δυστοπία της “τεχνητής νοημοσύνης”

Πριν λίγες ημέρες ανακοινώθηκε από μια σχετικά μικρή κινέζικη εταιρεία ένα νέο “μεγάλο γλωσσικό μοντέλο” (large language model: ο επίσημος τεχνικός ορισμός αυτού που στην καθομιλουμένη λέγεται “τεχνητή νοημοσύνη”), το οποίο ανέτρεψε την μέχρι τώρα πρωτοκαθεδρία των η.π.α στον συγκεκριμένο τομέα. Το deepseek, όπως ονομάζεται, υπερτερεί του chatgpt (και άλλων δυτικών μοντέλων) σε δυνατότητες, σχετικά με την ταχύτητα και την ακρίβεια των απαντήσεων που δίνει, αλλά και σε κόστος, αφού η “εκπαίδευσή” του και η χρήση του κοστίζει το ένα δέκατο των χρημάτων/πόρων που έχουν χρησιμοποιηθεί για τα αντίστοιχα δυτικά μοντέλα. Και το κυριότερο: οι κατασκευαστές του έδωσαν δημόσια τον πηγαίο κώδικα για ελεύθερη χρήση, που σημαίνει ότι όποιος θέλει - και μπορεί – έχει την δυνατότητα να τον πάρει, να του κάνει τις αλλαγές που θέλει και να τον βάλει να “δουλέψει” για λογαριασμό του.

Όπως ήταν αναμενόμενο, αυτό προκάλεσε αναστάτωση στις δυτικές εταιρείες και αγορές και ο λόγος δεν ήταν μόνο η όποια αμφισβήτηση της δυτικής υπεροχής στο τομέα της “τεχνητής νοημοσύνης” σε παγκόσμιο επίπεδο – δεν ήταν δηλαδή απλά μια “στιγμή Sputnik” όπως την χαρακτηρίζουν. Και αυτό γιατί, πέρα από τους απλούς χρήστες και ερευνητές που έχουν πρόσβαση σε μια σχεδόν-δωρεάν και προς το παρόν καλύτερη “τεχνολογία αυτοματοποιημένης γνώσης” είναι και οι εταιρείες που θέλουν να ενσωματώσουν τέτοιες τεχνολογίες στα προϊόντα και τις υπηρεσίες που προσφέρουν και πλέον μπορούν να το κάνουν με εξαιρετικά μικρότερο κόστος. Αυτό κι αν είναι καταστροφή! Όχι μόνο τα data των δυτικών υπηκόων θα πηγαίνουν – και θα τροφοδοτούν – τον κινέζο ανταγωνιστή, αλλά και ένα σημαντικό μέρος του δυτικού κεφαλαίου θα χτιστεί πάνω σε κινέζικη τεχνολογία· και μάλιστα σε έναν από τους τελευταίους τομείς που μέχρι χθες η δύση μπορούσε να περηφανευτεί ότι κρατάει τα σκήπτρα.

Η άμεση επίδραση αυτής της εξέλιξης ήταν η πτώση των δεικτών στις χρηματιστηριακές φούσκες αρκετών δυτικών εταιρειών, με μεγαλύτερη εκείνη της nvidia (της εταιρείας που φτιάχνει τα ειδικά τσιπ που χρησιμοποιούνται για αυτά τα μοντέλα) και η έναρξη μιας επικοινωνιακής αντεπίθεσης για την συγκράτηση αυτής της πτώσης. Τα βασικά επιχειρήματα σε δηλώσεις και διαδικτυακές συζητήσεις επώνυμων και ανώνυμων ήταν μεταξύ άλλων η αμφισβήτηση του κόστους παραγωγής που δηλώνει η κινέζικη εταιρεία, η κατηγορία για αντιγραφή των δυτικών μοντέλων, η θέση ότι ο πραγματικός κερδισμένος είναι η κουλτούρα του “ανοιχτού κώδικα” (και όχι ο κινέζικος καπιταλισμός) και η κριτική περί της λογοκρισίας που έχει υποστεί το εν λόγω μοντέλο σε ευαίσθητα ζητήματα σχετικά με τον αυταρχικό χαρακτήρα του κινέζικου κράτους.

Αυτό το τελευταίο έχει ιδιαίτερη σημασία και ενδιαφέρον, όχι τόσο με την στενή έννοια της λογοκρισίας· τί θα απαντήσει δηλαδή ένα κινέζικο μοντέλο αν το ρωτήσουμε για την Τιενανμέν και ένα δυτικό αν το ρωτήσουμε για το αφγανιστάν. Αυτά, μπορεί να πει κανείς ότι είναι και αυτονόητα… Αλλά περισσότερο με την ευρύτερη έννοια των “αξιών” που δίνουν οι κατασκευαστές στα μοντέλα τους. Μπορεί να ακούγεται κάπως τραβηγμένο, αλλά από την στιγμή που ο στόχος τους είναι η κατασκευή “έξυπνων αλγορίθμων” που θα έχουν μια γενική κατανόηση των πάντων, θα “μαθαίνουν” με αυτόνομο τρόπο και θα ανταποκρίνονται σε μια ευρεία γκάμα προβλημάτων, εκεί ακριβώς εισάγεται και ο προβληματισμός των “αξιών”· πέρα δηλαδή από τα data που θα έχουν ως πληροφορίες και τα μαθηματικά μοντέλα στα οποία θα βασιστεί η “νοημοσύνη” τους, πάνω σε ποιές αξιακές βάσεις θα χτιστεί ο “χαρακτήρας” αυτών των “έξυπνων αλγόριθμων”; Θα είναι οι “δημοκρατικές αξίες της δύσης” ή οι “αυταρχικές αξίες της κίνας” για παράδειγμα; Σχετικές δηλώσεις από επώνυμους “μέντορες” και επιχειρηματίες για το πόσο σημαντικό είναι να καθιερωθεί μια “τεχνητή νοημοσύνη” με τις “δικές μας” αξίες, υπάρχουν άφθονες στο διαδίκτυο.

Θα μπορούσαμε να ξεμπερδέψουμε εύκολα με αυτόν τον προβληματισμό, αναγνωρίζοντάς τον απλά ως ένα μέρος του επικοινωνιακού πολέμου του ενδοκαπιταλιστικού ανταγωνισμού - που είναι και τέτοιος - αν δεν αναδείκνυε και κάτι ακόμα που θεωρούμε ότι αξίζει αναφοράς: την αλληλεπίδραση μεταξύ του “δημιουργού” και του “δημιουργήματος”. Μπορούμε να υποστηρίξουμε ότι κάθε τεχνοεπιστημονική εξέλιξη είναι αποτέλεσμα μιας συγκεκριμένης διαδικασίας που εμπεριέχει τις αξίες του “συστήματος γνώσης” που την δημιούργησε και η οποία στην συνέχεια τροφοδοτεί τις επόμενες, δημιουργώντας μια διαλεκτική σχέση μεταξύ παραγωγών και παραγώμενων. Έτσι, με έναν τρόπο η ιδεολογία του κατασκευαστή ενσωματώνεται στο δημιούργημά του, αλλά και το ίδιο το δημιούργημα (τα προηγούμενα και τα επόμενα με την σειρά τους) αποτελούν σταθερές που διαμορφώνουν την ιδεολογία του κατασκευαστή - και των καταναλωτών του. Για παράδειγμα, η επιθυμία (ιδεολογία) της εκάστοτε εξουσίας για έλεγχο και επιτήρηση είναι η βασική κινητήρια δύναμη που δημιούργησε σχετικές τεχνολογίες (κάμερες, κινητά τηλέφωνα, κοινωνικά δίκτυα κλπ), οι οποίες με την σειρά τους έχουν διαμορφώσει τις συνειδήσεις των επιτηρητών (“σας παρακολουθούμε, σας μετράμε και γνωρίζουμε περισσότερα από εσάς για εσάς”) και των επιτηρούμενων (“μας παρακολουθούν και μας μετράνε, αλλά εντάξει, δεν έχουμε και κάτι να κρύψουμε”).

Στο συγκεκριμένο παράδειγμα δεν μας απασχολεί τόσο το τί συνείδηση θα έχουν οι “έξυπνοι αλγόριθμοι” [1Αυτό το ξέρουμε: την συνείδηση των αφεντικών τους! Περισσότερα στο “τεχνητή νοημοσύνη (και τεχνητή συνείδηση;)”, Cyborg #23], αλλά το τί συνείδηση έχουν όσοι επιθυμούν να δημιουργήσουν τέτοιους. Για την ακρίβεια όσοι επιθυμούν να δημιουργήσουν την λεγόμενη “τεχνητή γενική νοημοσύνη” [2Για μερικά σχόλια σχετικά με την πολιτκή οικονομία της “τεχνητής γενικής νοημοσύνης” δείτε το “Mηχανικό, πολύ μηχανικό: σχόλια πάνω στην τεχνητή γενική νοημοσύνη”, Cyborg #28], η οποία είναι ο απώτερος στόχος των μοντέλων τύπου chatgpt, deepseek κλπ. Χρειάζεται μια σημείωση εδώ. Η “τεχνητή νοημοσύνη” χωρίζεται σε δύο βασικές κατηγορίες, την λεγόμενη “στενή” η οποία στοχεύει στην κατασκευή “έξυπνων” αλγόριθμων που είναι προορισμένοι να ανταποκρίνονται σε συγκεκριμένα προβλήματα με οριοθετημένο πλαίσιο (πχ. αυτόματη οδήγηση, μηχανική όραση, αναγνώριση ήχου, βιομηχανικές εφαρμογές κα) και την “γενική” η οποία στοχεύει… παντού! Στην ουσία δεν υπάρχει σαφής ορισμός για το πού στοχεύει η τεχνητή γενική νοημοσύνη γιατί δεν είναι δυνατόν να υπάρξει. Το μόνο που υπάρχει είναι η γενική αντίληψη ότι θα φτιάξουμε κάτι πιο έξυπνο, πιο γρήγορο, πιο σοφό, πιο …, πιο …, πιο “απ’ όλα” από τον άνθρωπο. Και ότι αυτό το κάτι είναι αναπόφευκτο ότι θα προκύψει με την πρόοδο της τεχνολογίας, οπότε θα πρέπει να το προλάβουμε και να το “δαμάσουμε” πρώτοι. Το σχέδιο stargate για παράδειγμα, που ανακοινώθηκε από τις ηπα στα μέσα του Γενάρη, έχει σκοπό να χρηματοδοτήσει τις έρευνες για “τεχνητή γενική νοημοσύνη” με 500 δις δολάρια. Τις ίδιες ημέρες ανακοινώθηκε και το deekseek.

Στην βάση αυτού του διαχωρισμού μεταξύ στενής και γενικής τ.ν. έχει προκύψει και ο αντίστοιχος διαχωρισμός μέσα στην τεχνοεπιστημονική κοινότητα, όπου στην μια μεριά θα λέγαμε ότι είναι οι “παραδοσιακοί” επιστήμονες, πιστοί σε έναν φιλελεύθερο διαφωτισμό με “ιερά-και-όσια”, ενώ στην άλλη οι μετα-μεταμοντέρνοι μετανθρωπιστές, ορκισμένοι στην επερχόμενη ουτοπία ή/και καταστροφολογία την τεχνολογικής εξέλιξης. Μπορεί οι ορισμοί μας να μην είναι και πολύ ακριβείς, αλλά θα χρειάζονταν πολύ περισσότερος χώρος για να περιγραφτεί η κατάσταση ως έχει. Όμως ένα παράδειγμα που μπορεί να βοηθήσει είναι ο διαχωρισμός της επιστημονικής κοινότητας την περίοδο του κόβιντ (ο οποίος συνεχίζεται μέχρι σήμερα). Εκεί έχουμε μια σημαντική μερίδα επιστημόνων που είναι ενάντια στην κυρίαρχη αφήγηση για την πανδημία, ενάντια στην διαχείρισή της και ενάντια στην επιβολή των πλατφορμών σε υγιείς πληθυσμούς. Αυτός ο διαχωρισμός δεν έγινε μόνο στην βάση της ιδεολογίας, αλλά έγινε και εκεί. Θα μπορούσαμε να πούμε ότι όσοι ήταν ενάντια ήταν οι “πιστοί” στον όρκο του Ιπποκράτη, οι επιστήμονες της λεγόμενης “επιστήμης βασισμένη σε στοιχεία” ενώ όσοι ήταν “ζήτω η γενετική μηχανική” είχαν μια “προδιάθεση” για ουτοπικά οράματα μέσω βιοτεχνολογίας – πέρα από τα υλικά συμφέροντα και τις άμεσες απολαβές… Ενώ οι λεγόμενοι “αιρετικοί” επιστήμονες δεν είναι λιγότερο “επιστήμονες” - με την έννοια του ότι είναι “παράγωγα” του συγκεκριμένου συστήματος γνώσης – και σίγουρα δεν μπορούμε να τους αναγνωρίσουμε αντικαπιταλιστικές τάσεις, μέσα από αυτή την ενδο-επιστημονική διαμάχη προέκυψαν θέσεις και γνώσεις που βοήθησαν την όποια αντικαθεστωτική κριτική. Όπως άλλωστε συμβαίνει και με όλους τους “ενδο-” ανταγωνισμούς.

Στην περίπτωση της “τεχνητής νοημοσύνης”, οι “αιρετικοί” είναι υπέρ της κατασκευής “έξυπνων αλγόριθμων” για συγκεκριμένες εφαρμογές και επικρίνουν την προσπάθεια κατασκευής μιας “τεχνητής γενικής υπερ-νοημοσύνης” ως έναν παράλογο και αντι-επιστημονικό στόχο που έχει ήδη επιβλαβείς επιπτώσεις στην κοινωνία. Οι συγγραφείς του παρακάτω άρθρου (του οποίου έχουμε μεταφράσει κάποια μέρη), ανήκουν σε αυτή την κατηγορία των “αιρετικών” και είναι αντίθετοι στην κατασκευή μιας “τεχνητής υπερ-νοημοσύνης” και ενάντια στην όποια προσπάθεια να προσομοιωθεί ο “άνθρωπος” συνολικά μέσω της τεχνολογίας. Ως ακαδημαϊκοί και επιστήμονες που είναι, δεν απορρίπτουν συνολικά την ιδέα κατασκευής “έξυπνων αλγόριθμων”, αρκεί να υπάρχουν “σαφείς προδιαγραφές και όρια”. Ο Phil Torres ειναι αμερικάνος φιλόσοφος - ο οποίος υπήρξε υποστηρικτής κάποιων από τις ιδεολογίες που τώρα ασκεί κριτική – ασχολείται με την “εσχατολογία”, τους “υπαρξιακούς κινδύνους” και την “εξαφάνιση της ανθρωπότητας” και η ακαδημαϊκή του πορεία περιλαμβάνει όσα θα περίμενε κανείς. Η Timnit Gebru είναι επιστήμονας πληροφορικής στον τομέα της “τεχνητής νοημοσύνης”, η οποία γεννήθηκε στην αιθιοπία και έχει δουλέψει στην apple, την microsoft και την google μέχρι που την έδιωξαν το 2020 εξαιτίας ενός άρθρου που συν-υπέγραψε σχετικά με τους κινδύνους των “μεγάλων γλωσσικών μοντέλων”. Είναι συνιδρυτής των “Black in AI” και “DAIR Institute”, οργανισμοί που προωθούν μια εναλλακτική προσέγγιση στην τεχνολογία και την “τεχνητή νοημοσύνη”, ενάντια στις Big Tech και τις προκαταλήψεις, τις περιβαλλοντικές επιπτώσεις και τις ανισότητες που δημιουργούν.

[...]

...η συνέχεια στο έντυπο τεύχος του Cyborg.
[ σημεία διακίνησης ]

μετάφραση - απόδοση
Wintermute

Σημειώσεις

1 - Αυτό το ξέρουμε: την συνείδηση των αφεντικών τους! Περισσότερα στο “τεχνητή νοημοσύνη (και τεχνητή συνείδηση;)”, Cyborg #23
[ επιστροφή ]

2 - Για μερικά σχόλια σχετικά με την πολιτκή οικονομία της “τεχνητής γενικής νοημοσύνης” δείτε το “Mηχανικό, πολύ μηχανικό: σχόλια πάνω στην τεχνητή γενική νοημοσύνη”, Cyborg #28
[ επιστροφή ]