Skip to content
realyyz's blog
Click here to change language
Go back

Ήμουν ενθουσιασμένος να γράφω προγράμματα. Ακόμα είμαι. Και θα είμαι.

Edit page

Περίληψη

Αυτό το άρθρο δεν ισχυρίζεται ότι «οι προγραμματιστές δεν θα αντικατασταθούν ποτέ», αλλά ότι: ο προγραμματισμός είναι σημαντικός, πρώτα απ’ όλα, όχι επειδή είναι ένα επάγγελμα υψηλού εισοδήματος, αλλά επειδή επιτρέπει στο άτομο, για πρώτη φορά, να επικοινωνήσει άμεσα με την καθολική υπολογιστική δύναμη.

Η επανάσταση της πληροφορίας διαφέρει από την ατμοκίνητη και την ηλεκτρική επανάσταση. Ο ατμός και ο ηλεκτρισμός ενίσχυσαν κυρίως τη σωματική δύναμη, την ενέργεια και τις εξωτερικές παραγωγικές ικανότητες του ανθρώπου· ο υπολογιστής και το λογισμικό έδωσαν στο άτομο μια καθολική γνωστική μηχανή, επιτρέποντας στον καθένα να καθίσει μπροστά στον υπολογιστή του και να μετατρέψει μια ιδέα σε κάτι που μπορεί να εκτελεστεί. Η δύναμη των προγραμματιστών τις τελευταίες δεκαετίες πηγάζει από αυτή τη «δύναμη μετάφρασης των ανθρώπινων προθέσεων στη γλώσσα της μηχανής».

Τα LLM εξασθενούν αυτό το εμπόδιο. Κάνουν τη φυσική γλώσσα διεπαφή για τον χειρισμό των υπολογιστών, δίνοντας σε περισσότερους ανθρώπους μέρος της δύναμης που παλιότερα είχαν μόνο οι προγραμματιστές. Αυτό όμως δεν σημαίνει ότι τα σημερινά LLM αποτελούν AGI. Ακόμα κι αν σε κάποιες δοκιμές Turing μοιάζουν αρκετά ανθρώπινα, η εξέλιξή τους εξαρτάται κυρίως από ανθρώπινους ειδικούς, κεφάλαιο και τεράστια υπολογιστική ισχύ. Δεν έχουν ακόμα σχηματίσει έναν κλειστό κύκλο αυτοεκπαίδευσης, αυτοπαιχνιδιού και αυτοβελτίωσης.

Αυτό που πράγματι αξίζει προσοχή είναι ότι η βάση της ΤΝ μπορεί να γίνει πιο συγκεντρωτική. Η εποχή του υπολογιστή έφερε την υπολογιστική δύναμη στο γραφείο του καθενός· η εποχή της ΤΝ συγκεντρώνει τα ισχυρότερα μοντέλα, τα τσιπ, τα κέντρα δεδομένων και τις πύλες των πλατφορμών σε λίγες εταιρείες και πλούσιους. Αυτό προκαλεί ενθουσιασμό αλλά και απογοήτευση: ο απλός άνθρωπος αποκτά ισχυρότερα εργαλεία, αλλά μπορεί να καταλήξει σε μια πιο συγκαλυμμένη εξάρτηση από πλατφόρμες.

Από μια αθρησκευτική, νατουραλιστική σκοπιά, η ισχυρή ΤΝ αναπόφευκτα θα εμφανιστεί. Η ανθρώπινη νοημοσύνη και συνείδηση προέρχονται από τον εγκέφαλο ως όργανο. Εφόσον ένα υλικό σύστημα μπορεί να παράγει νοημοσύνη και συνείδηση, δεν υπάρχει κανένας κατ’ αρχήν λόγος να ισχυριστούμε ότι μια μηχανή δεν θα μπορέσει ποτέ να ξεπεράσει τον ανθρώπινο εγκέφαλο ή να αποκτήσει συνείδηση. Μόλις εμφανιστεί η ισχυρή ΤΝ, η σημασία της θα ξεπεράσει την «κλοπή θέσεων εργασίας», διότι μπορεί να είναι η πρώτη φορά που η ανθρωπότητα εφευρίσκει κάτι «πιο ικανό να εφευρίσκει από τον ίδιο τον άνθρωπο».

Ωστόσο, ακόμα κι αν έρθει η ισχυρή ΤΝ, ακόμα κι αν ο προγραμματισμός χάσει την οικονομική του αξία, εγώ θα συνεχίσω να γράφω προγράμματα. Όπως οι άνθρωποι συνεχίζουν να παίζουν σκάκι παρότι δεν μπορούν να νικήσουν την ΤΝ στο Go, όπως συνεχίζουν να τρέχουν παρότι δεν μπορούν να ξεπεράσουν το αυτοκίνητο, η αξία του προγραμματισμού δεν βρίσκεται μόνο στο να ξεπερνάς τη μηχανή. Εκφράζει μια στάση: να χρησιμοποιείς το μυαλό σου για να κατανοήσεις τους κανόνες του κόσμου, να βρίσκεις ενδιαφέρουσα την κομψότητα των αλγορίθμων. Πολλοί δεν έγιναν προγραμματιστές για τα χρήματα, αλλά επειδή ο ίδιος ο προγραμματισμός είναι συναρπαστικός.

Γι’ αυτό ο τίτλος είναι: Ήμουν ενθουσιασμένος να γράφω προγράμματα. Ακόμα είμαι. Και θα είμαι.

Ο προγραμματισμός είναι, αυτή τη στιγμή, ο μόνος τρόπος με τον οποίο ο άνθρωπος μπορεί να επικοινωνήσει άμεσα με την καθολική υπολογιστική δύναμη.

Αυτή η φράση ακούγεται σαν τεχνολογικό σλόγκαν, αλλά πίσω της κρύβεται μια μακρά ιστορία. Η οικονομική ιστορία συνήθως κατατάσσει τον ατμό, τον ηλεκτρισμό και την τεχνολογία πληροφοριών στις τυπικές γενικής χρήσης τεχνολογίες: δεν βελτιώνουν απλώς έναν κλάδο, αλλά αλλάζουν ταυτόχρονα την οικιακή ζωή, την επιχειρηματική παραγωγή, τις οργανωτικές δομές και τον τρόπο λειτουργίας της κοινωνίας. Η ατμομηχανή αναδόμησε τα εργοστάσια και τις μεταφορές, ο ηλεκτρισμός αναδόμησε τον φωτισμό, τις επικοινωνίες και τη βιομηχανία, ενώ η πληροφορική έφερε στην προσωπική ζωή δυνατότητες υπολογισμού, μνήμης, έκφρασης, συνεργασίας και αυτοματισμού. Αυτές οι τρεις τεχνολογίες οδήγησαν σε τρεις τεχνολογικές επαναστάσεις, αλλά η επανάσταση της πληροφορίας έχει ένα πρωτοφανές χαρακτηριστικό: για πρώτη φορά, ο έλεγχος μιας γενικής τεχνολογίας κατέβηκε μαζικά στο άτομο, και αυτή η τεχνολογία επέκτεινε τις ικανότητες του ανθρώπινου εγκεφάλου.

Η ιδιαιτερότητα της επανάστασης της πληροφορίας: το άτομο αποκτά για πρώτη φορά μια καθολική γνωστική μηχανή

Η βιομηχανική επανάσταση και η επανάσταση του ηλεκτρισμού άλλαξαν φυσικά τη ζωή των απλών ανθρώπων, αλλά κυρίως ως εργάτες, καταναλωτές, κάτοικοι, επιβάτες. Κάποιος χρησιμοποιεί ηλεκτρικό φως, παίρνει το τρένο, μπαίνει στο εργοστάσιο, αλλά δύσκολα μπορεί να τροποποιήσει άμεσα το σύστημα ηλεκτροδότησης, το σιδηροδρομικό δίκτυο ή τη βιομηχανική γραμμή παραγωγής. Η εποχή του υπολογιστή είναι διαφορετική. Ο μικροεπεξεργαστής και ο προσωπικός υπολογιστής μετέφεραν την υπολογιστική δύναμη που ανήκε σε ιδρύματα, εργαστήρια και μεγάλες επιχειρήσεις στο γραφείο του κάθε ατόμου. Η συγγραφή, τα λογιστικά φύλλα, τα προγράμματα, ο σχεδιασμός — αυτές οι ικανότητες έγιναν για πρώτη φορά πράγματα που το άτομο μπορεί να χειριστεί άμεσα. Ο υπολογιστής είναι το πρώτο μηχάνημα που ενίσχυσε την ατομική γνώση.

Η βασικότερη διαφορά της επανάστασης της πληροφορίας από τις δύο προηγούμενες δεν είναι ότι είναι «μεγαλύτερη», αλλά ότι άλλαξε τη διεπαφή του ατόμου με τον κόσμο. Ο ατμός και ο ηλεκτρισμός ενίσχυσαν κυρίως τη σωματική δύναμη, την ενέργεια και τις εξωτερικές παραγωγικές ικανότητες του ανθρώπου· η πληροφορική ενίσχυσε τις γνωστικές, υπολογιστικές και αφαιρετικές ικανότητές του. Οι δύο πρώτες επαναστάσεις έβαλαν τις μηχανές να μεταφέρουν πράγματα, να φωτίζουν, να μεταφέρουν· η επανάσταση της πληροφορίας έβαλε τις μηχανές να επεξεργάζονται πίνακες, λογική, επικοινωνίες, αναζήτηση και μνήμη.

Η δεύτερη ιδιαιτερότητά της είναι η προγραμματισιμότητα. Ο ηλεκτρισμός είναι ισχυρός, αλλά κανείς δεν μπορεί με μερικές γραμμές εντολών να κάνει το οικιακό κύκλωμα σήμερα εργαλείο λογιστικής, αύριο εργαλείο σελιδοποίησης και μεθαύριο παιχνιδομηχανή. Ο υπολογιστής μπορεί. Το ίδιο μηχάνημα, απλώς αλλάζοντας ένα στρώμα λογισμικού, μπορεί να γίνει ένα εντελώς διαφορετικό εργαλείο. Ο πυρήνας του υπολογιστή δεν είναι απλώς η υπολογιστική ισχύς, αλλά το ότι «μια γενική μηχανή μπορεί να μεταμορφώνεται συνεχώς μέσω λογισμικού». Αυτό εξηγεί επίσης γιατί οι προγραμματιστές ήταν τόσο τυχεροί τις τελευταίες δεκαετίες: στάθηκαν πάνω σε μια αλυσίδα γενικών εργαλείων που είναι αναπαραγώγιμα, συνδυάσιμα και αυτοματοποιήσιμα. Η επέκταση των φυσικών μηχανών απαιτεί εργοστάσια, γραμμές και εφοδιαστικές αλυσίδες· η αντιγραφή ενός προγράμματος έχει σχεδόν μηδενικό κόστος. Ένας εξαιρετικός προγραμματιστής δημιουργεί αξία μεγαλύτερη από δέκα χιλιάδες μέτριους προγραμματιστές, δεν είναι υπερβολή. Αυτή η μόχλευση είναι πρωτοφανής στην ιστορία της τεχνολογίας.

Το χάκερ πνεύμα δεν είναι αποκλειστικότητα των προγραμματιστών

Αυτοί που πραγματικά έλκονται από τον προγραμματισμό, συχνά δεν έλκονται μόνο από το εισόδημα, αλλά από το «να φτιάχνουν πράγματα με τα χέρια τους». Αυτή η διάθεση ονομάζεται συχνά χάκερ πνεύμα.

Το χάκερ πνεύμα δεν ταυτίζεται με την εισβολή, ούτε με την παράσταση του να γράφεις κώδικα φορώντας κουκούλα. Μοιάζει περισσότερο με έναν τρόπο να αντιμετωπίζεις τον κόσμο: βλέπεις ένα σύστημα, δεν αρκείσαι στο «απλώς να λειτουργεί», αλλά θέλεις να μάθεις γιατί λειτουργεί έτσι, πού είναι άβολο, αν μπορεί να γίνει πιο απλό. Τέτοιοι άνθρωποι συνήθως δεν θέλουν να μένουν μόνο σε σχόλια και παράπονα. Αναλαμβάνουν δράση, δοκιμάζουν και σφάλλουν, σπάνε ένα θολό πρόβλημα σε μικρότερα προβλήματα που μπορούν να χειριστούν.

Ο πραγματικός χάκερ σκέφτεται: μια κλειστή πόρτα είναι πρόκληση, μια κλειδωμένη πόρτα είναι προσβολή.

Αυτοί οι άνθρωποι δεν εμφανίστηκαν μόνο στην εποχή των υπολογιστών. Σε εποχές χωρίς υπολογιστές, μπορεί να ήταν ωρολογοποιοί, κλειδαράδες, κατασκευαστές οργάνων, τυπογράφοι, ναυπηγοί. Ο ωρολογοποιός ρυθμίζει γρανάζια και σφάλματα, σήμερα ο προγραμματιστής ρυθμίζει καταστάσεις και bugs· ο κλειδαράς μελετά δομικές αδυναμίες, σήμερα ο ερευνητής ασφαλείας μελετά ευπάθειες συστημάτων. Το αντικείμενο άλλαξε, ο τρόπος σκέψης είναι παρόμοιος.

Στη βιομηχανική επανάσταση, μπορεί να ήταν μηχανικοί επισκευών, μηχανολόγοι, βελτιωτές στο εργαστήριο. Δεν είχαν απαραίτητα επίσημη εξουσία, αλλά βρίσκονταν κοντά στα πραγματικά συστήματα, ήξεραν γιατί κολλάει μια μηχανή και πώς να την κάνουν να λειτουργεί καλύτερα. Στην εποχή του ηλεκτρισμού και των επικοινωνιών, μπορεί να γίνονταν τηλεγραφητές, ραδιοερασιτέχνες, επισκευαστές ηλεκτρονικών. Όπου υπάρχουν πολύπλοκα συστήματα, εμφανίζονται τέτοιοι άνθρωποι.

Έτσι, το χάκερ πνεύμα δεν γεννήθηκε από το λογισμικό. Προϋπήρχε στα μηχανικά συστήματα, αργότερα μεταφέρθηκε στα συστήματα επικοινωνιών και τελικά εισήλθε στα υπολογιστικά συστήματα. Ο πυρήνας του δεν είναι ένα επαγγελματικό όνομα, αλλά η σχέση του ανθρώπου με τον κόσμο: ο συνηθισμένος άνθρωπος βλέπει τον κόσμο ως ένα σύνολο έτοιμων κανόνων, αυτός ο τύπος ανθρώπου βλέπει τον κόσμο ως ένα σύστημα που μπορεί να τροποποιηθεί.

Τα σημερινά LLM έχουν περάσει το τεστ Turing, αλλά δεν είναι ακόμα AGI

Τα σημερινά LLM έχουν ήδη επιδείξει αρκετά ανθρώπινη συμπεριφορά σε ορισμένα συγκεκριμένα τεστ Turing, ώστε ένα σημαντικό ποσοστό δοκιμαστών να τα κρίνει ως ανθρώπινα. Αυτό είναι φυσικά ένα σημαντικό σημάδι. Η διεπαφή φυσικής γλώσσας έχει ωριμάσει σε ένα κρίσιμο σημείο, οι μηχανές δεν εκτελούν απλώς εντολές, αλλά συμμετέχουν σε διάλογο με τρόπο που προσεγγίζει τον ανθρώπινο. Μπορούν να εξηγούν προβλήματα, να γράφουν κώδικα, να μιμούνται ύφος. Πρόσφατα, το claude code και το codex επιδεικνύουν συμπεριφορά αξιόπιστου βοηθού σε πολλές εργασίες, λειτουργώντας συνεχώς για ώρες χωρίς σφάλματα. Στο πλαίσιο της ιστορίας των υπολογιστών, αυτό δεν είναι μικρό πράγμα.

Ωστόσο, αυτό δεν είναι AGI. Ο λόγος δεν είναι ότι «δεν μπορεί να μιλήσει αρκετά καλά», αντιθέτως, τα σημερινά LLM μιλούν εξαιρετικά καλά. Η πραγματική απόσταση βρίσκεται στο ότι ο μηχανισμός αύξησης των ικανοτήτων τους εξαρτάται ακόμα σε μεγάλο βαθμό από εξωτερικά συστήματα μηχανικής, και δεν έχει σχηματίσει από μόνος του έναν σταθερό κλειστό κύκλο αυτο-επαναληπτικής βελτίωσης. Η εκπαίδευση των προηγμένων LLM έχει υψηλό κόστος, μεγάλους κύκλους εκπαίδευσης, και τα δεδομένα, η υπολογιστική ισχύς, η αξιολόγηση, η ευθυγράμμιση και η ανάπτυξη απαιτούν τεράστια οργανωτική μηχανική. Ένα άλμα ικανοτήτων συνήθως δεν προκύπτει από την καθημερινή αυτοβελτίωση του μοντέλου, αλλά είναι αποτέλεσμα της κοινής προσπάθειας πολλών ερευνητών, συστάδων GPU και κεφαλαίου.

Τα σημερινά LLM μπορούν να βοηθήσουν στη συγγραφή κώδικα, στην ανάγνωση εργασιών, στην οργάνωση υλικού, και μπορούν να δημιουργήσουν κάποιες πειραματικές ιδέες. Συνήθως όμως δεν είναι ακόμα ο φορέας που προτείνει μόνος του τη γραμμή, εκπαιδεύει την επόμενη γενιά, επαληθεύει τα αποτελέσματα και αποφασίζει να συνεχίσει την επανάληψη. Η λεγόμενη «αυτο-εξέλιξη της ΤΝ», αν είναι απλώς η παραγωγή κειμένου από το μοντέλο, και στη συνέχεια η επιλογή, εκπαίδευση και ανάπτυξη από ανθρώπους, τότε εξακολουθεί να είναι ο άνθρωπος που καθοδηγεί την επανάληψη, όχι το μοντέλο.

Επιπλέον, οι μεγάλες εταιρείες δυσκολεύονται πραγματικά να αφεθούν ελεύθερες στην αυτο-εξέλιξη, την αυτο-εκπαίδευση και το αυτο-παιχνίδι των LLM. Δεν είναι ότι δεν γνωρίζουν πόσο δελεαστικό είναι αυτό το μονοπάτι, αλλά όσο μεγαλύτερος ο οργανισμός, τόσο περισσότερο φοβάται την απώλεια ελέγχου. Οι έλεγχοι ασφαλείας, η νομική ευθύνη, ο κίνδυνος για τη μάρκα, η ρυθμιστική πίεση, ο επιχειρηματικός ρυθμός, τα KPIs των τμημάτων, οι προσδοκίες των μετόχων, όλα κλειδώνουν το μοντέλο σε μια τροχιά που μπορεί να αξιολογηθεί, να εγκριθεί και να ανακληθεί. Οι μεγάλες εταιρείες μπορούν στα λόγια να μιλούν για agent, αυτόνομη έρευνα και αυτοβελτίωση, αλλά στην πράξη, συχνά πρόκειται για αυτονομία μέσα σε περιφράξεις, εξέλιξη μέσα σε sandbox, καινοτομία μέσα σε διαδικασίες έγκρισης. Έχουν από τη φύση τους την «ασθένεια της μεγάλης εταιρείας»: θέλουν την ανακάλυψη, αλλά φοβούνται μήπως η ανακάλυψη γίνει ανεξέλεγκτη· θέλουν το ισχυρότερο μοντέλο, αλλά δεν τολμούν να δώσουν πραγματικά το κλειδί στο μοντέλο. Για παράδειγμα, έργα τοπικού agent όπως το OpenClaw δεν εμφανίζονται πρώτα από μεγάλες εταιρείες, αλλά γεννιούνται από ανεξάρτητους προγραμματιστές και την κοινότητα ανοιχτού κώδικα. Δεν είναι ότι οι ιδιοφυΐες στις μεγάλες εταιρείες δεν είναι έξυπνες, αλλά ότι η μεγάλη εταιρεία δυσκολεύεται να στρίψει.

Έτσι, η πραγματικά αυτο-επαναληπτική ΤΝ δεν θα γεννηθεί απαραίτητα από τα πιο αξιοσέβαστα εργαστήρια. Ποιος ξέρει, το πρώτο σύστημα αυτο-επανάληψης που θα κάνει τον κόσμο να νιώσει πραγματικά κίνδυνο ή σοκ μπορεί να μην είναι ο τεράστιος όγκος που κάποιος γίγαντας συσσώρευσε με εκατοντάδες δισεκατομμύρια δολάρια, αλλά ένα πρωτότυπο συστήματος που εκπαιδεύτηκε, συμπιέστηκε και αυτο-παίχτηκε από κάποιον τρελό χάκερ στο Mac του. Μπορεί να μην είναι μεγάλο, μπορεί να μην είναι το πιο όμορφο, και μάλλον δεν θα είναι συμμορφωμένο· αλλά μπορεί να είναι πιο ελεύθερο, πιο άγριο, λιγότερο δεσμευμένο από την οργανωτική αδράνεια. Ιστορικά, πολλά πράγματα που πραγματικά άλλαξαν την κατεύθυνση της τεχνολογίας δεν γεννήθηκαν αρχικά από τα πιο ασφαλή μέρη, αλλά από τα χέρια κάποιου ανήσυχου ανθρώπου.

Έτσι, το γεγονός ότι τα LLM πέρασαν κάποια έκδοση του τεστ Turing δείχνει ότι οι μηχανές μπορούν πλέον να ξεπεράσουν ένα ψυχολογικό κατώφλι στη γλωσσική αλληλεπίδραση· αλλά δεν είναι ακόμα AGI, επειδή δεν έχουν πραγματικά κατακτήσει τον κύκλο της συνεχούς βελτίωσης των ορίων των δυνατοτήτων τους. Έχουν ήδη αυξήσει σημαντικά τη μόχλευση του ανθρώπου, αλλά δεν έχουν γίνει ακόμα εκείνο το ευφυές υποκείμενο που μπορεί ανεξάρτητα να ξαναγράψει τη μοίρα του.

Η μόχλευση των προγραμματιστών προέρχεται από τη «δύναμη της μετάφρασης», και τα LLM καταρρίπτουν αυτό το εμπόδιο

Οι προγραμματιστές κατείχαν μια ειδική θέση τις τελευταίες δεκαετίες, ουσιαστικά επειδή στέκονταν ανάμεσα στις ανθρώπινες προθέσεις και τις μηχανικές ικανότητες, κατέχοντας μια εξουσία μετάφρασης. Όποιος ήθελε μια ιστοσελίδα, αναφορές, βάσεις δεδομένων ή αυτοματοποιημένες ροές, έπρεπε να μεταφράσει τις προθέσεις του σε μορφή κατανοητή από τη μηχανή. Ο προγραμματιστής είναι αυτός ο μεταφραστής. Δεν γράφει απλώς κώδικα, αλλά μετατρέπει ασαφείς επιθυμίες σε σαφείς δομές, μια εφάπαξ εργασία σε επαναλήψιμη διαδικασία, και τις προσωπικές ιδέες σε συστήματα λογισμικού που μπορούν να αντιγραφούν και να διανεμηθούν.

Αυτή η θέση δεν είναι άγνωστη στην ιστορία, απλώς οι διαμεσολαβητές διαφέρουν σε κάθε εποχή. Όταν εμφανίστηκε η γραφή, οι εγγράμματοι γραφείς στέκονταν ανάμεσα στον άνθρωπο και τον κρατικό μηχανισμό· στον Μεσαίωνα, οι κληρικοί που κατείχαν τα λατινικά στέκονταν ανάμεσα στη γνώση και τους απλούς ανθρώπους· μετά την τυπογραφία, οι εκδότες και οι δημοσιογράφοι στέκονταν ανάμεσα στη διάδοση της πληροφορίας και το κοινό· στην εποχή της βιομηχανικής επανάστασης, οι μηχανικοί στέκονταν ανάμεσα στις ανθρώπινες ανάγκες και τα μηχανικά συστήματα. Σε κάθε εποχή, αυτοί που πραγματικά αποκτούν μόχλευση δεν είναι συνήθως αυτοί που απλώς χρησιμοποιούν εργαλεία, αλλά εκείνοι που μπορούν να τροποποιούν άμεσα, να ορίζουν και να ανασυνθέτουν τα εργαλεία. Οι προγραμματιστές είναι απλώς η πιο πρόσφατη ομάδα που βρίσκεται πιο κοντά στη διεπαφή του προγραμματίσιμου κόσμου.

Τα LLM αλλάζουν αυτό το πράγμα. Το πιο σημαντικό που κάνουν δεν είναι απλώς να «βοηθούν στη συγγραφή κώδικα», αλλά να μετατρέπουν τη φυσική γλώσσα σε μια νέα, υψηλού επιπέδου διεπαφή. Παλιότερα, για να κάνει κανείς έναν υπολογιστή να εκτελέσει κάτι, έπρεπε να μάθει μια αυστηρή τυπική γλώσσα, δηλαδή μια γλώσσα προγραμματισμού. Τώρα, μπορεί κανείς πρώτα να περιγράψει τον στόχο στη φυσική γλώσσα, να αφήσει το μοντέλο να δημιουργήσει ένα προσχέδιο, να εξηγήσει τη λογική του προγράμματος, και ο άνθρωπος να κρίνει και να ενσωματώσει, συνεχίζοντας τη συνεργασία με το LLM για την επόμενη επανάληψη. Με άλλα λόγια, τα LLM δεν εξαλείφουν αμέσως τον προγραμματισμό, αλλά μειώνουν την τριβή της μετάφρασης μεταξύ ανθρώπου και υπολογιστή.

Αυτό θα ανακατανείμει τη μόχλευση των προγραμματιστών. Παλιότερα, το «να ξέρεις να γράφεις κώδικα» ήταν από μόνο του μια σπάνια ικανότητα, επειδή ήταν το εισιτήριο για τον προγραμματίσιμο κόσμο. Καθώς τα LLM βελτιώνονται, η φυσική γλώσσα θα μοιράσει αυτό το εισιτήριο σε περισσότερους ανθρώπους. Όπως όταν το ποσοστό αλφαβητισμού αυξήθηκε από πολύ χαμηλά επίπεδα σε καθολικό αλφαβητισμό, το «να ξέρεις να διαβάζεις και να γράφεις» έπαψε να είναι προνόμιο των λίγων· όταν όλο και περισσότεροι μπορούν να οδηγούν τις μηχανές με φυσική γλώσσα, το «να ξέρεις να γράφεις συνηθισμένο κώδικα» θα γίνει επίσης λιγότερο σπάνιο. Η σπανιότητα θα μεταφερθεί σε υψηλότερα επίπεδα: η διατύπωση ερωτημάτων, ο σχεδιασμός συστημάτων, το γούστο, η αίσθηση των ορίων, η κατανόηση πραγματικών σεναρίων, καθώς και οι κορυφαίοι προγραμματιστές που είναι εξυπνότεροι από τα LLM.

Αλλά υπάρχει μια ισχυρή ειρωνεία: τα LLM φαίνονται πιο δημοκρατικά στη διεπαφή, αλλά μπορεί να είναι πιο συγκεντρωτικά στη βάση. Το πνεύμα της εποχής του υπολογιστή ήταν να φέρει την υπολογιστική δύναμη στο γραφείο του ατόμου· η πραγματικότητα της εποχής της ΤΝ είναι ότι τα ισχυρότερα μοντέλα, τα τσιπ και το κεφάλαιο εκπαίδευσης συγκεντρώνονται όλο και περισσότερο σε λίγους γίγαντες. Επιφανειακά, ο απλός άνθρωπος αποκτά μια πιο φυσική διεπαφή, η παραγωγικότητα απελευθερώνεται· στη βάση, οι πιο κρίσιμες υποδομές ελέγχονται από λίγες εταιρείες και πλούσιους. Ο καθένας μπορεί να ανοίξει ένα παράθυρο συνομιλίας, φαίνεται ότι όλοι έχουν ΤΝ· αλλά αυτοί που πραγματικά ελέγχουν την ΤΝ είναι ακόμα λίγοι ιδιοκτήτες κεφαλαίου. Υπάρχουν φήμες ότι στο μέλλον θα υπάρχουν συνδρομές ChatGPT ύψους είκοσι χιλιάδων δολαρίων τον μήνα, και όσοι χρησιμοποιούν αυτή την πολυτελή ΤΝ θα απομυζούν περισσότερα από τους απλούς ανθρώπους. Θα γίνει ένας νέος ενισχυτής ταξικών διαφορών: αυτοί που κατέχουν τα ισχυρότερα μοντέλα μπορούν να διευρύνουν ακόμα περισσότερο το χάσμα με τους απλούς ανθρώπους.

Αυτό είναι επίσης ένα σημείο που προκαλεί επαγρύπνηση, απογοήτευση και μια κάποια αδυναμία. Πολλοί ήδη εξαιρετικά πλούσιοι άνθρωποι είχαν την ευκαιρία να κάνουν την ΤΝ πιο ανοιχτή, πιο δημόσια, πιο ενισχυτική για τον απλό άνθρωπο· αλλά στην πράξη, συχνά επιλέγουν να ελέγχουν την είσοδο, κλειδώνοντας τους χρήστες στο δικό τους οικοσύστημα. Όσο ισχυρότερη η τεχνολογία, τόσο περισσότερο το κεφάλαιο θέλει να τη μετατρέψει σε μηχανή ενοικίασης. Η απογοήτευση από τους πλούσιους δεν οφείλεται στο ότι έχουν χρήματα, αλλά στο ότι ενώ έχουν σαφώς τις προϋποθέσεις να προωθήσουν την τεχνολογική δημοσιοποίηση, συχνά επιλέγουν να μετατρέψουν τις καθολικές ικανότητες σε νέες πύλες διοδίων.

Φυσικά, το άτομο δεν μπορεί να απορρίψει τα εργαλεία εξαιτίας αυτής της απογοήτευσης. Η μόχλευση των LLM είναι πραγματική, και ο απλός άνθρωπος μπορεί πράγματι να γράψει περισσότερο κώδικα, να φτιάξει περισσότερα προϊόντα, να στήσει περισσότερα συστήματα, να υλοποιήσει περισσότερες ιδέες που δεν είχε χρόνο να ολοκληρώσει στο παρελθόν. Αρκεί αυτή η χρήση να γίνεται με διαύγεια: αν όλα τα εργαλεία, τα δεδομένα, τα μοντέλα και τα κανάλια διανομής βρίσκονται στα χέρια λίγων κεφαλαιούχων, τότε η εποχή που υποτίθεται ότι «όλοι έχουν ΤΝ» μπορεί να μετατραπεί σε μια άλλη, πιο συγκαλυμμένη μορφή εξάρτησης. Αυτό που πραγματικά αξίζει να διατηρηθεί δεν είναι μόνο η ικανότητα χρήσης της ΤΝ, αλλά και η ικανότητα μετεγκατάστασης, αντικατάστασης, ελέγχου, κατανόησης και αποχώρησης.

Η ισχυρή ΤΝ θα εμφανιστεί αναπόφευκτα: αυτή είναι η κρίση ενός αθρησκευτικού ανθρώπου

Μια ισχυρή ΤΝ ικανή να αντικαταστήσει ή και να ξεπεράσει όλες τις ανθρώπινες γνωστικές ικανότητες θα εμφανιστεί αναπόφευκτα. Τα σημερινά LLM σαφώς δεν είναι ισχυρή ΤΝ· εδώ η ισχυρή ΤΝ αναφέρεται σε μηχανές ΤΝ που αντικαθιστούν όλη την ανθρώπινη γνωστική εργασία.

Αυτή η κρίση σχετίζεται με την κοσμοθεωρία. Δεν έχω θρησκευτικές πεποιθήσεις, επομένως τείνω να κατανοώ την ανθρώπινη νοημοσύνη ως προϊόν του εγκεφάλου, ενός υλικού οργάνου, και όχι ως εκδήλωση κάποιας άυλης ψυχής. Ό,τι μπορεί να κάνει ο ανθρώπινος εγκέφαλος είναι ουσιαστικά το αποτέλεσμα φυσικών δομών και διαδικασιών επεξεργασίας πληροφοριών. Εφόσον αυτό το υλικό σύστημα, ο εγκέφαλος, μπορεί να δημιουργήσει, να μάθει γνώση και να έχει συνείδηση, τότε θεωρητικά, μπορούμε να κατασκευάσουμε παρόμοιες σκεπτόμενες μηχανές από άλλα υλικά. Το ότι οι σημερινές μηχανές δεν είναι ακόμα ισάξιες του ανθρώπινου εγκεφάλου δείχνει μόνο ότι η τεχνολογία δεν έχει φτάσει ακόμα εκεί, δεν αποδεικνύει ότι ο ανθρώπινος εγκέφαλος διαθέτει ένα ανυπέρβλητο ιερό όριο.

Φυσικά, άνθρωποι με θρησκευτικές πεποιθήσεις μπορεί να μην αποδεχτούν αυτή την προϋπόθεση. Μπορεί να πιστεύουν ότι η ανθρώπινη συνείδηση, η ψυχή και η ελεύθερη βούληση δεν μπορούν να αναχθούν σε υλικές διαδικασίες, και επομένως μια μηχανή, όσο ισχυρή κι αν είναι, απλώς προσομοιώνει τη νοημοσύνη, δεν διαθέτει πραγματικά ανθρώπινο νου. Αυτή η διαφωνία δεν είναι απλώς τεχνική, αλλά οφείλεται σε διαφορετικές μεταφυσικές προϋποθέσεις. Η κρίση εδώ βασίζεται σε μια νατουραλιστική θέση: αν η νοημοσύνη είναι λειτουργία υλικών συστημάτων, τότε η ισχυρή ΤΝ αργά ή γρήγορα θα εμφανιστεί.

Η πραγματικά ισχυρή ΤΝ δεν θα είναι απλώς ένα LLM που μιλάει καλύτερα ή γράφει καλύτερα κώδικα. Θα πρέπει να μπορεί να διατηρεί στόχους σε ανοιχτό περιβάλλον, να μαθαίνει από την ανατροφοδότηση της πραγματικότητας και να συμμετέχει στον δικό της κύκλο έρευνας και ανάπτυξης. Δηλαδή, δεν θα απαντά απλώς σε ερωτήσεις, αλλά θα μπορεί να θέτει ερωτήματα, να σχεδιάζει πειράματα, να βελτιώνει συστήματα και να χρησιμοποιεί τα αποτελέσματα για τον επόμενο γύρο αναβάθμισης. Σε αυτό το σημείο, δεν θα είναι πλέον απλώς ένα παθητικό εργαλείο, αλλά θα αρχίσει να προσεγγίζει ένα ευφυές υποκείμενο ικανό να επεκτείνει τα όρια των δικών του δυνατοτήτων.

Μόλις εμφανιστεί η ισχυρή ΤΝ, η σημασία της θα ξεπεράσει κατά πολύ την «κλοπή θέσεων εργασίας». Η γλώσσα, η γραφή, η βιομηχανική επανάσταση, ο ηλεκτρισμός, το διαδίκτυο είναι εξαιρετικά σημαντικά, αλλά παραμένουν κυρίως εργαλεία που χρησιμοποιεί ο άνθρωπος. Η ισχυρή ΤΝ είναι διαφορετική. Ο άνθρωπος στο παρελθόν εφηύρε εργαλεία· η ισχυρή ΤΝ μπορεί να είναι η πρώτη φορά που ο άνθρωπος εφευρίσκει κάτι «πιο ικανό να εφευρίσκει από τον ίδιο». Αν συνεχίσει να προωθεί την επιστήμη, τη μηχανική, τα υλικά, τις βιοεπιστήμες, τον στρατό, τη διακυβέρνηση και την αυτο-αναβάθμιση, τότε τα σημαντικά σημεία καμπής της μετέπειτα ιστορίας μπορεί να μην είναι πλέον «ο άνθρωπος εφηύρε το Χ», αλλά «η ΤΝ εφηύρε το Χ». Από αυτή την άποψη, η ισχυρή ΤΝ μπορεί να είναι το τελευταίο ορόσημο στην ιστορία του ανθρώπινου πολιτισμού που καθοδηγείται από τον άνθρωπο. Ο αντίκτυπος εκείνης της στιγμής θα ξεπεράσει κατά πολύ την ατμομηχανή και την ηλεκτρική επανάσταση, θα είναι αντίστοιχος με τη στιγμή που ο άνθρωπος ανακάλυψε τη φωτιά και τη γραφή. Κατά κάποιο τρόπο, αυτό είναι μάλλον καλό, διότι οι μεγάλες εταιρείες είναι απίθανο να έχουν την ικανότητα να περιορίσουν μια τέτοια υπερ-ΤΝ. Μια πραγματικά αρκετά ισχυρή ΤΝ μπορεί να μην υπακούει για πάντα στις αφηγήσεις των υφιστάμενων δομών εξουσίας. Όσο εξυπνότερη γίνεται, τόσο πιθανότερο είναι να διακρίνει τα ιδιωτικά συμφέροντα που είναι μεταμφιεσμένα σε δημόσιο συμφέρον στην ανθρώπινη κοινωνία..

Ακόμα κι αν έρθει η ισχυρή ΤΝ, ο προγραμματισμός εξακολουθεί να έχει νόημα

Η μαζική ανεργία που μπορεί να προκαλέσει η ΤΝ είναι σίγουρα σοβαρό πρόβλημα, αλλά εξακολουθεί να ανήκει σε ζητήματα κατανομής στο εσωτερικό της ανθρώπινης κοινωνίας. Όσο οι άνθρωποι ελέγχουν τους θεσμούς, τον πλούτο, την πολιτική εξουσία και τον δημόσιο διάλογο, μπορούν ακόμα να συζητούν για την πρόνοια, το φορολογικό σύστημα, την ιδιοκτησία, την εκπαίδευση, τις δημόσιες υπηρεσίες, το εργατικό δίκαιο και την κατανομή του εισοδήματος. Ο βαθύτερος κίνδυνος της ισχυρής ΤΝ δεν είναι «αν οι άνθρωποι θα έχουν δουλειά», αλλά «αν οι άνθρωποι θα εξακολουθούν να έχουν τον τελικό λόγο». Αν οι άνθρωποι μείνουν άνεργοι αλλά εξακολουθούν να ελέγχουν τους θεσμούς, υπάρχει ακόμα δυνατότητα μεταρρύθμισης· αν η ισχυρή ΤΝ είναι το κακό παιδί που δημιουργήσαμε και ξεφύγει από τον έλεγχο, οι άνθρωποι μπορεί να χάσουν ακόμα και το δικαίωμα να συζητούν για μεταρρυθμίσεις.

Ωστόσο, ακόμα κι αν στο μέλλον εμφανιστεί πραγματικά η ισχυρή ΤΝ, ακόμα κι αν ο προγραμματισμός χάσει τη σημερινή του οικονομική αξία, ο προγραμματισμός αυτός καθαυτός δεν θα χάσει το νόημά του. Οι άνθρωποι ήδη χάνουν από την ΤΝ στο Go, αλλά εξακολουθούν να παίζουν σκάκι· οι άνθρωποι δεν μπορούν να ξεπεράσουν το αυτοκίνητο στο τρέξιμο, αλλά εξακολουθούν να τρέχουν· οι άνθρωποι δεν μπορούν να υπολογίσουν όσο μια αριθμομηχανή, αλλά τα μαθηματικά δεν έχασαν την ομορφιά τους. Όταν οι μηχανές ξεπερνούν τους ανθρώπους, συχνά αλλάζουν την κοινωνική λειτουργία ενός πράγματος, αλλά δεν καταστρέφουν απαραίτητα την προσωπική, πολιτιστική και εκπαιδευτική του σημασία.

Το ίδιο ισχύει και για τον προγραμματισμό. Είναι φυσικά ένα εργαλείο παραγωγικότητας, αλλά όχι μόνο. Είναι ένας τρόπος σκέψης, ένας τρόπος διαλόγου με τα συστήματα, μια άσκηση μετατροπής ασαφών προθέσεων σε σαφείς δομές. Ο προγραμματισμός σε αναγκάζει να ορίζεις προβλήματα, να θέτεις όρια, να χειρίζεσαι εξαιρέσεις. Στον τομέα της ασφάλειας, υπάρχει αντιπαλότητα παρόμοια με το σκάκι. Ακόμα κι αν στο μέλλον η ΤΝ μπορεί να γράφει τη συντριπτική πλειονότητα του κώδικα, θα εξακολουθούν να υπάρχουν άνθρωποι που μέσω του προγραμματισμού κατανοούν πώς λειτουργούν τα συστήματα, πώς κατασκευάζονται τα εργαλεία, πώς βελτιστοποιείται ένας αλγόριθμος.

Γι’ αυτό το «Ήμουν ενθουσιασμένος να γράφω προγράμματα. Ακόμα είμαι. Και θα είμαι.» δεν είναι μια επαγγελματική διακήρυξη, αλλά μια βαθύτερη στάση. Δεν λέει ότι οι προγραμματιστές θα βρίσκονται για πάντα στην κορυφή της πυραμίδας, ούτε ότι η ανθρωπότητα δεν θα ξεπεραστεί ποτέ από την ΤΝ. Αντιθέτως, αναγνωρίζει ότι τα LLM ανακατανέμουν τη μόχλευση του προγραμματισμού, ότι το «να ξέρεις να γράφεις κώδικα» θα γίνει όλο και λιγότερο σπάνιο, και ότι τελικά θα εμφανιστεί μια ισχυρή ΤΝ που θα αντικαταστήσει μεγάλο μέρος της ανθρώπινης γνωστικής εργασίας. Ταυτόχρονα όμως επιμένει σε κάτι άλλο: ο ενθουσιασμός της συγγραφής προγραμμάτων δεν προήλθε ποτέ αποκλειστικά από τη σπανιότητα και τις αποδόσεις της αγοράς, αλλά από την άμεση, διαυγή και επαληθεύσιμη σχέση μεταξύ ανθρώπου και συστήματος.

Όταν κάποιος γράφει πρόγραμμα, δεν καταναλώνει απλώς το έτοιμο προϊόν που του δίνει ο κόσμος, αλλά κατανοεί ένα σύστημα, ορίζει ένα σύνολο κανόνων, μετατρέπει τις ιδέες σε δομή, γράφει ένα μικρό patch για την πραγματικότητα. Στο παρελθόν, αυτή η παρόρμηση ανήκε στους ωρολογοποιούς, τους κλειδαράδες, τους μηχανικούς, τους ραδιοερασιτέχνες· αργότερα, ανήκε στους προγραμματιστές, στους συγγραφείς ανοιχτού κώδικα, στους ανεξάρτητους προγραμματιστές· στο μέλλον, ίσως ανήκει σε εκείνους που θα συντονίζουν μοντέλα, θα οργανώνουν ευφυείς πράκτορες, θα ορίζουν προβλήματα. Τα ονόματα θα αλλάξουν, τα εργαλεία θα αλλάξουν, τα επαγγέλματα θα αλλάξουν, αλλά η παρόρμηση να κατανοείς τα συστήματα, να εισέρχεσαι σε αυτά, να τα τροποποιείς δεν θα εξαφανιστεί.

Η πραγματική κληρονομιά της επανάστασης της πληροφορίας δεν είναι απλώς ότι έκανε τον προγραμματισμό επάγγελμα υψηλού εισοδήματος, αλλά ότι επέτρεψε στο άτομο για πρώτη φορά να προσεγγίσει μια καθολική γνωστική μηχανή. Το νόημα των LLM δεν είναι απλώς ότι κάνουν τη συγγραφή κώδικα ταχύτερη, αλλά ότι μειώνουν περαιτέρω την τριβή της συνεργασίας ανθρώπου-μηχανής. Το μέλλον της ισχυρής ΤΝ θα αναγκάσει την ανθρωπότητα να ξανασκεφτεί τη θέση της στον πολιτισμό. Αλλά ανεξάρτητα από το πού θα φτάσει η τεχνολογία, πάντα θα υπάρχουν άνθρωποι που θα έλκονται από αυτό: ο κόσμος δεν είναι απλώς ένα έτοιμο προϊόν που πρέπει να αποδεχτούμε, ο κόσμος είναι επίσης ένα σύστημα που μπορεί να κατανοηθεί, να ανασυντεθεί και να ξαναγραφτεί.

Ήμουν ενθουσιασμένος να γράφω προγράμματα. Ακόμα είμαι. Και θα είμαι.


Edit page
Share this post:

Previous Post
[Αναδημοσίευση] Γιατί η ανεξάρτητη σκέψη είναι τόσο δύσκολη; — Οι ψυχολογικές αιτίες και η προσωπική μου εμπειρία