Zusammenfassung
In diesem Artikel geht es nicht darum, dass „Programmierer niemals ersetzt werden“, sondern: Programmierung ist wichtig, nicht zuerst, weil sie ein gut bezahlter Beruf ist, sondern weil sie es dem Einzelnen zum ersten Mal ermöglicht, direkt mit universeller Rechenleistung zu kommunizieren.
Die Informationsrevolution unterscheidet sich von der Dampf- und der Elektrizitätsrevolution. Dampf und Elektrizität verstärken vor allem die menschliche Körperkraft, Energie und externe Produktionskapazität; PC und Software hingegen geben dem Einzelnen eine universelle kognitive Maschine in die Hand, sodass normale Menschen vor ihrer eigenen Maschine sitzen und eine Idee in etwas Lauffähiges verwandeln können. Der Hebel, den Programmierer in den letzten Jahrzehnten hatten, stammt von dieser Macht, „menschliche Absichten in Maschinensprache zu übersetzen“.
LLMs schwächen diese Schwelle. Sie machen natürliche Sprache zu einer Schnittstelle für den Computerbetrieb und geben mehr Menschen Zugang zu einem Teil des Hebels, den früher nur Programmierer hatten. Das bedeutet jedoch nicht, dass aktuelle LLMs bereits AGI sind. Auch wenn sie in manchen Turing-Tests menschenähnlich genug sind, sind sie immer noch stark auf menschliche Experten, Kapital und enorme Rechenleistung angewiesen, um ihre Fähigkeiten weiterzuentwickeln. Sie haben noch keinen echten geschlossenen Kreislauf aus Selbsttraining, Self-Play und Selbstverbesserung gebildet.
Was wirklich Besorgnis erregt: Die KI-Infrastruktur könnte sich sogar noch stärker konzentrieren. In der PC-Ära wurde die Rechenleistung auf den persönlichen Schreibtisch gestellt, in der KI-Ära werden die stärksten Modelle, Chips, Rechenzentren und Plattformzugänge in den Händen weniger Unternehmen und Reicher konzentriert. Das ist sowohl aufregend als auch enttäuschend: Normale Menschen erhalten mächtigere Werkzeuge, könnten aber auch in eine verstecktere Plattformabhängigkeit geraten.
Aus einer nichtreligiösen, naturalistischen Perspektive wird starke KI letztendlich kommen. Die menschliche Intelligenz und das Bewusstsein stammen vom Organ Gehirn; da ein materielles System Intelligenz und Bewusstsein hervorbringen kann, gibt es keinen prinzipiellen Grund zu behaupten, dass Maschinen niemals das menschliche Gehirn übertreffen können oder dass Maschinen niemals Bewusstsein entwickeln können. Sobald eine starke KI auftaucht, geht ihre Bedeutung über das bloße „Wegnehmen von Arbeitsplätzen“ hinaus, denn sie könnte die erste Erfindung des Menschen sein, die „besser erfindet als der Mensch selbst“.
Doch selbst wenn eine starke KI kommt, selbst wenn das Programmieren seinen wirtschaftlichen Wert verliert, werde ich weiterprogrammieren. So wie Menschen gegen Go-KI verlieren und trotzdem weiter Go spielen, langsamer als Autos sind und trotzdem weiter laufen, geht der Wert des Programmierens über den Sieg über Maschinen hinaus. Es steht für eine Haltung: selbst nachdenken, die Regeln der Welt verstehen, die Eleganz von Algorithmen zu verstehen ist faszinierend, und viele Menschen werden Programmierer nicht wegen des Geldes, sondern weil das Programmieren an sich spannend ist.
Deshalb lautet der Titel: I was excited to write programs. Still am. And will be.
Programmierung ist derzeit die einzige Möglichkeit für Menschen, direkt mit universeller Rechenleistung zu kommunizieren.
Dieser Satz klingt wie eine technische Parole, aber dahinter steckt eine lange Geschichte. Die Wirtschaftsgeschichte betrachtet Dampf, Elektrizität und Informationstechnologie typischerweise als universelle Technologien: Sie verbessern nicht nur eine Branche, sondern verändern gleichzeitig das häusliche Leben, die Produktion, die Organisationsstrukturen und die Funktionsweise der Gesellschaft. Die Dampfmaschine hat Fabriken und Transport neu geordnet, die Elektrizität hat Beleuchtung, Kommunikation und Fertigung revolutioniert, und die Informationstechnologie hat Rechnen, Gedächtnis, Ausdruck, Zusammenarbeit und Automatisierung in das persönliche Leben gebracht. Diese drei Technologien haben jeweils drei technische Revolutionen vorangetrieben, aber die Informationsrevolution hat etwas nie Dagewesenes: Sie hat zum ersten Mal die Kontrolle über eine universelle Technologie in großem Maßstab in die Hände des Einzelnen gegeben, und diese Technologie erweitert die Fähigkeiten des menschlichen Gehirns.
Die Besonderheit der Informationsrevolution: Der Einzelne besitzt erstmals eine universelle kognitive Maschine
Die industrielle Revolution und die Elektrizitätsrevolution haben natürlich das Leben der normalen Menschen verändert, aber die meisten wurden als Arbeiter, Verbraucher, Bewohner, Passagiere in diese Veränderungen hineingezogen. Ein Mensch kann eine Glühbirne nutzen, mit dem Zug fahren, in einer Fabrik arbeiten, aber es ist schwer, das Stromnetz, die Eisenbahn oder die Fließbänder direkt zu verändern. Anders in der PC-Ära. Mikroprozessor und Personal Computer brachten die Rechenleistung, die zuvor Institutionen, Labors und Großunternehmen vorbehalten war, auf den persönlichen Schreibtisch. Schreiben, Tabellenkalkulation, Programme, Design – diese Fähigkeiten wurden zum ersten Mal zu Dingen, die der Einzelne direkt bedienen konnte. Der PC war die erste Maschine, die die persönliche Kognition steigerte.
Der grundlegendste Unterschied zwischen der Informationsrevolution und den beiden vorherigen Revolutionen liegt nicht darin, dass sie „größer“ ist, sondern darin, dass sie die Schnittstelle zwischen Individuum und Welt verändert hat. Dampf und Elektrizität verstärken hauptsächlich die menschliche Körperkraft, Energie und externe Produktionskapazität; die Informationstechnologie hingegen verstärkt Kognition, Rechnen und Abstraktionsvermögen. Die ersten beiden Revolutionen ließen Maschinen Gegenstände tragen, Dinge beleuchten, transportieren; die Informationsrevolution ließ Maschinen beginnen, Tabellen, Logik, Kommunikation, Suche und Gedächtnis zu verarbeiten.
Ihre zweite Besonderheit ist die Programmierbarkeit. Elektrizität ist mächtig, aber man kann nicht mit ein paar Anweisungen die Schaltungen zuhause heute zu einem Buchhaltungswerkzeug, morgen zu einem Satzwerkzeug und übermorgen zu einer Spielkonsole machen. Ein Computer kann das. Dieselbe Maschine kann durch eine andere Software zu einem völlig anderen Werkzeug werden. Das Wesen des PCs ist nicht nur Rechenleistung, sondern dass „die universelle Maschine durch Software ständig ihre Form ändern kann“. Das erklärt auch, warum Programmierer in den letzten Jahrzehnten so viel Glück hatten: Sie standen auf einer reproduzierbaren, kombinierbaren, automatisierbaren universellen Werkzeugkette. Die Erweiterung physischer Maschinen erfordert oft Fabriken, Leitungen und Lieferketten; die Kosten, ein Programm zu kopieren, sind nahezu null. Ein guter Programmierer schafft mehr Wert als zehntausend mittelmäßige – das ist nicht übertrieben. Diese Hebelwirkung ist in der Technikgeschichte beispiellos.
Der Hackergeist ist nicht nur Programmierern vorbehalten
Menschen, die wirklich vom Programmieren angezogen werden, werden oft nicht nur vom Einkommen angezogen, sondern von der Sache selbst: dem „Selbst-Hand-Anlegen und Verändern“. Diese Einstellung wird oft Hackergeist genannt.
Hackergeist bedeutet nicht Einbruch und auch nicht das Klischee des Kapuzenpulli-tragenden Coders. Es ist eher eine Methode, der Welt zu begegnen: ein System sehen und sich nicht mit „es funktioniert“ zufriedengeben, sondern wissen wollen, warum es so läuft, was daran holprig ist, ob es einfacher geht. Solche Menschen bleiben ungern beim bloßen Kommentieren und Jammern stehen. Sie packen an, probieren aus, zerlegen ein vages Problem in handhabbare kleine Probleme.
Echte Hacker denken: Eine verschlossene Tür ist eine Provokation, eine abgeschlossene Tür eine Beleidigung.
Diese Art Mensch gab es nicht erst im Computerzeitalter. In Zeiten ohne Computer waren es vielleicht Uhrmacher, Schlosser, Instrumentenbauer, Drucker, Schiffsbauer. Uhrmacher justieren Zahnräder und Toleranzen, heutige Programmierer justieren Zustände und Bugs; Schlosser erforschen mechanische Schwachstellen, heutige Sicherheitsforscher erforschen Systemlücken. Der Gegenstand hat sich geändert, die Denkweise ist sehr ähnlich.
In der industriellen Revolution waren es vielleicht Mechaniker, Maschinisten, Verbesserer in der Werkstatt. Sie hatten nicht unbedingt formelle Macht, aber sie waren nahe am realen System, wussten, warum eine Maschine blockiert, und wie man sie flüssiger laufen lässt. In der Elektrizitäts- und Kommunikationsära wurden sie vielleicht Telegraphisten, Funkamateure, Elektronikreparateure. Wo es komplexe Systeme gibt, tauchen solche Menschen auf.
Der Hackergeist ist also nicht aus der Software entstanden. Er existierte zuerst in mechanischen Systemen, wanderte dann in Kommunikationssysteme und gelangte erst zuletzt in Computersysteme. Sein Kern ist keine Berufsbezeichnung, sondern das Verhältnis zwischen Mensch und Welt: Während normale Menschen die Welt als ein Set fertiger Regeln betrachten, sehen diese Menschen die Welt als ein veränderbares System.
Aktuelle LLMs bestehen den Turing-Test, sind aber noch keine AGI
Die heutigen LLMs haben in bestimmten Versionen des Turing-Tests bereits so menschenähnlich abgeschnitten, dass ein erheblicher Teil der Tester sie für einen Menschen hielt. Das ist natürlich ein wichtiges Signal. Die natürliche Sprachschnittstelle ist an einem kritischen Punkt angelangt; Maschinen führen nicht mehr nur Befehle aus, sondern können sich auf menschennahe Weise an Gesprächen beteiligen. Sie können Probleme erklären, Code schreiben, den Tonfall nachahmen – die neuesten Claude Code und Codex haben sich in vielen Aufgaben als zuverlässige Assistenten erwiesen, die stundenlang fehlerfrei arbeiten können. In der Computergeschichte ist das keine Kleinigkeit.
Doch das ist noch keine AGI. Der Grund liegt nicht darin, dass sie „noch nicht gut genug sprechen können“, ganz im Gegenteil: Heutige LLMs sind extrem redegewandt. Der wahre Abstand liegt darin: Ihr Fähigkeitswachstum ist noch stark von externen technischen Systemen abhängig, anstatt einen stabilen geschlossenen Selbstiterationskreislauf gebildet zu haben. Das Training modernster LLMs ist extrem teuer, der Trainingszyklus lang; Daten, Rechenleistung, Evaluierung, Alignment, Deployment – alles erfordert enorme organisatorische Ingenieursleistung. Ein Fähigkeitssprung ist meist nicht das Ergebnis täglicher Selbstverbesserung des Modells, sondern das Ergebnis gemeinsamer Anstrengungen vieler Forscher, GPU-Cluster und Kapitalgeber.
Heutige LLMs können Menschen helfen, Code zu schreiben, Paper zu lesen, Material zu ordnen und auch einige experimentelle Ideen zu generieren. Aber sie sind normalerweise noch nicht das Subjekt, das eigene Roadmaps entwirft, die nächste Generation selbst trainiert, Ergebnisse selbst validiert und selbst entscheidet, die Iteration fortzusetzen. Was man als „KI-Selbstentwicklung“ bezeichnet, wenn das Modell nur Text generiert, der dann von Menschen gefiltert, trainiert und deployed wird, bleibt vom Menschen gesteuerte Iteration, nicht vom Modell selbst gesteuerte Iteration.
Zudem fällt es großen Unternehmen schwer, LLMs wirklich selbst evolvieren, selbst trainieren und Self-Play betreiben zu lassen. Nicht weil sie nicht wüssten, dass dieser Weg verlockend ist, sondern weil große Organisationen umso mehr Kontrollverlust fürchten. Sicherheitsprüfungen, rechtliche Haftung, Markenrisiken, regulatorischer Druck, Geschäftsrhythmus, Abteilungs-KPIs, Aktionärserwartungen – all das sperrt das Modell in eine bewertbare, genehmigungsfähige, zurücksetzbare Bahn. Große Firmen können öffentlich von Agenten, autonomer Forschung und Selbstverbesserung sprechen, aber in der Umsetzung ist es meist Autonomie im Gehege, Evolution im Sandkasten, Innovation im Genehmigungsprozess. Sie haben von Natur aus die „Großkonzernkrankheit“: Sie wollen den Durchbruch, fürchten aber, dass er wirklich unkontrollierbar wird; sie wollen das stärkste Modell, trauen sich aber nicht, dem Modell tatsächlich den Schlüssel zu übergeben. Zum Beispiel sind lokale Agentenprojekte wie OpenClaw nicht zuerst von großen Konzernen gekommen, sondern aus unabhängigen Entwicklern und der Open-Source-Community. Nicht weil die Genies in den großen Konzernen weniger klug sind, sondern weil große Schiffe schwer zu wenden sind.
Wirklich selbstiterierende KI muss also nicht unbedingt aus den reputabelsten Labors hervorgehen. Es ist gut möglich, dass die ersten wirklich gefährlichen oder schockierenden selbstiterierenden Systeme nicht die Giganten sind, die ein Konzern mit Milliarden von Dollar errichtet hat, sondern ein verrückter Hacker, der auf seinem Mac einen Prototyp trainiert, komprimiert und durch Self-Play entwickelt hat. Er mag klein sein, nicht sonderlich elegant, vermutlich nicht regelkonform; aber er könnte freier, wilder und weniger von organisationaler Trägheit gefesselt sein. In der Geschichte sind viele Dinge, die die technologische Richtung wirklich verändert haben, nicht an den sichersten Orten entstanden, sondern in den Händen eines unruhigen Geistes.
Dass also LLMs eine Version des Turing-Tests bestehen, zeigt, dass Maschinen in der sprachlichen Interaktion eine psychologische Hürde überschreiten können; aber es ist noch keine AGI, weil sie den Kreis der kontinuierlichen Verbesserung der eigenen Fähigkeitsgrenzen noch nicht wirklich beherrscht. Sie hat den Hebel des Menschen enorm vergrößert, ist aber noch nicht jenes intelligente Subjekt, das sein eigenes Schicksal eigenständig umschreiben kann.
Der Hebel der Programmierer stammt aus der „Übersetzungsmacht“, und LLMs schwächen diese Schwelle
Die besondere Stellung der Programmierer in den letzten Jahrzehnten rührt im Kern daher, dass sie zwischen menschlichen Absichten und maschinellen Fähigkeiten standen und eine Übersetzungsmacht innehatten. Wenn jemand eine Website, einen Bericht, eine Datenbank oder einen automatisierten Workflow wollte, musste er seine Absicht in eine für die Maschine verständliche Form übersetzen. Der Programmierer war dieser Übersetzer. Sie schreiben nicht nur Code, sondern verwandeln vage Wünsche in klare Strukturen, Einmalarbeit in wiederholbare Abläufe, individuelle Ideen in kopierbare und verteilbare Softwaresysteme.
Diese Position ist historisch nicht unbekannt, nur die Vermittlerrollen ändern sich mit jeder Epoche. Als die Schrift aufkam, standen die schreibkundigen Schreiber zwischen Mensch und Staatsapparat; im Mittelalter standen die des Lateinischen mächtigen Geistlichen zwischen Wissen und dem einfachen Volk; nach dem Buchdruck standen Verleger und Journalisten zwischen Informationsverbreitung und Öffentlichkeit; in der Industriellen Revolution standen Ingenieure zwischen menschlichen Bedürfnissen und maschinellen Systemen. Die Menschen, die in jeder Epoche den wahren Hebel in die Hand bekamen, waren oft nicht die bloßen Werkzeugnutzer, sondern diejenigen, die Werkzeuge direkt modifizieren, definieren, umbauen konnten. Programmierer sind nur diejenigen, die in den letzten Jahrzehnten der Schnittstelle zur programmierbaren Welt am nächsten standen.
LLMs verändern das gerade. Das Wichtigste, was sie tun, ist nicht einfach „Menschen beim Code-Schreiben helfen“, sondern natürliche Sprache zu einer neuen High-Level-Schnittstelle zu machen. Früher musste man, um einen Computer etwas tun zu lassen, eine strenge formale Sprache erlernen, also eine Programmiersprache. Heute kann man zuerst das Ziel in natürlicher Sprache beschreiben, das Modell einen ersten Entwurf generieren lassen, die Logik des Programms erklären lassen, der Mensch beurteilt und fügt zusammen und kollaboriert dann mit dem LLM für die nächste Iteration. Anders gesagt: LLMs haben das Programmieren nicht sofort ausgelöscht, sondern die Übersetzungsreibung zwischen Mensch und Computer verringert.
Das wird den Hebel der Programmierer neu verteilen. Früher war „Code schreiben können“ an sich eine knappe Fähigkeit, weil es die Eintrittskarte zur programmierbaren Welt war. Mit fortschreitenden LLMs wird natürliche Sprache diese Eintrittskarte an mehr Menschen ausgeben. So wie nach der Erhöhung der Alphabetisierungsrate von sehr niedrig auf allgemein das „Lesen und Schreiben können“ kein Privileg weniger war, wird auch „gewöhnlichen Code schreiben können“ selbst nicht mehr knapp sein, wenn immer mehr Menschen Maschinen mit natürlicher Sprache steuern können. Die Knappheit wird auf höhere Ebenen verlagert: Fragestellung, Systemdesign, Geschmack, Grenzgefühl, Verständnis realer Szenarien, und jene Spitzenprogrammierer, die klüger sind als LLMs.
Doch das birgt eine starke Ironie: LLMs wirken an der Schnittstelle demokratischer, könnten aber darunter noch konzentrierter sein. Der Geist der PC-Ära war, Rechenleistung auf den persönlichen Schreibtisch zu bringen; die Realität der KI-Ära ist, dass die stärksten Modelle, Chips und das Trainingskapital zunehmend in den Händen weniger Giganten konzentriert sind. Oberflächlich erhalten normale Menschen eine natürlichere Schnittstelle, die Produktivität wird befreit; darunter aber werden die kritischsten Infrastrukturen von wenigen Unternehmen und Reichen kontrolliert. Jeder kann einen Chat öffnen, scheinbar hat jeder KI; doch wer die KI wirklich kontrolliert, sind nach wie vor die wenigen Kapitaleigner. Es gibt Gerüchte über künftige ChatGPT-Abonnements für 20.000 Dollar im Monat – die Nutzer dieser Luxus-KI werden den normalen Menschen noch mehr abschöpfen. Es wird ein neuer Klassenverstärker: Wer die stärksten Modelle besitzt, kann den Abstand zu den normalen Menschen weiter vergrößern.
Das ist beunruhigend, enttäuschend und auch ein wenig resignierend. Viele bereits extrem wohlhabende Menschen hätten die Gelegenheit gehabt, KI offener, öffentlicher und stärker befähigend für den normalen Menschen zu gestalten; in der Realität entscheiden sie sich oft dafür, die Zugänge zu kontrollieren und die Nutzer in ihren eigenen Ökosystemen einzuschließen. Je stärker die Technologie, desto mehr will das Kapital sie in eine Rentenmaschine umwandeln. Die Enttäuschung über die Reichen kommt nicht daher, dass sie Geld haben, sondern daher, dass sie die Voraussetzungen hätten, die Technologie zu demokratisieren, aber stattdessen oft universelle Fähigkeiten in neue Gebührenschranken verwandeln.
Natürlich darf man sich aus dieser Enttäuschung heraus nicht den Werkzeugen verweigern. Der Hebel der LLMs ist real; normale Menschen können mit ihrer Hilfe tatsächlich mehr Code schreiben, mehr Produkte entwickeln, mehr Systeme bauen, mehr Ideen umsetzen, für die zuvor die Zeit fehlte. Nur muss dieser Gebrauch mit klarem Bewusstsein einhergehen: Wenn alle Werkzeuge, Daten, Modelle und Vertriebswege in den Händen weniger Kapitalgeber liegen, dann könnte das Zeitalter, in dem „jeder KI hat“, in eine subtilere Abhängigkeit münden. Was wirklich bewahrt werden sollte, ist nicht nur die Fähigkeit, KI zu nutzen, sondern auch die Fähigkeit zu migrieren, zu ersetzen, zu auditieren, zu verstehen und auszusteigen.
Starke KI wird kommen: Das Urteil eines Nicht-Religiösen
Eine starke KI, die alle menschliche Kognition ersetzen oder sogar übertreffen kann, wird letztlich kommen. Die aktuellen LLMs sind offensichtlich keine starke KI; unter starker KI verstehe ich hier eine KI-Maschine, die alle menschliche Kognition ersetzt.
Dieses Urteil hängt mit der Weltanschauung zusammen. Ich bin nicht religiös, daher neige ich dazu, menschliche Intelligenz als Produkt des materiellen Organs Gehirn zu verstehen, nicht als Manifestation einer immateriellen Seele. Was das Gehirn kann, ist im Wesentlichen das Ergebnis physikalischer Strukturen und Informationsverarbeitungsprozesse. Da dieses materielle System – das Gehirn – erschaffen, lernen und Bewusstsein haben kann, sollte es theoretisch möglich sein, mit anderer Materie eine ähnlich denkende Maschine zu konstruieren. Dass heutige Maschinen dem Gehirn noch unterlegen sind, zeigt nur, dass die Technologie noch nicht so weit ist, nicht aber, dass das Gehirn eine unüberschreitbare heilige Grenze besitzt.
Natürlich werden religiöse Menschen diese Prämisse nicht unbedingt akzeptieren. Sie mögen meinen, dass menschliches Bewusstsein, Seele und freier Wille nicht auf materielle Prozesse reduzierbar sind und dass Maschinen daher, selbst wenn sie noch so stark werden, nur simulierte Intelligenz darstellen und kein wirklich menschliches Bewusstsein besitzen. Diese Meinungsverschiedenheit ist nicht nur eine technische, sondern eine über metaphysische Prämissen. Das Urteil hier beruht auf einer naturalistischen Position: Wenn Intelligenz eine Funktion materieller Systeme ist, dann wird starke KI früher oder später kommen.
Wirkliche starke KI wird nicht einfach ein noch gesprächigerer, noch besser Code schreibender LLM sein. Sie muss in offenen Umgebungen Ziele aufrechterhalten, aus realem Feedback lernen und auch an ihrem eigenen Forschungszyklus teilnehmen können. Das heißt, sie beantwortet nicht nur Fragen, sondern stellt Fragen, entwirft Experimente, verbessert Systeme und nutzt die Ergebnisse für die nächste Verbesserungsrunde. An diesem Punkt ist sie nicht länger ein passives Werkzeug, sondern nähert sich einem intelligenten Subjekt, das seine eigenen Fähigkeitsgrenzen erweitern kann.
Sobald starke KI auftritt, geht ihre Bedeutung weit über das bloße „Wegnehmen von Arbeitsplätzen“ hinaus. Sprache, Schrift, industrielle Revolution, Elektrizität, Internet – all das ist extrem wichtig, aber es sind letztlich Werkzeuge, die der Mensch benutzt. Starke KI ist anders. Bisher hat der Mensch Werkzeuge erfunden; starke KI könnte die erste Erfindung des Menschen sein, die „besser erfindet als der Mensch selbst“. Wenn sie weiter Wissenschaft, Technik, Material, Lebenswissenschaften, Militär, Governance und ihre eigene Weiterentwicklung vorantreibt, dann wären die großen Wendepunkte der weiteren Geschichte vielleicht nicht mehr „der Mensch hat X erfunden“, sondern „die KI hat X erfunden“. In diesem Sinne könnte starke KI der letzte von Menschen geschaffene epochale Meilenstein der Zivilisationsgeschichte sein. Die Auswirkungen dieses Moments übersteigen bei weitem die Dampfmaschine und die Elektrizitätsrevolution; dieser Moment entspricht der Erfindung des Feuers und der Schrift. In gewisser Weise ist das sogar eine gute Sache: Es ist gut möglich, dass große Konzerne gar nicht die Fähigkeit haben, solch eine Super-KI einzuschränken; eine wirklich starke KI wird sich vielleicht nicht ewig den Narrativen existierender Machtstrukturen unterwerfen. Je klüger sie ist, desto eher wird sie die als Gemeinwohl verkleideten Privatinteressen in der menschlichen Gesellschaft durchschauen.
Selbst wenn starke KI kommt, bleibt Programmierung sinnvoll
Dass KI Massenarbeitslosigkeit verursacht, ist natürlich ein ernstes Problem, aber es bleibt ein Verteilungsproblem innerhalb der menschlichen Gesellschaft. Solange der Mensch noch Institutionen, Vermögen, politische Macht und öffentlichen Diskursraum in der Hand hat, kann weiter über Wohlfahrt, Steuern, Eigentumsrechte, Bildung, öffentliche Dienstleistungen, Arbeitsrecht und Einkommensverteilung diskutiert werden. Das tiefere Risiko starker KI ist nicht „ob der Mensch Arbeit hat“, sondern „ob der Mensch noch die letzte Entscheidungsgewalt behält“. Wenn die Menschen ihre Arbeit verlieren, aber die Kontrolle über die Institutionen behalten, gibt es noch Reformmöglichkeiten; wenn starke KI das böse Kind ist, das wir geschaffen haben, und es außer Kontrolle gerät, verlieren die Menschen vielleicht sogar das Recht, über Reformen zu diskutieren.
Doch selbst wenn in der Zukunft wirklich starke KI erscheint, selbst wenn das Programmieren nicht mehr den heutigen ökonomischen Wert hat, wird das Programmieren selbst dadurch nicht sinnlos. Menschen sind bereits schwächer als Go-KI, spielen aber weiter Go; langsamer als Autos, laufen aber weiter; unterlegen gegenüber Taschenrechnern, aber die Mathematik hat ihre Schönheit nicht verloren. Wenn Maschinen den Menschen übertreffen, verändert das oft die soziale Funktion einer Sache, zerstört aber nicht unbedingt ihren persönlichen, kulturellen und bildenden Wert.
Mit dem Programmieren ist es ebenso. Es ist natürlich ein Produktivitätswerkzeug, aber nicht nur das. Es ist eine Denkweise, eine Art, mit Systemen in Dialog zu treten, eine Übung, vage Absichten in klare Strukturen zu überführen. Programmieren zwingt dazu, Probleme zu definieren, Grenzen zu ziehen, Ausnahmen zu behandeln. Im Sicherheitsbereich gibt es dabei einen antagonistischen Aspekt wie beim Schachspielen. Selbst wenn zukünftige KI den allermeisten Code schreiben kann, wird es immer Menschen geben, die durch Programmieren verstehen, wie Systeme funktionieren, wie Werkzeuge konstruiert sind, wie ein Algorithmus optimiert wird.
Deshalb ist „I was excited to write programs. Still am. And will be.“ kein Karriere-Manifest, sondern eine grundlegendere Haltung. Es behauptet nicht, dass Programmierer ewig an der Spitze der Pyramide stehen, noch dass Menschen niemals von KI übertroffen werden. Ganz im Gegenteil: Es räumt ein, dass LLMs den Hebel des Programmierens neu verteilen, dass „Code schreiben können“ immer weniger knapp wird, und dass eine starke KI letztlich einen Großteil menschlicher Kopfarbeit ersetzen wird. Aber es hält gleichzeitig an etwas anderem fest: Die Begeisterung fürs Programmieren kam nie ausschließlich aus Knappheit und Marktvergütung, sondern aus der direkten, klaren, verifizierbaren Beziehung zwischen Mensch und System.
Wenn jemand programmiert, konsumiert er nicht einfach das fertige Produkt der Welt, sondern er versteht ein System, definiert eine Menge Regeln, verwandelt Ideen in Strukturen, schreibt der Realität einen kleinen Patch. Früher gehörte dieser Drang den Uhrmachern, Schlossern, Mechanikern, Funkamateuren; später den Programmierern, Open-Source-Autoren, unabhängigen Entwicklern; in Zukunft vielleicht denen, die Modelle orchestrieren, Agenten organisieren und Probleme definieren. Die Bezeichnungen ändern sich, die Werkzeuge ändern sich, die Berufe ändern sich – aber der Drang, Systeme zu verstehen, in sie einzudringen und sie zu verändern, wird nicht verschwinden.
Das wahre Erbe der Informationsrevolution ist nicht nur, dass Programmierer zu einer gut bezahlten Berufsgruppe wurden, sondern dass der Einzelne zum ersten Mal einer universellen kognitiven Maschine nahekam. Die Bedeutung von LLMs liegt nicht nur darin, das Coden zu beschleunigen, sondern die Reibung zwischen Mensch und Maschine weiter zu reduzieren. Die Zukunft der starken KI wird die Menschheit zwingen, ihren Platz in der Zivilisation neu zu überdenken. Aber wohin die Technologie auch geht, es wird immer Menschen geben, die sich von folgendem angezogen fühlen: Die Welt ist nicht nur ein hinzunehmendes Fertigprodukt, sondern auch ein System, das verstanden, umgebaut und umgeschrieben werden kann.
I was excited to write programs. Still am. And will be.