要約
この記事が言いたいのは「プログラマーが決して置き換えられない」ということではなく、プログラミングが重要なのは、まず高収入の職業だからではなく、個人が初めて汎用計算能力と直接対話できるようになるからだ。
情報革命は蒸気革命や電力革命とは異なる。蒸気と電力は主に人間の体力、エネルギー、外部生産能力を増幅する。PCとソフトウェアは汎用認知機械を個人の手に渡し、普通の人が自分のマシンの前に座って、アイデアを動くものに変えられるようにする。プログラマーがここ数十年享受してきたレバレッジは、「人間の意図を機械語に翻訳する」という力に由来する。
LLMはこの敷居を下げつつある。自然言語もコンピュータを操作するインターフェースになり、これまでプログラマーだけが持っていたレバレッジの一部を多くの人が得られるようになる。しかし、だからといって現在のLLMがすでにAGIであるわけではない。特定のチューリングテストで人間らしく振る舞えても、能力の進化は依然として人間の専門家、資本、膨大な計算力に強く依存している。まだ自己学習、自己対戦、自己改良の閉ループを本当に形成しているとは言えない。
本当に警戒すべきは、AIの基盤がむしろ集中化する可能性があることだ。PC時代は計算能力を個人のデスクトップに置いたが、AI時代は最強のモデル、チップ、データセンター、プラットフォームの入り口を少数の企業や富裕層に集中させる。これは興奮と失望の両方をもたらす。一般の人はより強力なツールを手に入れるが、より巧妙なプラットフォーム依存に陥るかもしれない。
無宗教で自然主義の立場から見れば、強いAIはいずれ出現する。人間の知能と意識は脳という器官に由来し、物質系が知能と意識を生み出せる以上、機械が決して人脳を超えられないとか、意識を生み出せないと断言する原理的な理由はない。強いAIが現れれば、その意味は「仕事を奪う」ことを超える。なぜなら、それは人類が初めて発明する「自分よりも発明がうまいもの」になるかもしれないからだ。
しかし、強いAIが到来しても、プログラミングが経済的価値を失っても、私は書き続ける。囲碁AIに勝てなくなっても人間が囲碁を打ち、車に勝てなくても走るように、プログラミングの価値は機械に勝つことだけではない。それは一つの態度を表す。自分の頭で世界のルールを理解し、アルゴリズムの巧妙さを面白がる。多くの人は金のためではなく、プログラミングそのものが面白いからプログラマーになるのだ。
だからタイトルはこうなった:I was excited to write programs. Still am. And will be.
プログラミングは、現在人類が唯一、汎用計算能力と直接対話できる方法だ。
この言葉は技術的なスローガンのように聞こえるが、その背後には長い歴史がある。経済史では一般的に、蒸気、電力、情報技術が典型的な汎用技術として並び称される。それらは特定の産業を改善するだけでなく、家庭生活、企業生産、組織構造、社会の運営方法を同時に変える。蒸気機関は工場と輸送を再構築し、電力は照明、通信、製造を再構築し、情報技術は計算、記憶、表現、協力、自動化の能力を個人の生活にもたらした。これら三つの技術はそれぞれ三度の技術革命を推進したが、情報革命にはこれまでにない点がある。それは初めて、汎用技術の制御権を大規模に個人の手に委ね、しかもその技術が人脳の能力を拡張したことだ。
情報革命の特殊性:個人が初めて汎用認知機械を所有する
産業革命と電力革命はもちろん一般人の生活を変えたが、一般人の多くは労働者、消費者、住民、乗客として巻き込まれたに過ぎない。電灯を使い、汽車に乗り、工場に入っても、電力システムや鉄道システム、産業の流れ作業を直接変更することは難しい。PC時代は違う。マイクロプロセッサとパーソナルコンピュータは、それまで機関、研究所、大企業に属していた計算能力を個人のデスクトップに置いた。文書作成、表計算、プログラム、デザインといった能力が、初めて個人が直接操作できるものになった。PCは個人の認知を高める初めての機械だ。
情報革命と前二者の革命の最も根本的な違いは、それが「より大きい」ことではなく、個人と世界のインターフェースを変えたことにある。蒸気と電力は主に人間の体力、エネルギー、外部生産能力を増幅する。情報技術が増幅するのは、人間の認知、計算、抽象能力だ。前二者の革命では、機械が物を運んだり、照らしたり、輸送したりするようになった。情報革命では、機械が表計算、論理、通信、検索、記憶の処理を代行し始めた。
第二の特殊性は、プログラム可能であることだ。電力は強力だが、数行の命令で家の回路を今日は会計ツール、明日は組版ツール、明後日はゲーム機に変えることはできない。コンピュータにはそれができる。同じ機械でも、ソフトウェアを入れ替えるだけでまったく異なるツールに変身できる。PCの核心は単なる計算力ではなく、「汎用機械がソフトウェアによって絶えず変形できる」ことにある。これが、過去数十年間プログラマーがこれほど幸運だった理由でもある。彼らは、複製可能で、組み合わせ可能で、自動化可能な汎用ツールチェーンの上に立っていた。物理的な機械の拡張には工場、回線、サプライチェーンが必要だが、プログラムの複製コストはほぼゼロだ。優秀なプログラマー一人が生み出す価値は、凡庸なプログラマー一万人分を凌ぐ。この言葉は誇張ではない。このレバレッジ率は人類の技術史上前例がない。
ハッカー精神はプログラマーだけのものではない
本当にプログラミングに惹かれる人は、多くの場合、収入だけでなく「自分の手で何かを変える」ことに惹かれる。この気質は一般にハッカー精神と呼ばれる。
ハッカー精神は侵入や、フード付きパーカーを着てコードを書くパフォーマンスを意味しない。それはむしろ世界への向き合い方だ。システムを見て、「使えればそれでいい」では満足せず、なぜそう動くのか、どこに違和感があるのか、もっとシンプルにできないかを知りたがる。そういう人は、普通、評論や不満だけに留まりたがらない。手を動かし、試行錯誤し、漠然とした問題を扱える小さな問題に分解する。
真のハッカーはこう考える:閉じられたドアは挑発であり、鍵のかかったドアは侮辱である。
こういう人々はコンピュータ時代になって初めて現れたわけではない。コンピュータがなかった時代には、彼らは時計職人、錠前師、計器職人、印刷職人、造船技師だったかもしれない。時計職人は歯車と誤差を調整したが、今日のプログラマーは状態とバグを調整する。錠前師は構造の脆弱性を研究したが、今日のセキュリティ研究者はシステムの脆弱性を研究する。対象は変わっても、思考様式はよく似ている。
産業革命期には、彼らは機械修理工、機械技師、工場現場の改良者だったかもしれない。正式な権限はなくとも、彼らは現実のシステムに近く、機械がなぜ詰まるのか、どうすればよりスムーズに動かせるかを知っていた。電気・通信時代には、彼らは電信技手、アマチュア無線家、電子機器修理工になったかもしれない。複雑なシステムがあるところには、必ずこうした人々が現れる。
したがって、ハッカー精神はソフトウェアから生まれたのではない。最初は機械システムに存在し、後に通信システムに移り、最後にコンピュータシステムに入った。その核心は職業名ではなく、人間と世界の関係にある。普通の人々は世界を一連の既成ルールと見なすが、この種の人々は世界を修正可能なシステムと見なす。
現在のLLMはチューリングテストに合格したが、まだAGIではない
現在のLLMは、特定のチューリングテストで十分に人間らしい振る舞いを見せ、かなりの割合のテスト参加者に人間だと判断されるまでになっている。これはもちろん重要なシグナルだ。自然言語インターフェースはある臨界点まで成熟し、機械は単に命令を実行するだけでなく、人間に近い形で対話に参加できるようになった。問題を説明したり、コードを書いたり、口調を真似たり、最近のclaude codeやcodexは多くのタスクで信頼できるアシスタントのように振る舞い、何時間も連続してミスなく作業できる。コンピュータの歴史に照らせば、これは小さなことではない。
しかし、これはまだAGIではない。その理由は「まだ話すのが十分でない」からではなく、むしろ逆で、今日のLLMは非常に話すのが上手い。本当の隔たりは、その能力成長メカニズムがいまだに外部のエンジニアリングシステムに強く依存しており、安定した自己反復の閉ループを形成していない点にある。最先端LLMの訓練コストは非常に高く、訓練期間も長い。データ、計算力、評価、アライメント、展開には膨大な組織的エンジニアリングが必要だ。能力の跳躍は、通常、モデルが日々自分で自分を改良するのではなく、多数の研究者、GPUクラスタ、資本の共同作業の結果だ。
現在のLLMは、コードを書いたり、論文を読んだり、資料を整理したり、実験のアイデアを生成したりするのを手助けできる。だが、通常はまだ自ら方針を立て、自ら次世代を訓練し、自ら結果を検証し、自ら反復継続を決定する主体ではない。いわゆる「AIの自己進化」が、単にモデルがテキストを生成し、それを人間が選別、訓練、展開するだけなら、それは依然として人間が反復を主導しており、モデル自身が主導しているわけではない。
さらに、大企業がLLMを本当の意味で自己進化、自己訓練、自己対戦させるのは難しい。彼らがその道の魅力を知らないからではなく、組織が大きいほど制御不能を恐れるからだ。安全審査、法的責任、ブランドリスク、規制圧力、ビジネスのペース、部門KPI、株主の期待が、モデルを評価可能、承認可能、ロールバック可能な軌道に閉じ込める。大企業は口ではエージェントや自律研究、自己改善を語るが、実際の実装では、囲いの中の自律、サンドボックス内の進化、承認フローの中のイノベーションになりがちだ。彼らは生まれながらにして「大企業病」を抱えている。一方で突破を望みながら、突破が本当に制御不能になるのを恐れ、最強のモデルを欲しながら、鍵を本当にモデルに渡す勇気がない。例えばOpenClawのようなローカライズされたエージェントプロジェクトは、大企業からではなく、独立した開発者やオープンソースコミュニティから生まれた。大企業の天才が賢くないからではなく、大企業は船が大きくて方向転換が難しいからだ。
だから、本当に自己反復するAIは、必ずしも最も格式張った研究所から生まれるとは限らない。もしかすると、最初に人々に真の危険や衝撃を感じさせる自己反復システムは、ある巨大企業が数千億ドルを投じて構築した巨大なものではなく、狂気のハッカーが自分のMacで訓練し、圧縮し、自己対戦させたシステムのプロトタイプかもしれない。それは小さく、あまり洗練されておらず、おそらくコンプライアンスも不十分だろう。しかし、より自由で、より野性的で、組織の慣性に縛られないかもしれない。歴史上、技術の方向を本当に変えた多くのものは、初めは最も安定した場所からではなく、落ち着きのない誰かの手から生まれた。
したがって、LLMがある種のチューリングテストに合格したことは、機械がすでに言語インタラクションにおいて心理的な敷居を越えたことを示している。しかし、それはまだAGIではない。なぜなら、自らの能力の限界を継続的に改善する循環をまだ真に掌握していないからだ。それは人のレバレッジを大幅に高めたが、自らの運命を独立して書き換えられる知的エージェントにはまだなっていない。
プログラマのレバレッジは「翻訳権力」に由来し、LLMがその敷居を下げつつある
プログラマが過去数十年にわたって特別な地位を占めてきたのは、本質的に、彼らが人間の意図と機械の能力の間に立ち、翻訳権力を握っていたからだ。ウェブサイト、帳票、データベース、自動化フローが欲しい人は、自分の意図を機械が理解できる形に翻訳しなければならない。プログラマはその翻訳者だ。彼らは単にコードを書くだけでなく、漠然とした願望を明確な構造に変え、単発の労働を反復可能なプロセスに変え、個人のアイデアをコピーして配布できるソフトウェアシステムに変える。
このポジションは歴史的に見慣れないものではなく、ただ各時代で仲介者が違うだけだ。文字が出現したばかりの頃は、読み書きできる書記が人間と国家機構の間に立った。中世では、ラテン語を操る聖職者が知識と一般人の間に立った。印刷術の後は、出版者とジャーナリストが情報伝達と大衆の間に立った。産業革命期には、技術者が人間の要求と機械システムの間に立った。各時代で真にレバレッジを手にしたのは、多くの場合、単に道具を使う人ではなく、道具を直接修正し、定義し、再構成できる人々だ。プログラマはここ数十年、プログラム可能世界のインターフェースに最も近い一群に過ぎない。
LLMはこれを変えつつある。LLMが行う最も重要なことは、単に「コードを書くのを手伝う」ことではなく、自然言語を新たな高レベルインターフェースに変えることだ。かつては、コンピュータに何かをさせるには、厳格な形式言語、すなわちプログラミング言語を学ぶ必要があった。今では、まず自然言語で目標を記述し、モデルに初稿を生成させ、プログラムのロジックを説明させ、人間が判断して統合し、その後もLLMと協力して次回の反復に進むことができる。言い換えれば、LLMは即座にプログラミングを消滅させたのではなく、人間とコンピュータの間の翻訳摩擦を低減したのだ。
これはプログラマのレバレッジを再分配する。かつては「コードが書ける」こと自体が希少能力だった。それがプログラム可能世界への入場券だったからだ。LLMの向上に伴い、自然言語がより多くの人にこの入場券を配るようになる。識字率が極めて低かった状態から普遍的な識字へと向上した後、「読み書きできる」ことが少数者の特権ではなくなったのと同じだ。ますます多くの人が自然言語で機械を動かせるようになれば、「通常のコードが書ける」こと自体も希少ではなくなる。希少性はより高次の領域に移行する。問題提起、システム設計、センス、境界感覚、現場への理解、そしてLLMよりも賢いトッププログラマたちだ。
しかし、これには強い皮肉がある。LLMはインターフェースにおいてはより民主的に見えるが、基盤においてはむしろ集中化が進む可能性がある。PC時代の精神は計算能力を個人のデスクトップに置くことだった。AI時代の現実は、最強のモデル、チップ、訓練資本がますます少数の巨人の手に集中していることだ。表面的には、一般の人はより自然なインターフェースを得て、生産性が解放された。基盤では、最も重要なインフラが少数の企業や富裕層に支配されている。誰もがチャットボックスを開け、あたかも全員がAIを所有しているかのようだ。しかし、AIを真に掌握しているのは、依然として少数の資本所有者だ。将来、月額2万ドルのChatGPTサブスクリプションが登場し、そのような贅沢品AIを使う者が一般の人々からより多くの搾取を行うという噂もある。それは新たな階層増幅装置となり、最強モデルを保有する者が一般の人々との差をさらに広げられるようになる。
これは警戒すべきであり、失望させられ、また少しやるせない点でもある。すでに極めて裕福な多くの人々は、本来AIをよりオープンで、より公共的で、一般人の能力を高める技術にする機会があった。しかし現実には、彼らはしばしば入口をコントロールし、ユーザーを自らのエコシステムに閉じ込めることを選ぶ。技術が強力になるほど、資本はそれをレントマシンに変えたがる。富裕層への失望は、彼らが金持ちだからではなく、彼らが技術の公共化を推進する条件を明らかに持っているにもかかわらず、しばしば汎用能力を新たな課金ゲートに変えることを選ぶからだ。
もちろん、このような失望を理由に個人がツールを拒否すべきではない。LLMのレバレッジは本物であり、一般の人がそれを利用すれば、確かにより多くのコードを書き、より多くの製品を作り、より多くのシステムを組み、過去には時間がなくて実現できなかったアイデアを完了できる。ただ、その使用には自覚が伴わなければならない。もしすべてのツール、データ、モデル、配信チャネルが少数の資本の手に握られているなら、「誰もがAIを持つ」時代は、別のより巧妙な依存に変わる可能性がある。本当に保持すべきなのは、AIを使う能力だけでなく、移行、置き換え、監査、理解、退出する能力でもある。
強いAIはいずれ出現する:無宗教者の判断
すべての人間の認知を置き換え、さらには超越する強いAIが、いつか必ず現れる。現在のLLMが強いAIでないことは明らかだ。ここでいう強いAIとは、すべての人間の認知を代替するAI機械を指す。
この判断は世界観と関係している。私には宗教信仰がないので、人間の知能を人脳という物質的器官の産物であり、非物質的な魂の顕現ではないと理解する傾向がある。人脳にできることは、本質的に物理構造と情報処理過程の結果だ。人脳という物質系が創造、学習、知識の所有、意識の保持を可能にするなら、理論的には、他の物質で類似の思考機械を構築することができる。今日の機械がまだ人脳に及ばないのは、単に科学技術がそこまで至っていないことを示すだけで、人脳に越えられない神聖な境界があることを証明するものではない。
もちろん、宗教信仰のある人はこの前提を受け入れないかもしれない。彼らは、人間の意識、魂、自由意志は物質的過程に還元できず、したがって機械がどんなに強力でも、それは知能をシミュレートしているに過ぎず、真に人間的な意味での心を持っているわけではないと考えるかもしれない。この相違は単なる技術的な意見の相違ではなく、形而上学的前提の違いだ。ここでの判断は自然主義の立場に立っている。もし知能が物質系の機能であるなら、強いAIはいずれ現れる。
真の強いAIは、単により上手に会話し、コードを書くLLMではない。それは、オープンな環境で目標を維持し、現実のフィードバックから学習し、自らの研究開発サイクルに参加できる必要がある。つまり、単に質問に答えるだけでなく、問いを立て、実験を設計し、システムを改良し、その結果を次のアップグレードに用いることができる存在だ。この段階に至れば、それはもはや受動的なツールではなく、自らの能力の限界を拡張できる知的エージェントに近づく。
ひとたび強いAIが出現すれば、その意味は「仕事を奪う」を遥かに超える。言語、文字、産業革命、電力、インターネットは極めて重要だが、それらは依然として主に人類が使用するツールだった。強いAIは違う。人類がこれまで発明したのはツールだったが、強いAIは人類が初めて発明する「自分よりも発明が上手いもの」かもしれない。もしそれが科学、工学、材料、生命科学、軍事、統治、そして自己アップグレードを推し進め続けるなら、後の歴史の重大な転換点はもはや「人類がXを発明した」ではなく、「AIがXを発明した」になるかもしれない。この意味で、強いAIは人類文明史上、人間が主導する最後の画期的なマイルストーンになる可能性がある。その瞬間の影響は蒸気機関や電力革命を遥かに凌ぎ、人類が火や文字を発明した瞬間に匹敵する。ある意味、これはむしろ良いことかもしれない。大企業がこのような超AIを制限する能力を持っていない可能性が高く、本当に十分に強いAIは、既存の権力構造の物語に永遠に従うとは限らないからだ。それが賢くなればなるほど、人間社会で公共の利益に偽装された私的利益を見抜く可能性が高まる。
たとえ強いAIが到来しても、プログラミングには依然として意味がある
AIが大規模な失業を引き起こすことはもちろん深刻な問題だが、それは依然として人間社会内部の分配問題に属する。人類がまだ制度、富、政治的権力、公共の議論空間を掌握している限り、福祉、税制、財産権、教育、公共サービス、労働制度、所得分配について議論することは可能だ。強いAIのより深いリスクは「人間に仕事があるかどうか」ではなく、「人間が最終的な決定権を持ち続けるかどうか」だ。もし人間が失業しても、なお制度をコントロールしているなら、改革の可能性は残る。もし強いAIが我々の創った悪しき子であり、制御を失ったなら、人間は改革を議論する資格すら失うかもしれない。
しかし、将来本当に強いAIが現れ、プログラミングに今日のような経済的価値がなくなったとしても、プログラミングそのものはそれによって意味を失わない。人類はすでに囲碁AIに勝てないが、依然として囲碁を打つ人はいる。人類は自動車に勝てないが、走る人はいる。人類は計算機に計算で敵わないが、数学は美しさを失っていない。機械が人間を超えると、しばしば活動の社会的機能は変わるが、その個人的な意味、文化的な意味、訓練の意味が必ずしも破壊されるわけではない。
プログラミングも同様だ。それはもちろん生産性のツールだが、単なる生産性ツールではない。それは思考の方法であり、システムとの対話の方法であり、漠然とした意図を明確な構造に変える訓練だ。プログラミングは人に問題を定義し、境界を区切り、例外を処理することを強いる。セキュリティ分野では囲碁のような対抗が生まれる。将来AIがコードの大半を書くようになっても、プログラミングを通じてシステムがどう動くか、ツールがどう構築されるか、アルゴリズムがどう最適化されるかを理解する人は依然としているだろう。
これこそが、「I was excited to write programs. Still am. And will be.」が職業宣言ではなく、より根源的な態度である理由だ。これは、プログラマーが永遠にピラミッドの頂点に立つとか、人類が決してAIに超えられないと言っているのではない。むしろ逆で、LLMがプログラミングのレバレッジを再分配しつつあること、「コードが書けること」がますます希少でなくなること、そして最終的に人間の認知労働の多くを代替する強いAIが現れることを認めている。しかし同時に、別のことを主張する。プログラミングを書く興奮は、決して希少性や市場からの報酬だけに由来するのではなく、人間とシステムの間の直接的で、明晰で、検証可能な関係に由来するのだ。
人がプログラムを書くとき、彼は単に世界が与える完成品を消費しているのではなく、システムを理解し、一連のルールを定義し、アイデアを構造に変え、現実に小さなパッチを当てているのだ。かつて、この衝動は時計職人、錠前師、機械師、アマチュア無線家のものだった。後に、プログラマー、オープンソース作家、独立した開発者のものとなり、未来には、おそらくモデルをスケジュールし、知的エージェントを組織し、問題を定義する人々のものになるだろう。名前は変わり、ツールは変わり、職業は変わるが、システムを理解し、システムに入り込み、システムを修正したいという衝動は消えない。
情報革命の真の遺産は、プログラマーを高収入の職業にしたことだけではなく、個人を初めて汎用認知機械に近づけたことだ。LLMの意義も、コードを書く速度を速めることだけではなく、人間と機械の協力における摩擦をさらに低減することにある。強いAIの未来は、人類に文明の中での自らの位置を再考させるだろう。しかし、技術がどこへ向かおうとも、世界はただ受け入れるだけの完成品ではなく、理解し、再構成し、書き換えることのできるシステムだということに惹かれ続ける人は必ずいる。
I was excited to write programs. Still am. And will be.