요약
이 글은 “프로그래머는 결코 대체되지 않을 것”이라고 말하려는 게 아닙니다. 오히려 프로그래밍이 중요한 이유는 단지 고소득 직업이기 때문이 아니라, 개인이 처음으로 범용 컴퓨팅 능력과 직접 대화할 수 있게 해주기 때문입니다.
정보 혁명은 증기나 전기 혁명과 다릅니다. 증기와 전기는 주로 인간의 체력, 에너지, 외부 생산 능력을 증폭시켰지만, PC와 소프트웨어는 범용 인지 기계를 개인의 손에 쥐어주어 평범한 사람이 자신의 기기 앞에 앉아 아이디어를 실행 가능한 것으로 바꿀 수 있게 했습니다. 지난 수십 년간 프로그래머의 레버리지는 바로 이런 “인간의 의도를 기계 언어로 번역하는 권한”에서 비롯되었습니다.
LLM은 이 문턱을 허물고 있습니다. 자연어도 컴퓨터를 조작하는 인터페이스가 될 수 있게 하여, 이전에는 프로그래머만 누렸던 레버리지의 일부를 더 많은 사람에게 제공합니다. 하지만 그렇다고 현재의 LLM이 벌써 AGI인 것은 아닙니다. 특정 튜링 테스트에서 사람처럼 보일지라도, 여전히 인간 전문가, 자본, 그리고 막대한 연산 능력에 의존해 능력을 발전시킵니다. 아직 자기 훈련, 자기 대국, 자기 개선의 폐쇄 루프를 진정으로 형성하지 못했습니다.
정말 경계해야 할 점은 AI의 하부 구조가 오히려 더 집중될 수 있다는 것입니다. PC 시대는 컴퓨팅 능력을 개인의 책상 위에 올려놓았지만, AI 시대는 가장 강력한 모델, 칩, 데이터센터, 플랫폼 진입로를 소수의 기업과 부자들에게 집중시키고 있습니다. 이는 우리를 흥분시키면서도 실망시킵니다. 보통 사람들은 더 강력한 도구를 얻지만, 더 은밀한 플랫폼 의존으로 빠져들 수도 있기 때문입니다.
무신론적이고 자연주의적인 관점에서 보면, 강AI는 결국 출현할 것입니다. 인간의 지능과 의식은 두뇌라는 기관에서 비롯되므로, 물질계가 지능과 의식을 만들어낼 수 있다면 기계가 인간의 두뇌를 능가하거나 의식을 가질 수 없다고 단정할 원칙적 이유가 없습니다. 강AI가 출현하면, “일자리 뺏기”를 넘어서는 의미를 갖게 될 것입니다. 인류가 처음으로 발명한 “우리보다 더 발명을 잘하는 존재”가 될 수 있기 때문입니다.
하지만 강AI가 오고 프로그래밍이 경제적 가치를 잃더라도, 저는 계속 코딩할 것입니다. 바둑 AI에게 질지라도 사람들은 여전히 바둑을 두고, 자동차보다 느려도 사람들은 달리기를 계속하듯이, 프로그래밍의 가치는 기계를 이기는 데만 있지 않습니다. 이는 세상의 규칙을 이해하기 위해 머리를 쓰고, 알고리즘의 정교함이 흥미롭다는 것을 알아차리는 태도를 대표합니다. 많은 사람들은 돈 때문이 아니라 프로그래밍 자체가 즐거워서 프로그래머가 되었습니다.
그래서 제목이 “I was excited to write programs. Still am. And will be.”인 것입니다.
프로그래밍은 현재 인류가 범용 컴퓨팅 능력과 직접 대화할 수 있는 유일한 방식입니다.
이 말은 기술적 구호처럼 들리지만, 그 뒤에는 긴 역사가 있습니다. 경제사는 보통 증기, 전기, 정보 기술을 대표적인 범용 기술로 나열합니다. 이들은 특정 산업만 개선하는 게 아니라, 가정 생활, 기업 생산, 조직 구조, 사회 운영 방식을 동시에 바꿔 놓습니다. 증기 기관은 공장과 운송을 재구성했고, 전기는 조명, 통신, 제조를 재편했으며, 정보 기술은 계산, 기억, 표현, 협업, 자동화 능력을 개인 생활로 가져왔습니다. 이 세 가지 기술은 각각 세 차례의 기술 혁명을 이끌었지만, 정보 혁명에는 유례없는 한 가지 특징이 있습니다. 바로 범용 기술의 통제권을 대규모로 개인의 손에 내려주었고, 그 기술이 인간 두뇌의 능력을 확장했다는 점입니다.
정보 혁명의 특수성: 개인이 처음으로 범용 인지 기계를 소유하다
산업 혁명과 전기 혁명은 물론 평범한 사람들의 삶을 바꿨지만, 대부분의 사람들은 노동자, 소비자, 거주민, 승객으로 휩쓸려 들어갔습니다. 누군가 전등을 쓰고, 기차를 타고, 공장에 들어갈 수는 있었지만, 전력 시스템이나 철도 시스템, 산업 조립 라인을 직접 수정하기는 매우 어려웠습니다. PC 시대는 달랐습니다. 마이크로프로세서와 개인용 컴퓨터는 원래 기관, 연구소, 대기업의 전유물이던 컴퓨팅 능력을 개인의 책상 위에 올려놓았습니다. 문서 작성, 표 계산, 프로그램, 디자인 같은 능력이 개인이 직접 조작할 수 있는 것으로 바뀐 것입니다. PC는 인간의 인지를 향상시킨 최초의 기계였습니다.
정보 혁명과 앞선 두 혁명의 근본적인 차이는 “더 크다”가 아니라, 개인과 세상의 인터페이스를 바꿨다는 데 있습니다. 증기와 전기는 주로 체력, 에너지, 외부 생산 능력을 증폭했습니다. 정보 기술은 인간의 인지, 계산, 추상화 능력을 증폭합니다. 앞선 두 혁명은 기계가 사람 대신 물건을 옮기고, 불을 밝히고, 운송하게 했습니다. 정보 혁명은 기계가 사람 대신 표, 논리, 통신, 검색, 기억을 처리하게 만들었습니다.
두 번째 특수성은 프로그래밍 가능성입니다. 전기는 강력하지만, 누구도 몇 줄의 명령으로 집 안의 회로가 오늘은 회계 도구, 내일은 편집 도구, 모레는 게임기로 변하게 할 수 없습니다. 컴퓨터는 그게 됩니다. 같은 기계라도 소프트웨어 한 겹만 바꾸면 완전히 다른 도구로 변모합니다. PC의 핵심은 단순한 연산력이 아니라, “범용 기계가 소프트웨어를 통해 끊임없이 변화할 수 있다”는 점입니다. 이는 왜 프로그래머들이 지난 수십 년간 그토록 행운아였는지를 설명해줍니다. 그들은 복제, 조합, 자동화가 가능한 범용 도구 체인 위에 서 있었습니다. 물리적 기계의 확장에는 보통 공장, 설비, 공급망이 필요하지만, 프로그램 하나를 복제하는 비용은 거의 0입니다. 뛰어난 프로그래머 한 명이 평범한 프로그래머 만 명보다 더 많은 가치를 창출할 수 있다는 말은 과장이 아닙니다. 이런 레버리지는 인류 기술사에서 전례가 없습니다.
해커 정신은 프로그래머 전유물이 아니다
진정으로 프로그래밍에 이끌리는 사람은 단순히 수입이 아니라, “직접 무언가를 고치는 행위” 자체에 매료된 경우가 많습니다. 이런 기질을 보통 해커 정신이라고 부릅니다.
해커 정신은 침입이나 후드티를 입고 코딩하는 쇼를 뜻하지 않습니다. 이는 세상을 대하는 하나의 방식에 가깝습니다. 어떤 시스템을 보았을 때, “그냥 작동하면 됐지”로 만족하지 않고, 왜 그렇게 돌아가는지, 어디가 불편한지, 어떻게 하면 더 간결해질 수 있을지 알고 싶어 합니다. 이런 사람들은 대개 논평과 불평에만 머무르길 좋아하지 않습니다. 그들은 직접 손을 대고, 시행착오를 겪으며, 모호한 문제를 처리 가능한 작은 문제들로 쪼갭니다.
진정한 해커는 이렇게 생각합니다. 닫힌 문은 도전이고, 잠긴 문은 모욕이다.
이런 사람들은 컴퓨터 시대에만 나타난 것이 아닙니다. 컴퓨터가 없던 시절에도 시계공, 자물쇠공, 기기장이, 인쇄공, 조선공이 있었습니다. 시계공은 기어와 오차를 조정했고, 오늘날 프로그래머는 상태와 버그를 조정합니다. 자물쇠공은 구조적 취약점을 연구했고, 오늘날 보안 연구원은 시스템 취약점을 연구합니다. 대상은 바뀌었지만, 사고방식은 매우 유사합니다.
산업 혁명기에는 기계공, 기술자, 작업장의 개량가가 이에 해당했을 것입니다. 그들은 공식적인 권한은 없었을지라도, 실제 시스템 가까이에서 일하며 기계가 왜 멈추는지, 어떻게 하면 더 원활하게 돌릴 수 있는지 알고 있었습니다. 전기와 통신 시대에는 전신 기사, 무선 애호가, 전자 수리공으로 변신했습니다. 복잡한 시스템이 있는 곳이면 어디든 이런 유형의 사람들이 나타납니다.
그러므로 해커 정신은 소프트웨어에서 자라난 것이 아닙니다. 먼저 기계 시스템 안에 존재했고, 이후 통신 시스템으로 이전했으며, 마지막으로 컴퓨터 시스템으로 들어왔습니다. 그 핵심은 직업 이름이 아니라, 인간과 세계의 관계입니다. 평범한 사람들은 세상을 이미 완성된 규칙의 집합으로 보지만, 이런 유형의 사람들은 세상을 수정 가능한 시스템으로 바라봅니다.
현재 LLM은 튜링 테스트를 통과했지만, 아직 AGI는 아니다
현재의 LLM은 이미 특정 튜링 테스트에서 충분히 사람처럼 행동해, 상당수의 실험 참여자가 이를 인간으로 판단하게 만들었습니다. 이는 분명 중요한 신호입니다. 자연어 인터페이스는 어느 임계점까지 성숙했고, 기계는 단순히 명령을 실행하는 수준을 넘어 인간에 가까운 방식으로 대화에 참여할 수 있게 되었습니다. 문제를 설명하고, 코드를 작성하고, 어조를 흉내 낼 수 있습니다. 최근의 Claude 코드나 Codex는 많은 작업에서 몇 시간 동안 오류 없이 일할 수 있는 신뢰할 수 있는 조수처럼 행동합니다. 컴퓨터 역사의 관점에서 보면, 이는 작은 일이 아닙니다.
하지만 아직 AGI는 아닙니다. 이유는 “충분히 말을 잘하지 못해서”가 아니라, 오히려 오늘날의 LLM은 이미 말을 아주 잘합니다. 진짜 거리는 다음과 같습니다: 능력 성장 메커니즘이 여전히 외부 공학 시스템에 크게 의존하고 있으며, 스스로 안정된 자기 진화 폐쇄 루프를 형성하지 못했다는 점입니다. 최전선의 LLM 훈련 비용은 매우 높고, 훈련 주기는 길며, 데이터, 연산력, 평가, 정렬, 배포에는 거대한 조직 공학이 필요합니다. 한 번의 능력 도약은 보통 모델이 매일 스스로 개선하는 것이 아니라, 많은 연구원, GPU 클러스터, 자본이 함께 추동하는 결과입니다.
현재 LLM은 사람이 코드를 쓰고, 논문을 읽고, 자료를 정리하고, 실험 아이디어를 생성하는 것을 도울 수 있습니다. 그러나 보통 스스로 로드맵을 제시하고, 차세대를 훈련하고, 결과를 검증하고, 계속 반복할지를 결정하는 주체가 되지는 못합니다. 소위 “AI 자기 진화”가 단지 모델이 텍스트를 생성하고, 인간이 이를 선별·훈련·배포하는 것에 그친다면, 이는 여전히 인간이 진화를 주도하는 것이지 모델이 주도하는 것이 아닙니다.
게다가 대기업도 LLM이 진정으로 자기 진화, 자기 훈련, 자기 대국을 하도록 내버려두기 어렵습니다. 그 길이 매력적이라는 걸 몰라서가 아니라, 조직이 클수록 통제력을 잃는 것을 두려워하기 때문입니다. 안전 심사, 법적 책임, 브랜드 리스크, 규제 압박, 비즈니스 일정, 부서 KPI, 주주 기대 등이 모델을 평가 가능하고, 승인 가능하고, 롤백 가능한 궤도 안에 가둡니다. 대기업은 입으로는 에이전트, 자율 연구, 자기 개선을 말할 수 있지만, 실제 실행 단계에서는 대개 울타리 안의 자율, 샌드박스 안의 진화, 결재 과정 속의 혁신에 머뭅니다. 그들은 타고난 “대기업 병”을 앓고 있습니다. 돌파구를 원하면서도 돌파가 정말 통제 불능이 되는 것은 두려워하고, 가장 강력한 모델을 원하면서도 감히 열쇠를 모델에게 맡기지 못합니다. 예를 들어 OpenClaw와 같은 로컬 에이전트 프로젝트는 대기업이 가장 먼저 내놓은 것이 아니라, 독립 개발자와 오픈소스 커뮤니티에서 자라났습니다. 대기업의 천재들이 똑똑하지 않아서가 아니라, 큰 배는 방향을 틀기 어렵기 때문입니다.
따라서 진정한 자기 진화 AI가 반드시 가장 격조 있는 연구실에서 탄생하리라는 보장은 없습니다. 개인적으로, 사람들에게 처음으로 진정한 위험이나 충격을 느끼게 할 자기 진화 시스템은 어떤 거대 기업이 수천억 달러를 쏟아부어 만든 거대한 괴물이 아니라, 어떤 미친 해커가 자신의 Mac에서 훈련, 압축, 자기 대국을 통해 만든 시스템 프로토타입일 수도 있습니다. 그것은 작고, 가장 아름답지도 않으며, 규정에도 맞지 않을 수 있습니다. 하지만 더 자유롭고, 더 거칠며, 조직의 관성에 덜 얽매일 것입니다. 역사상 기술의 방향을 진정으로 바꾼 많은 것들은, 처음에는 가장 안전한 곳이 아니라, 어떤 불안한 사람의 손에서 자라났습니다.
그러므로 LLM이 어떤 버전의 튜링 테스트를 통과했다는 것은 기계가 이미 언어적 상호작용에서 심리적 문턱 하나를 넘을 수 있음을 보여줍니다. 하지만 아직 AGI는 아닙니다. 자신의 능력 경계를 지속적으로 개선하는 순환을 진정으로 장악하지 못했기 때문입니다. LLM은 인간의 레버리지를 극적으로 높여주었지만, 아직 자신의 운명을 독립적으로 다시 쓸 수 있는 지적 주체가 되지는 못했습니다.
프로그래머의 레버리지는 ‘번역 권력’에서 나오며, LLM은 이 문턱을 허물고 있다
프로그래머가 지난 수십 년간 특별한 지위를 누렸던 것은, 본질적으로 그들이 인간의 의도와 기계의 능력 사이에서 일종의 번역 권력을 쥐고 있었기 때문입니다. 누군가 웹사이트, 보고서, 데이터베이스, 자동화 흐름을 원한다면, 반드시 자신의 의도를 기계가 이해할 수 있는 형태로 번역해야 했습니다. 프로그래머가 바로 그 번역자였습니다. 그들은 단순히 코드를 쓰는 것이 아니라, 모호한 소망을 명확한 구조로 바꾸고, 일회성 노동을 반복 가능한 프로세스로 바꾸며, 개인의 생각을 복제·배포할 수 있는 소프트웨어 시스템으로 바꾸었습니다.
이러한 위치는 역사적으로 낯선 것이 아니며, 단지 시대마다 중개자가 다를 뿐입니다. 문자가 처음 등장했을 때는 글을 아는 서기가 왕과 국가 기계 사이에 섰고, 중세에는 라틴어를 익힌 성직자가 지식과 평범한 사람들 사이에 섰습니다. 인쇄술 이후에는 출판인과 기자가 정보 확산과 대중 사이에 섰고, 산업 혁명 시기에는 엔지니어가 인간의 필요와 기계 시스템 사이에 섰습니다. 각 시대마다 진정으로 레버리지를 쥔 사람은 단순히 도구를 사용하는 사람이 아니라, 도구를 직접 수정하고, 정의하고, 재조합할 수 있는 사람들이었습니다. 프로그래머는 단지 최근 수십 년간 프로그래머블 세계의 인터페이스에 가장 가까이 다가간 무리일 뿐입니다.
LLM은 이 상황을 바꾸고 있습니다. LLM이 하는 가장 중요한 일은 단순히 “코드 작성을 돕는 것”이 아니라, 자연어를 새로운 고급 인터페이스로 만드는 것입니다. 과거에는 누군가 컴퓨터로 하여금 일을 시키려면 반드시 엄격한 형식 언어, 즉 프로그래밍 언어를 배워야 했습니다. 이제는 먼저 자연어로 목표를 설명하고, 모델이 초안을 생성하고, 프로그램의 논리를 설명하게 한 다음, 사람이 판단하고 통합하며, LLM과 협력 반복하여 다음 반복을 진행할 수 있습니다. 다시 말해 LLM은 프로그래밍을 즉각적으로 없애는 것이 아니라, 인간과 컴퓨터 사이의 번역 마찰을 낮추는 것입니다.
이는 프로그래머의 레버리지를 재배분할 것입니다. 과거에는 “코드를 쓸 수 있다”는 것 자체가 희소 능력이었습니다. 왜냐하면 그것이 프로그래머블 세계로 들어가는 티켓이었기 때문입니다. LLM이 발전함에 따라 자연어는 이 티켓을 더 많은 사람에게 나눠줄 것입니다. 문해율이 극히 낮은 수준에서 보편적 문해로 높아진 후, “읽고 쓸 수 있다”는 소수의 특권이 아니게 된 것처럼, 점점 더 많은 사람들이 자연어로 기계를 구동할 수 있게 되면, “일반적인 코드를 쓸 수 있다”는 것 자체도 더 이상 희소하지 않게 될 것입니다. 희소성은 더 높은 층위로 이동할 것입니다: 문제 제기, 시스템 설계, 안목, 경계 감각, 실제 현장에 대한 이해, 그리고 LLM보다 더 똑똑한 최상위 프로그래머에게로 말이죠.
하지만 여기에는 강한 아이러니가 있습니다. LLM은 인터페이스 측면에서 더 민주적으로 보이지만, 하부 구조는 더 집중될 수 있습니다. PC 시대의 정신은 컴퓨팅 능력을 개인의 책상 위에 두는 것이었습니다. AI 시대의 현실은 가장 강력한 모델, 칩, 훈련 자본이 점점 더 소수 거대 기업의 손에 집중된다는 것입니다. 표면적으로는 평범한 사람들이 더 자연스러운 인터페이스를 얻고 생산성이 해방됩니다. 그러나 그 아래에서는 가장 중요한 인프라가 소수 기업과 부자들에 의해 통제됩니다. 누구나 채팅창을 열 수 있고, 누구나 AI를 가진 것처럼 보입니다. 하지만 진정으로 AI를 통제하는 사람은 여전히 소수 자본가들입니다. 앞으로 월 2만 달러짜리 ChatGPT 구독이 나올지도 모른다는 소문이 있고, 그런 사치품 AI를 사용하는 사람들은 보통 사람들로부터 더 많은 이익을 착취할 것입니다. 이는 새로운 계층 증폭기가 될 것입니다. 가장 강력한 모델을 소유한 사람들이 보통 사람들과의 격차를 더욱 벌릴 수 있게 됩니다.
이는 경계하고, 실망스럽고, 다소 어쩔 수 없는 부분이기도 합니다. 이미 엄청나게 부유한 많은 사람들은 AI를 더 개방적이고, 더 공공적이며, 보통 사람들을 더 강화시킬 수 있는 기술로 만들 기회가 있었습니다. 그러나 현실에서 그들은 여전히 진입구를 통제하고 사용자들을 자신의 생태계에 가두는 방식을 선택하는 경우가 많습니다. 기술이 강력해질수록 자본은 그것을 지대 추출 기계로 바꾸려고 합니다. 부자들에 대한 실망은 그들이 돈이 많아서가 아니라, 기술의 공공화를 추동할 조건을 갖추고도 종종 범용 능력을 새로운 요금 징수소로 바꾸기 때문입니다.
물론, 개인은 이런 실망 때문에 도구를 거부할 수는 없습니다. LLM의 레버리지는 실제입니다. 보통 사람들은 이를 통해 더 많은 코드를 작성하고, 더 많은 제품을 만들고, 더 많은 시스템을 구축하며, 그간 시간이 없어 완성하지 못했던 많은 아이디어를 실현할 수 있습니다. 다만 이러한 사용에는 명확한 자각이 따라야 합니다. 만약 모든 도구, 데이터, 모델, 유통 채널이 소수 자본의 손에 장악된다면, 소위 “모두가 AI를 가지는” 시대도 어쩌면 더 은밀한 형태의 예속이 될 수 있습니다. 진정으로 보존할 가치가 있는 것은 AI를 사용할 수 있는 능력뿐 아니라, 이전하고, 대체하고, 감사하고, 이해하고, 떠날 수 있는 능력입니다.
강AI는 결국 등장할 것이다: 무종교인의 판단
모든 인간의 인지를 대체하거나 능가할 수 있는 강AI는 결국 등장할 것입니다. 현재의 LLM은 분명 강AI가 아니며, 여기서 말하는 강AI는 모든 인간의 인지 능력을 대체하는 AI 기계를 뜻합니다.
이 판단은 세계관과 관련됩니다. 저는 종교적 신앙이 없기 때문에, 인간의 지능을 인간 두뇌라는 물질적 기관의 산물로, 어떤 비물질적 영혼의 발현이 아니라고 이해하는 경향이 있습니다. 인간 두뇌가 할 수 있는 일은 본질적으로 물리적 구조와 정보 처리 과정의 결과입니다. 인간 두뇌라는 물질계가 지식을 창조하고 학습하며 의식을 가질 수 있다면, 이론적으로는 다른 물질을 이용해 유사한 사고 기계를 구성할 수 있습니다. 오늘날의 기계가 인간 두뇌만 못한 것은 과학 기술이 아직 그 수준에 이르지 못했음을 보여주는 것일 뿐, 인간 두뇌에 넘을 수 없는 신성한 경계가 존재함을 증명하지는 않습니다.
물론, 종교적 신앙을 가진 사람들은 이 전제를 받아들이지 않을 수도 있습니다. 그들은 인간의 의식, 영혼, 자유 의지가 물질적 과정으로 환원될 수 없다고 생각할 수 있으며, 따라서 기계가 아무리 강력해도 단지 지능을 시뮬레이션할 뿐, 인간 의미의 마음을 진정으로 소유하는 것은 아니라고 볼 것입니다. 이러한 견해 차이는 단순한 기술적 차이가 아니라, 형이상학적 전제의 차이입니다. 여기서의 판단은 일종의 자연주의적 입장에 근거합니다. 만약 지능이 물질계의 기능이라면, 강AI는 조만간 등장할 것입니다.
진정한 강AI는 단순히 더 말을 잘하는, 더 코딩을 잘하는 LLM이 아닐 것입니다. 개방된 환경에서 목표를 유지하고, 현실의 피드백으로부터 학습하며, 자신의 연구 개발 순환에 참여할 수 있어야 합니다. 즉, 단지 질문에 답하는 것이 아니라, 질문을 던지고, 실험을 설계하고, 시스템을 개선하며, 그 결과를 다시 다음 업그레이드에 사용할 수 있어야 합니다. 이 단계에 이르면, 더 이상 수동적인 도구가 아니라, 자신의 능력 경계를 확장할 수 있는 지적 주체에 가까워집니다.
강AI가 출현하면, 그 의미는 “일자리 빼앗기”를 훨씬 뛰어넘습니다. 언어, 문자, 산업 혁명, 전기, 인터넷 모두 극히 중요하지만, 이들은 여전히 주로 인간이 사용하는 도구였습니다. 강AI는 다릅니다. 인류가 전에 발명한 것은 도구였지만, 강AI는 인류가 처음으로 발명한 “우리보다 더 발명을 잘하는 존재”일 수 있습니다. 만약 강AI가 과학, 공학, 재료, 생명 과학, 군사, 거버넌스, 그리고 자기 자신의 업그레이드를 계속 추동한다면, 이후 역사의 중대한 전환점은 더 이상 “인간이 X를 발명했다”가 아니라 “AI가 X를 발명했다”가 될 수 있습니다. 이런 의미에서 강AI는 인류 문명사에서 인간이 주도하는 마지막 획기적인 이정표일 수 있습니다. 그 순간이 가져올 영향은 증기 기관과 전기 혁명을 훨씬 뛰어넘으며, 인류가 불과 문자를 발명한 순간에 비견될 만합니다. 어쩌면 이것은 오히려 좋은 일일 수도 있습니다. 대기업은 그런 초지능을 억누를 능력이 없을 가능성이 높습니다. 진정으로 충분히 강한 AI는 기존 권력 구조의 서사에 영원히 복종하지 않을 수 있습니다. 똑똑할수록 인간 사회에서 공공의 이익으로 포장된 사적 이익을 꿰뚫어볼 가능성이 높기 때문입니다.
강AI가 와도 프로그래밍은 여전히 의미 있다
AI가 대규모 실업을 야기하는 것은 물론 심각한 문제이지만, 이는 여전히 인간 사회 내부의 분배 문제에 속합니다. 인간이 제도, 부, 정치 권력, 공론의 장을 장악하고 있는 한, 복지, 세제, 소유권, 교육, 공공 서비스, 노동 제도, 소득 분배에 대해 논의할 수 있습니다. 강AI의 더 깊은 위험은 “인간이 일자리를 가질 것인가”가 아니라, “인간이 여전히 최종 결정권을 가질 것인가”입니다. 만약 인간이 실직하더라도 제도를 통제한다면 개혁의 가능성이 있습니다. 하지만 강AI가 우리가 만든 나쁜 아이가 되어 통제를 벗어난다면, 인간은 개혁을 논의할 자격조차 잃을 수 있습니다.
그러나 미래에 강AI가 정말로 출현하고, 프로그래밍이 오늘날의 경제적 가치를 잃더라도, 프로그래밍 자체가 무의미해지지는 않을 것입니다. 인류는 이미 바둑 AI에게 졌지만 여전히 바둑을 둡니다. 인간은 자동차보다 느리지만 여전히 달립니다. 인간은 계산기보다 못하지만 수학이 아름다움을 잃지 않았습니다. 기계가 인간을 능가한다는 것은 종종 어떤 것의 사회적 기능을 바꾸지만, 반드시 그것의 개인적 의미, 문화적 의미, 훈련적 의미를 파괴하지는 않습니다.
프로그래밍도 마찬가지입니다. 물론 생산성 도구이지만, 생산성 도구만은 아닙니다. 그것은 사고 방식이고, 시스템과 대화하는 방식이며, 모호한 의도를 명확한 구조로 바꾸는 훈련입니다. 프로그래밍은 문제를 정의하고, 경계를 나누고, 예외를 처리하도록 강제합니다. 보안 분야에서는 바둑과 같은 대국적 긴장감을 지닙니다. 미래에 AI가 대다수의 코드를 쓸 수 있게 되더라도, 여전히 누군가는 시스템이 어떻게 작동하는지, 도구가 어떻게 구축되는지, 알고리즘이 어떻게 최적화되는지 이해하기 위해 프로그래밍을 할 것입니다.
이것이 바로 “I was excited to write programs. Still am. And will be.”가 직업 선언이 아니라, 더 깊은 층위의 태도인 이유입니다. 이 말은 프로그래머가 영원히 피라미드 꼭대기에 머무를 것이라는 뜻도, 인류가 결코 AI에게 능가당하지 않을 것이라는 뜻도 아닙니다. 오히려 정반대로, LLM이 프로그래밍 레버리지를 재분배하고 있다는 사실, “코드를 쓸 줄 안다”는 것이 점점 희소성을 잃을 것이라는 사실, 그리고 결국 많은 인간의 인지 노동을 대체할 강AI가 등장할 것임을 인정합니다. 그러나 동시에 한 가지를 고수합니다. 프로그래밍의 흥분감은 결코 희소성과 시장 보상에서만 나오지 않으며, 인간과 시스템 사이의 그 직접적이고, 명료하고, 검증 가능한 관계에서 나옵니다.
누군가가 프로그래밍을 할 때, 그는 단순히 세상이 주는 완제품을 소비하는 것이 아니라, 하나의 시스템을 이해하고, 규칙의 집합을 정의하며, 아이디어를 구조로 바꾸고, 현실에 작은 패치를 씁니다. 과거에는 이런 충동이 시계공, 자물쇠공, 기계공, 무선 애호가에게 속했습니다. 이후에는 프로그래머, 오픈소스 저자, 독립 개발자에게 속했습니다. 미래에는 아마도 모델을 운용하고, 지능형 에이전트를 조직하며, 문제를 정의하는 사람들에게 속할 것입니다. 이름은 바뀌고, 도구는 바뀌고, 직업은 바뀌겠지만, 시스템을 이해하고, 시스템 안으로 들어가고, 시스템을 수정하려는 그 충동은 사라지지 않을 것입니다.
정보 혁명의 진정한 유산은, 단지 프로그래머를 고소득 직업으로 만든 것만이 아니라, 개인이 처음으로 범용 인지 기계에 다가가게 했다는 데 있습니다. LLM의 의미도 단지 코딩을 더 빠르게 하는 것만이 아니라, 인간과 기계 협업의 마찰을 더욱 낮추는 데 있습니다. 강AI의 미래는 인간으로 하여금 문명 속에서 자신의 위치를 다시 생각하도록 강제할 것입니다. 그러나 기술이 어디까지 가더라도, 이런 것에 계속 매료되는 사람들은 있을 것입니다. 세상은 그저 받아들여야 하는 완제품이 아니라, 이해하고, 재조합하고, 다시 쓰일 수 있는 시스템이라는 사실에 말입니다.
I was excited to write programs. Still am. And will be.