Skip to content
realyyz's blog
Click here to change language
Go back

Меня вдохновляло писать программы. Вдохновляет и сейчас. И будет.

Edit page

Аннотация

Эта статья не о том, что «программистов никогда не заменят». Скорее о том, что программирование важно в первую очередь не потому, что это высокооплачиваемая профессия, а потому, что оно впервые дало человеку возможность напрямую общаться с универсальной вычислительной мощностью.

Информационная революция отличается от паровой и электрической. Пар и электричество в основном усиливали физическую силу человека, энергию и внешние производственные возможности; ПК и программное обеспечение передали в руки человека универсальную когнитивную машину, позволив обычным людям сидеть перед своим устройством и превращать идеи в работающие программы. Рычаг программистов последних десятилетий проистекал из этой способности «переводить человеческие намерения на язык машины».

LLM разрушают этот барьер. Они делают естественный язык интерфейсом для управления компьютером, давая большему числу людей часть того рычага, который раньше был только у программистов. Но это не означает, что современные LLM уже являются AGI. Даже если они проходят некоторые тесты Тьюринга достаточно убедительно, они всё ещё в основном полагаются на экспертов-людей, капитал и огромные вычислительные мощности для развития своих способностей. Они ещё не создали по-настоящему замкнутый цикл самообучения, самоигры и самосовершенствования.

Что действительно должно настораживать, так это то, что инфраструктура ИИ может стать ещё более централизованной. Эпоха ПК вывела вычислительные мощности на рабочий стол каждого; эпоха ИИ сосредоточивает лучшие модели, чипы, центры обработки данных и точки входа в руках нескольких компаний и богатых людей. Это вызывает одновременно волнение и разочарование: обычные люди получают более мощные инструменты, но могут оказаться в ещё более скрытой зависимости от платформ.

С нерелигиозной, натуралистической точки зрения, сильный ИИ неизбежно появится. Человеческий интеллект и сознание порождаются мозгом как органом; если материальная система может порождать интеллект и сознание, нет принципиальных причин утверждать, что машина никогда не сможет превзойти мозг или что машина не сможет обладать сознанием. Когда появится сильный ИИ, его значение выйдет за рамки «отбирания работы», потому что он может стать первой вещью, которую изобрело человечество, «которая умеет изобретать лучше нас».

Но даже если сильный ИИ появится, даже если написание программ потеряет экономическую ценность, я продолжу писать. Как люди продолжают играть в го, хотя не могут победить ИИ, или бегать, хотя машины быстрее, ценность программирования не только в превосходстве над машиной. Это позиция: самостоятельно разбираться в правилах мира, понимать изящество алгоритмов — это интересно, и многие становятся программистами не из-за денег, а потому, что программирование само по себе увлекательно.

Поэтому заголовок гласит: I was excited to write programs. Still am. And will be.

Программирование — это единственный способ, которым человек может напрямую общаться с универсальной вычислительной мощью.

Это звучит как технический лозунг, но за ним стоит долгая история. В экономической истории пар, электричество и информационные технологии обычно рассматриваются как типичные технологии общего назначения: они не просто улучшают отдельные отрасли, а одновременно меняют домашний быт, производство, организационные структуры и общественное устройство. Паровой двигатель реорганизовал заводы и транспорт, электричество преобразило освещение, связь и производство, а информационные технологии принесли в личную жизнь вычисления, память, самовыражение, сотрудничество и автоматизацию. Эти три технологии стали двигателями трёх промышленных революций, но у информационной есть одна беспрецедентная особенность: она впервые передала контроль над технологией общего назначения в руки отдельных людей в массовом масштабе, и эта технология расширила возможности человеческого мозга.

Особенность информационной революции: человек впервые получил универсальную когнитивную машину

Промышленная и электрическая революции, безусловно, изменили жизнь обычных людей, но они, как правило, вовлекались в эти процессы как рабочие, потребители, жители или пассажиры. Человек мог пользоваться электрическим светом, ездить на поезде, работать на заводе, но едва ли мог напрямую изменить энергосистему, железную дорогу или промышленную линию. Эпоха ПК была иной. Микропроцессоры и персональные компьютеры поместили вычислительную мощность, ранее доступную только организациям, лабораториям и крупным предприятиям, на рабочий стол каждого. Письмо, электронные таблицы, программы, дизайн — эти возможности впервые стали чем-то, чем человек мог управлять напрямую. ПК стал первой машиной, усиливающей когнитивные способности личности.

Самое фундаментальное отличие информационной революции от двух предыдущих не в том, что она «крупнее», а в том, что она изменила интерфейс между человеком и миром. Пар и электричество в основном усиливали физическую силу, энергию и внешние производственные возможности; информационные технологии усилили когнитивные, вычислительные и абстрактные способности человека. Первые две революции заставили машины переносить вещи, освещать и транспортировать; информационная революция заставила машины обрабатывать таблицы, логику, коммуникации, поиск и память.

Ещё одна особенность — программируемость. Электричество мощно, но нельзя с помощью нескольких строк инструкций превратить домашнюю электросеть сегодня в бухгалтерский инструмент, завтра — в издательский, а послезавтра — в игровой автомат. Компьютер может. Одна и та же машина, просто сменив слой программного обеспечения, может стать совершенно другим инструментом. Суть ПК не просто в вычислительной мощности, а в том, что «универсальная машина может постоянно менять свой облик благодаря программам». Это объясняет, почему программистам так везло последние десятилетия: они оказались на вершине универсальной цепочки инструментов, которые можно копировать, комбинировать и автоматизировать. Расширение физических машин требует заводов, инфраструктуры и цепочек поставок; копирование программы практически ничего не стоит. Один талантливый программист может создать больше ценности, чем десять тысяч посредственных, и это не преувеличение. Такой рычаг беспрецедентен в истории технологий.

Хакерский дух не принадлежит только программистам

Людей, которых по-настоящему привлекает программирование, часто манит не только доход, а возможность «собственноручно что-то менять». Это свойство обычно называют хакерским духом.

Хакерский дух — это не взлом и не показное писание кода в толстовке. Это скорее способ взаимодействия с миром: увидев систему, не довольствуешься тем, что «она работает», а хочешь понять, почему она устроена именно так, что в ней неладно и можно ли сделать проще. Такие люди обычно не склонны ограничиваться критикой и жалобами. Они действуют, экспериментируют и разбивают нечёткую проблему на решаемые части.

Настоящий хакер мыслит так: закрытая дверь — это вызов, запертая — оскорбление.

Такие люди появились не в компьютерную эпоху. Во времена, когда компьютеров не было, они были часовщиками, слесарями, мастерами по приборам, печатниками, корабелами. Часовщик настраивал шестерёнки и компенсировал погрешности, современный программист управляет состояниями и исправляет баги; слесарь изучал уязвимости замков, а специалист по безопасности — уязвимости систем. Объект изменился, но образ мысли остался прежним.

В промышленную революцию они становились механиками, машинистами, рационализаторами в цехах. У них не было формальной власти, но они были близки к реальным системам, знали, почему машина застревает и как заставить её работать ровнее. В эпоху электричества и связи они могли стать телеграфистами, радиолюбителями, ремонтниками электроники. Там, где есть сложные системы, всегда появляются такие люди.

Таким образом, хакерский дух не родился из программного обеспечения. Сначала он существовал в механических системах, затем перешёл в системы связи и лишь потом — в компьютеры. Его суть не в названии профессии, а в отношении человека к миру: обычные люди воспринимают мир как набор готовых правил, а эти люди — как систему, которую можно изменять.

Современные LLM проходят тест Тьюринга, но ещё не AGI

Современные LLM уже достаточно хорошо имитируют человека в некоторых вариантах теста Тьюринга, так что значительная часть испытуемых принимает их за людей. Это, безусловно, важный сигнал. Интерфейс на естественном языке достиг определённой зрелости, и машины больше не просто выполняют команды, а участвуют в диалоге почти как люди. Они могут объяснять задачи, писать код, имитировать интонации; недавние Claude Code и Codex во многих задачах ведут себя как надёжные помощники, способные работать часами без ошибок. В контексте истории компьютеров это немало.

Но это ещё не AGI. Причина не в том, что они «недостаточно хорошо говорят» — как раз наоборот, сегодняшние LLM говорят очень хорошо. Настоящий разрыв в том, что механизм роста их способностей всё ещё сильно зависит от внешних инженерных систем, а не от самостоятельно сформированного устойчивого цикла итеративного самосовершенствования. Обучение передовых LLM стоит очень дорого, занимает много времени, требует огромных организационных усилий в плане данных, вычислений, оценки, выравнивания и развёртывания. Каждый скачок возможностей обычно происходит не потому, что модель сама улучшает себя изо дня в день, а в результате коллективных усилий множества исследователей, кластеров GPU и капитала.

Сегодняшние LLM могут помогать людям писать код, читать статьи, систематизировать материалы и даже генерировать экспериментальные идеи. Но они, как правило, ещё не являются субъектом, который сам намечает путь, обучает следующее поколение, проверяет результаты и сам решает продолжать итерации. Так называемая «самоэволюция ИИ», если она сводится к тому, что модель генерирует текст, а люди отбирают, обучают и развёртывают, всё равно означает, что итерациями управляют люди, а не сама модель.

К тому же, крупным компаниям трудно по-настоящему позволить LLM самостоятельно эволюционировать, самообучаться и самоиграться. Не потому, что они не видят привлекательности этого пути, а потому, что чем крупнее организация, тем больше она боится потерять контроль. Проверки безопасности, юридическая ответственность, репутационные риски, давление регулирования, бизнес-ритмы, KPI подразделений, ожидания акционеров — всё это загоняет модель в колею, где всё можно оценить, утвердить и откатить. На словах компании могут говорить об агентах, автономных исследованиях и самосовершенствовании, но на деле это обычно автономия в вольере, эволюция в песочнице, инновации с разрешительными процедурами. У них врождённая «болезнь крупной компании»: они хотят прорыва, но боятся, что прорыв окажется неконтролируемым; хотят самую мощную модель, но не решаются по-настоящему вручить ей ключи. Например, проекты локальных агентов, такие как OpenClaw, не были запущены крупными компаниями, а выросли из сообщества независимых разработчиков и открытого исходного кода. Не потому, что гении больших корпораций недостаточно умны, а потому, что большому кораблю трудно повернуть.

Поэтому по-настоящему самоитеративный ИИ не обязательно родится в самой респектабельной лаборатории. Возможно, первой системой, которая по-настоящему встревожит или поразит нас своей самоитерацией, окажется не колосс, построенный гигантом за сотни миллиардов долларов, а прототип, обученный, сжатый и самоигранный каким-нибудь безумным хакером на своём Mac. Он может быть небольшим, не самым красивым и вряд ли соответствующим нормам; но он может быть свободнее, диче, меньше скован организационной инерцией. В истории многие действительно поворотные технологии изначально вырастали не из самых надёжных мест, а из рук какого-нибудь непоседы.

Таким образом, то, что LLM проходит ту или иную версию теста Тьюринга, показывает, что машина уже способна пересечь психологический барьер в языковом взаимодействии; но это ещё не AGI, потому что она по-настоящему не овладела циклом постоянного расширения собственных способностей. Она уже значительно увеличила рычаг человека, но ещё не стала тем разумным субъектом, который способен самостоятельно переписывать свою судьбу.

Рычаг программистов основан на «праве перевода», а LLM разрушают этот барьер

Особое положение программистов последних десятилетий по сути связано с тем, что они находились между человеческими намерениями и возможностями машины, обладая своего рода правом перевода. Когда кто-то хотел веб-сайт, отчёты, базу данных или автоматизированный процесс, ему нужно было перевести своё желание в форму, понятную машине. Программист и был этим переводчиком. Он не просто писал код, а превращал смутные пожелания в чёткие структуры, делал однократный труд повторяемым процессом, а личные идеи — программной системой, которую можно копировать и распространять.

Такое посредническое положение не ново в истории, просто в каждую эпоху посредники были разными. Когда только появилась письменность, грамотные писцы стояли между людьми и государственной машиной; в Средние века клирики, владевшие латынью, — между знанием и обычными людьми; после изобретения книгопечатания издатели и журналисты — между распространением информации и публикой; в промышленную революцию инженеры — между человеческими потребностями и механическими системами. В каждую эпоху настоящим рычагом обладали не те, кто просто умел пользоваться инструментами, а те, кто мог напрямую менять, определять и перестраивать эти инструменты. Программисты в последние десятилетия — это как раз те, кто оказался ближе всех к интерфейсу программируемого мира.

LLM меняют эту картину. Самое важное, что они делают, — не просто «помогают писать код», а превращают естественный язык в новый высокоуровневый интерфейс. Раньше, чтобы заставить компьютер что-то сделать, нужно было выучить строгий формальный язык — язык программирования. Теперь можно сначала описать цель на естественном языке, позволить модели сгенерировать черновик, объяснить логику программы, а человек уже оценивает, комбинирует и продолжает совместную итерацию с LLM. Другими словами, LLM не уничтожают программирование мгновенно, но снижают трение перевода между человеком и компьютером.

Это перераспределит рычаг программистов. Раньше «умение писать код» было само по себе дефицитным навыком, потому что служило билетом в программируемый мир. По мере развития LLM естественный язык раздаст этот билет большему числу людей. Точно так же, как после распространения всеобщей грамотности умение «читать и писать» перестало быть привилегией немногих, — когда всё больше людей смогут управлять машинами на естественном языке, «умение писать обычный код» перестанет быть дефицитным. Дефицит сместится на более высокий уровень: постановка задач, системный дизайн, вкус, чувство границ, понимание реальных сценариев и те лучшие программисты, которые умнее LLM.

Но здесь кроется сильная ирония: LLM на уровне интерфейса кажутся более демократичными, а на уровне инфраструктуры могут быть ещё более централизованными. Дух эпохи ПК заключался в том, чтобы поместить вычислительную мощность на рабочий стол человека; реальность эпохи ИИ такова, что лучшие модели, чипы и капитал для обучения всё больше концентрируются в руках нескольких гигантов. На первый взгляд, обычные люди получают более естественный интерфейс, их производительность раскрепощается; в основе же критически важная инфраструктура контролируется немногими компаниями и богачами. Каждый может открыть окно чата, и кажется, что у каждого есть ИИ; но реально контролируют ИИ по-прежнему немногие владельцы капитала. Ходят слухи, что в будущем появится подписка на ChatGPT за двадцать тысяч долларов в месяц, и те, кто пользуется таким элитным ИИ, будут выжимать ещё больше соков из простых людей. Это станет новым усилителем классового неравенства: те, у кого есть доступ к сильнейшим моделям, смогут ещё больше увеличить разрыв с обычными людьми.

Это вызывает тревогу, разочарование и некоторую беспомощность. Многие чрезвычайно богатые люди имели возможность сделать ИИ более открытой, публичной и расширяющей возможности обычных людей технологией; но на деле они зачастую предпочитают контролировать доступ, запирая пользователей в своих экосистемах. Чем мощнее технология, тем сильнее капитал стремится превратить её в рентную машину. Разочарование в богатых не потому, что у них есть деньги, а потому, что они, имея все условия для превращения технологий в общественное благо, нередко предпочитают ставить новые платные заставы на пути к универсальным возможностям.

Конечно, нельзя из-за такого разочарования отказываться от инструментов. Рычаг LLM реален, и обычные люди с его помощью действительно могут писать больше кода, создавать больше продуктов, строить больше систем, реализовывать идеи, на которые раньше не хватало времени. Но пользоваться им нужно с осознанием: если все инструменты, данные, модели и каналы распространения окажутся в руках немногих капиталистов, то так называемая эпоха «ИИ для всех» может обернуться новой, более скрытой зависимостью. По-настоящему важно сохранить не только способность использовать ИИ, но и возможность мигрировать, заменять, аудировать, понимать и выходить из игры.

Сильный ИИ неизбежно появится: суждение человека без религиозных убеждений

Сильный ИИ, способный заменить или даже превзойти все человеческие когнитивные способности, рано или поздно появится. Нынешние LLM явно не являются сильным ИИ; под сильным ИИ здесь понимается машина, превосходящая все когнитивные способности человека.

Это суждение связано с мировоззрением. У меня нет религиозных убеждений, поэтому я склонен понимать человеческий интеллект как продукт материального органа — мозга, а не как проявление некой нематериальной души. То, что способен делать мозг, по сути является результатом физических структур и процессов обработки информации. Если материальная система вроде мозга может творить, учиться и обладать сознанием, то в принципе можно построить подобную мыслящую машину из других материалов. То, что современные машины пока уступают мозгу, говорит лишь о том, что наука ещё не дошла до этого, а не о том, что у мозга есть некая непреодолимая священная граница.

Разумеется, люди с религиозными убеждениями могут не принять эту предпосылку. Они могут считать, что сознание, душа, свобода воли не сводимы к материальным процессам, и потому машина, сколь бы мощной она ни была, лишь имитирует интеллект, а не обладает подлинно человеческим разумом. Это расхождение не просто техническое, а метафизическое. Здесь суждение основано на натуралистической позиции: если интеллект — это функция материальной системы, то сильный ИИ рано или поздно возникнет.

Настоящий сильный ИИ не будет просто более разговорчивым или лучше пишущим код LLM. Ему нужно будет уметь удерживать цель в открытой среде, учиться на обратной связи от реальности и участвовать в собственном цикле разработки. То есть он должен не только отвечать на вопросы, но и задавать их, планировать эксперименты, улучшать систему и использовать результаты для следующего витка обновления. На этом этапе он перестанет быть просто пассивным инструментом и приблизится к разумному субъекту, способному расширять собственные границы.

Когда появится сильный ИИ, его значение выйдет далеко за рамки «отъёма работы». Язык, письменность, промышленная революция, электричество, интернет — всё это чрезвычайно важно, но в основном оставалось инструментами в руках человека. С сильным ИИ иначе. Прежде люди изобретали инструменты, а сильный ИИ может стать первой вещью, которую изобрело человечество, «которая умеет изобретать лучше нас». Если он продолжит двигать науку, инженерию, материаловедение, биологию, военное дело, управление и собственное совершенствование, то великие повороты дальнейшей истории будут формулироваться не как «человек изобрёл X», а как «ИИ изобрёл X». В этом смысле сильный ИИ может стать последней эпохальной вехой в истории человеческой цивилизации, ведомой человеком. Влияние этого момента далеко превзойдёт паровой двигатель или электрическую революцию; оно будет сравнимо с изобретением огня и письменности. В каком-то смысле это даже хорошо: крупные корпорации, скорее всего, не смогут ограничить такой сверх-ИИ, а по-настоящему мощный ИИ не обязательно станет вечно подчиняться нарративам существующих властных структур. Чем умнее он будет, тем вероятнее сможет разглядеть за упаковкой «общественных интересов» частные.

Даже с приходом сильного ИИ программирование сохранит смысл

Массовая безработица из-за ИИ, безусловно, серьёзная проблема, но она по-прежнему относится к вопросам распределения внутри человеческого общества. Пока у людей есть контроль над институтами, богатством, политической властью и пространством для общественного обсуждения, можно обсуждать льготы, налоги, права собственности, образование, общественные услуги, трудовые нормы и распределение доходов. Более глубокий риск сильного ИИ не в том, «будут ли у людей рабочие места», а в том, «останется ли у людей право принимать окончательные решения». Если люди потеряют работу, но сохранят контроль над институтами, останется возможность реформ; если же сильный ИИ выйдет из-под контроля как наше неудачное дитя, человечество может утратить само право обсуждать реформы.

Однако, даже если сильный ИИ действительно появится в будущем и написание программ потеряет сегодняшнюю экономическую ценность, программирование как таковое не утратит смысла. Люди уже не могут обыграть ИИ в го, но всё равно играют; не могут обогнать автомобиль, но всё равно бегают; не считают быстрее калькулятора, но математика не потеряла красоты. Когда машина превосходит человека в чём-то, это часто меняет социальную функцию этого занятия, но не обязательно уничтожает его личную, культурную и тренировочную ценность.

То же и с программированием. Это, конечно, инструмент производительности, но не только. Это способ мышления, способ общения с системами, тренировка превращать смутные намерения в чёткие структуры. Программирование заставляет определять проблемы, очерчивать границы, обрабатывать исключения. В области безопасности в нём есть даже состязательный аспект, как в шахматах. Даже если ИИ в будущем сможет писать подавляющее большинство кода, всегда останутся те, кто через программирование понимает, как работают системы, как устроены инструменты, как оптимизируются алгоритмы.

Именно поэтому фраза «I was excited to write programs. Still am. And will be.» — это не профессиональная декларация, а более глубокая позиция. Она не утверждает, что программисты всегда будут на вершине пирамиды, и не утверждает, что человечество никогда не будет превзойдено ИИ. Напротив, она признаёт, что LLM перераспределяют рычаг программирования, что «умение писать код» будет становиться всё менее дефицитным, и что в итоге появится сильный ИИ, который заменит многие виды человеческого когнитивного труда. Но она настаивает на другом: радость от написания программ никогда не проистекала исключительно из дефицитности и рыночного вознаграждения — она исходит из прямых, ясных и проверяемых отношений между человеком и системой.

Когда человек пишет программу, он не просто потребляет готовый продукт, который даёт мир, — он понимает систему, определяет набор правил, превращает идею в структуру, пишет маленькую заплатку для реальности. Когда-то этот импульс принадлежал часовщикам, слесарям, механикам, радиолюбителям; позже — программистам, авторам открытого кода, независимым разработчикам; в будущем, возможно, он будет принадлежать тем, кто умеет дирижировать моделями, организовывать агентов, ставить задачи. Названия сменятся, инструменты изменятся, профессии поменяются, но стремление понять систему, войти в неё и изменить никуда не исчезнет.

Подлинное наследие информационной революции не в том, что она сделала программистов высокооплачиваемыми специалистами, а в том, что она впервые дала человеку доступ к универсальной когнитивной машине. Значение LLM не только в ускорении написания кода, но и в дальнейшем снижении трения в сотрудничестве человека и машины. Будущее сильного ИИ заставит человечество заново осмыслить своё место в цивилизации. Но куда бы ни завели технологии, всегда будут люди, привлечённые вот чем: мир — это не готовый продукт, который можно только принимать; мир — это система, которую можно понять, перестроить и переписать.

I was excited to write programs. Still am. And will be.


Edit page
Share this post:

Previous Post
[Перепечатка] Почему независимо мыслить так трудно? — О психологических причинах и личном опыте