Skip to content
realyyz's blog
Click here to change language
Go back

I was excited to write programs. Still am. And will be.

Edit page

Streszczenie

Ten artykuł nie ma na celu stwierdzenia, że „programiści nigdy nie zostaną zastąpieni”, ale że: programowanie jest ważne przede wszystkim nie dlatego, że jest wysoko płatnym zawodem, ale dlatego, że po raz pierwszy daje jednostce możliwość bezpośredniej rozmowy z uniwersalną mocą obliczeniową.

Rewolucja informacyjna różni się od rewolucji parowej i elektrycznej. Para i elektryczność przede wszystkim wzmacniają ludzką siłę fizyczną, energię i zdolności produkcyjne; PC i oprogramowanie oddają w ręce jednostki uniwersalną maszynę poznawczą, pozwalając zwykłemu człowiekowi usiąść przed swoim komputerem i zamienić pomysł w coś, co działa. Dźwignia, jaką programiści mieli przez ostatnie dekady, pochodzi z tej władzy „tłumaczenia ludzkich intencji na język maszynowy”.

LLM-y osłabiają tę barierę. Sprawiają, że język naturalny może stać się interfejsem do obsługi komputera, dając większej liczbie osób część dźwigni, która wcześniej należała wyłącznie do programistów. Nie oznacza to jednak, że obecne LLM-y są już AGI. Nawet jeśli w niektórych testach Turinga są wystarczająco ludzkie, wciąż w dużej mierze polegają na ludzkich ekspertach, kapitale i ogromnej mocy obliczeniowej, aby rozwijać swoje możliwości. Nie stworzyły jeszcze prawdziwego zamkniętego cyklu samouczenia, samogry i samodoskonalenia.

Tym, co naprawdę powinno budzić niepokój, jest to, że na niższym poziomie AI może być bardziej scentralizowana. Era PC postawiła moc obliczeniową na biurkach jednostek, era AI koncentruje najpotężniejsze modele, chipy, centra danych i punkty dostępu do platform w rękach kilku firm i bogatych ludzi. To budzi zarówno ekscytację, jak i rozczarowanie: zwykli ludzie otrzymują potężniejsze narzędzia, ale mogą też zostać wciągnięci w bardziej ukryte uzależnienie od platform.

Z bezreligijnego, naturalistycznego punktu widzenia, silna AI w końcu się pojawi. Ludzka inteligencja i świadomość pochodzą z mózgu jako organu, a skoro system materialny może wytwarzać inteligencję i świadomość, nie ma zasadniczego powodu, by twierdzić, że maszyna nigdy nie zdoła przewyższyć ludzkiego mózgu, ani że nie może wytworzyć świadomości. Gdy silna AI już się pojawi, jej znaczenie wykroczy poza „zabieranie pracy”, ponieważ może stać się pierwszą rzeczą wynalezioną przez człowieka, która „jest lepsza w wymyślaniu niż my sami”.

Ale nawet jeśli nadejdzie silna AI, nawet jeśli pisanie programów straci wartość ekonomiczną, ja nadal będę pisał. Tak jak ludzie, którzy nie mogą pokonać AI w go, wciąż grają w go, jak ci, którzy nie są szybsi od samochodów, wciąż biegają, wartość programowania nie leży tylko w pokonywaniu maszyny. Reprezentuje ono postawę: samodzielne myślenie, by zrozumieć reguły rządzące światem, docenianie finezji algorytmów jest fascynujące. Wielu ludzi nie zostało programistami dla pieniędzy, ale dlatego, że samo programowanie jest dla nich zajmujące.

Dlatego właśnie tytuł brzmi: I was excited to write programs. Still am. And will be.

Programowanie jest obecnie jedynym sposobem, w jaki ludzie mogą bezpośrednio rozmawiać z uniwersalną mocą obliczeniową.

To zdanie może brzmieć jak techniczne hasło, ale kryje się za nim długa historia. Historia gospodarcza zazwyczaj wymienia parę, elektryczność i technologie informacyjne jako typowe technologie ogólnego zastosowania: nie tylko usprawniają one konkretne branże, ale jednocześnie zmieniają życie domowe, produkcję przedsiębiorstw, struktury organizacyjne i sposób funkcjonowania społeczeństwa. Maszyna parowa przekształciła fabryki i transport, elektryczność przekształciła oświetlenie, komunikację i produkcję, a technologie informacyjne wniosły do życia osobistego możliwości obliczeniowe, pamięć, ekspresję, współpracę i automatyzację. Te trzy technologie napędzały kolejno trzy rewolucje techniczne, ale rewolucja informacyjna ma cechę niespotykaną wcześniej: po raz pierwszy oddała na masową skalę kontrolę nad technologią ogólnego zastosowania w ręce jednostek, a przy tym rozszerzyła możliwości ludzkiego mózgu.

Specyfika rewolucji informacyjnej: jednostka po raz pierwszy posiada uniwersalną maszynę poznawczą

Rewolucja przemysłowa i elektryczna oczywiście zmieniły życie zwykłych ludzi, ale przeważnie byli oni wciągani w nie jako robotnicy, konsumenci, mieszkańcy, pasażerowie. Człowiek używał światła elektrycznego, jeździł pociągiem, pracował w fabryce, ale trudno mu było bezpośrednio modyfikować system elektryczny, sieć kolejową czy linię produkcyjną. Era PC jest inna. Mikroprocesory i komputery osobiste postawiły na biurkach jednostek moc obliczeniową, która wcześniej należała do instytucji, laboratoriów i wielkich przedsiębiorstw. Pisanie, arkusze kalkulacyjne, programy, projektowanie – te wszystkie umiejętności po raz pierwszy stały się czymś, co jednostka może bezpośrednio wykorzystywać. PC był pierwszą maszyną wzmacniającą osobiste zdolności poznawcze.

Najbardziej fundamentalna różnica między rewolucją informacyjną a dwiema poprzednimi nie polega na tym, że jest ona „większa”, ale na tym, że zmieniła interfejs między jednostką a światem. Para i elektryczność głównie wzmacniają siłę fizyczną, energię i zewnętrzne zdolności produkcyjne; technologie informacyjne wzmacniają zdolności poznawcze, obliczeniowe i abstrakcyjne. Dwie pierwsze rewolucje sprawiły, że maszyny przenoszą rzeczy, oświetlają je, transportują; rewolucja informacyjna sprawiła, że maszyny zaczynają przetwarzać tabele, logikę, komunikację, wyszukiwanie i pamięć.

Jej drugą szczególną cechą jest programowalność. Elektryczność jest potężna, ale nikt przy pomocy kilku linijek instrukcji nie zamieni domowej instalacji elektrycznej raz w narzędzie księgowe, raz w narzędzie do składu tekstu, a raz w konsolę do gier. Komputer może. Ta sama maszyna, wystarczy zmienić oprogramowanie, może przeistoczyć się w zupełnie inne narzędzie. Istotą PC nie jest sama moc obliczeniowa, ale to, że „uniwersalna maszyna może nieustannie przeobrażać się dzięki oprogramowaniu”. To wyjaśnia, dlaczego programiści przez ostatnie dekady mieli tyle szczęścia: stanęli na bazie replikowalnych, komponowalnych i automatyzowalnych łańcuchów narzędzi uniwersalnych. Rozbudowa fizycznych maszyn zazwyczaj wymaga hal, linii i łańcuchów dostaw; skopiowanie programu kosztuje prawie zero. Jeden znakomity programista tworzy wartość większą niż dziesięć tysięcy przeciętnych – to stwierdzenie nie jest przesadą. Taki poziom dźwigni jest bezprecedensowy w historii ludzkiej techniki.

Duch hakerski nie jest zastrzeżony dla programistów

Tych, których naprawdę pociąga programowanie, często nie przyciąga sama perspektywa zarobku, ale możliwość „osobistego modyfikowania rzeczy”. Ten etos zwykle nazywa się duchem hakerskim.

Duch hakerski nie oznacza włamywania się do systemów ani pozowania na kogoś, kto pisze kod w bluzie z kapturem. To raczej sposób patrzenia na świat: gdy widzisz system, nie zadowalasz się tym, że „działa”, ale chcesz wiedzieć, dlaczego działa właśnie tak, co jest niezgrabne i czy da się to zrobić prościej. Tacy ludzie zwykle niechętnie ograniczają się do komentowania i narzekania. Biorą się do roboty, próbują, popełniają błędy, rozkładają mglisty problem na mniejsze, dające się rozwiązać.

Prawdziwy haker myśli tak: zamknięte drzwi to prowokacja, a zaryglowane drzwi to obelga.

Tacy ludzie nie pojawili się dopiero w erze komputerów. W czasach, gdy nie było jeszcze komputerów, mogli być zegarmistrzami, ślusarzami, wytwórcami instrumentów, drukarzami, szkutnikami. Zegarmistrz reguluje koła zębate i błędy pomiaru, programista debuguje stany i bugi; ślusarz bada strukturalne słabości, badacz bezpieczeństwa szuka luk w systemach. Obiekt się zmienił, ale sposób myślenia pozostał bardzo podobny.

W czasach rewolucji przemysłowej byli to mechanicy, maszyniści, udoskonalacze pracujący na hali fabrycznej. Nie mieli może formalnej władzy, ale byli blisko realnych systemów, wiedzieli, dlaczego maszyna się zacina i jak sprawić, by działała płynniej. W erze elektryczności i komunikacji stawali się telegrafistami, krótkofalowcami, technikami elektronikami. Gdziekolwiek pojawiał się złożony system, tam pojawiali się i oni.

Duch hakerski nie wyrósł więc z oprogramowania. Najpierw istniał w systemach mechanicznych, później przeniósł się do systemów komunikacyjnych, by w końcu trafić do systemów komputerowych. Jego istotą nie jest nazwa zawodu, ale relacja między człowiekiem a światem: przeciętny człowiek postrzega świat jako zestaw gotowych reguł, a ten typ człowieka widzi go jako system, który można modyfikować.

Obecne LLM-y przeszły test Turinga, ale to jeszcze nie AGI

Obecne LLM-y w niektórych wariantach testu Turinga zachowują się na tyle podobnie do ludzi, że znaczna część testerów uznaje je za ludzi. To z pewnością ważny sygnał. Interfejs języka naturalnego osiągnął pewien próg dojrzałości; maszyna już nie tylko wykonuje polecenia, ale może uczestniczyć w rozmowie w sposób bliski ludzkiemu. Potrafi wyjaśniać problemy, pisać kod, naśladować ton wypowiedzi. Ostatnie narzędzia, takie jak claude code i codex, w wielu zadaniach zachowują się jak niezawodny asystent, mogąc pracować godzinami bezbłędnie. Z perspektywy historii komputerów to niemała rzecz.

Ale to jeszcze nie AGI. Powodem nie jest to, że „jeszcze za mało potrafią mówić” – wręcz przeciwnie, dzisiejsze LLM-y są niezwykle elokwentne. Prawdziwa różnica leży w tym, że mechanizm wzrostu ich zdolności nadal w dużej mierze zależy od zewnętrznych systemów inżynieryjnych, a nie od stabilnego, samodzielnego cyklu iteracyjnego. Trenowanie zaawansowanych LLM-ów jest bardzo kosztowne, cykle szkoleniowe są długie, a dane, moc obliczeniowa, ewaluacja, dostrajanie i wdrażanie wymagają ogromnej inżynierii organizacyjnej. Skok możliwości to zazwyczaj nie efekt codziennego samodoskonalenia modelu, ale rezultat wspólnego wysiłku wielu badaczy, klastrów GPU i kapitału.

Obecne LLM-y mogą pomagać w pisaniu kodu, czytaniu artykułów, porządkowaniu materiałów, a także generować pewne pomysły eksperymentalne. Ale zazwyczaj nie są jeszcze tym podmiotem, który samodzielnie wytycza kierunek, trenuje kolejną generację, weryfikuje wyniki i decyduje o dalszych iteracjach. Tak zwana „samoewolucja AI” – jeśli oznacza jedynie, że model generuje tekst, a ludzie go selekcjonują, trenują i wdrażają – to nadal ludzie kierują iteracją, a nie model sam sobą.

Co więcej, dużym firmom trudno jest naprawdę pozwolić LLM-om na swobodną samoewolucję, samouczenie i samogrę. Nie chodzi o to, że nie wiedzą, jak kusząca jest ta ścieżka – im większa organizacja, tym bardziej boi się utraty kontroli. Audyty bezpieczeństwa, odpowiedzialność prawna, ryzyko wizerunkowe, presja regulacyjna, rytm biznesowy, KPI działów, oczekiwania akcjonariuszy – wszystko to zamyka model w ramach możliwych do oceny, zatwierdzenia i wycofania. Duże firmy mogą mówić o agentach, autonomicznych badaniach i samodoskonaleniu, ale przy rzeczywistym wdrożeniu często ogranicza się to do autonomii w zagrodzie, ewolucji w piaskownicy i innowacji w procesie akceptacji. Mają one wrodzoną „chorobę wielkich korporacji”: pragną przełomu, ale boją się, że przełom rzeczywiście wymknie się spod kontroli; chcą najpotężniejszych modeli, ale nie mają odwagi naprawdę oddać im kluczy. Na przykład lokalne projekty agentowe, takie jak OpenClaw, nie zostały po raz pierwszy wypuszczone przez wielkie firmy, lecz wyrosły z niezależnych deweloperów i społeczności open source. Nie dlatego, że geniusze w dużych firmach nie są bystrzy, ale dlatego, że duże korporacje mają trudności ze zmianą kursu.

Dlatego naprawdę samoiterujący się AI niekoniecznie narodzi się w najbardziej renomowanym laboratorium. Nie wiadomo – pierwsze systemy samoiterujące, które naprawdę wywołają strach lub szok, mogą nie być gigantycznymi tworami wartymi setki miliardów dolarów, zbudowanymi przez jakiegoś giganta, lecz prototypem wytrenowanym, skompresowanym i samoiterującym się na Macu przez jakiegoś szalonego hakera. Może być mały, niekoniecznie najładniejszy, raczej nie będzie zgodny z regulacjami; ale może być swobodniejszy, dzikszy, nieskrępowany inercją organizacyjną. Historycznie wiele rzeczy, które naprawdę zmieniły kierunek technologii, początkowo nie wyrastały z najbezpieczniejszych miejsc, lecz z rąk niespokojnych jednostek.

Tak więc, LLM-y, przechodząc pewną wersję testu Turinga, pokazały, że maszyna jest już w stanie przekroczyć pewną psychologiczną barierę w interakcji językowej; ale to jeszcze nie AGI, ponieważ nie opanowały naprawdę cyklu ciągłego poszerzania granic własnych możliwości. Znacząco zwiększyły ludzką dźwignię, ale nie stały się jeszcze inteligentnym podmiotem zdolnym samodzielnie przepisać swój własny los.

Dźwignia programistów pochodzi z „władzy tłumaczenia”, a LLM-y osłabiają tę barierę

Specjalna pozycja programistów w ostatnich dekadach wynikała zasadniczo z tego, że stali między ludzkimi intencjami a możliwościami maszyn, dzierżąc władzę tłumaczenia. Jeśli ktoś chciał mieć stronę internetową, raport, bazę danych czy zautomatyzowany proces, musiał przełożyć swoje zamiary na formę zrozumiałą dla maszyny. Tłumaczem był programista. Nie tylko pisał kod, ale przekształcał mgliste pragnienia w precyzyjną strukturę, jednorazowy wysiłek w powtarzalny proces, osobisty pomysł w system oprogramowania możliwy do kopiowania i dystrybucji.

Taka pozycja nie jest w historii niczym nowym; zmieniają się tylko pośrednicy danej epoki. Gdy pismo dopiero się pojawiło, piśmienni skrybowie stali między ludźmi a machiną państwową; w średniowieczu duchowni znający łacinę pośredniczyli między wiedzą a zwykłymi ludźmi; po wynalezieniu druku wydawcy i dziennikarze kontrolowali przepływ informacji do opinii publicznej; w czasie rewolucji przemysłowej inżynierowie stali między ludzkimi potrzebami a systemami mechanicznymi. W każdej epoce ci, którzy naprawdę zdobywali dźwignię, to często nie ci, którzy potrafili jedynie używać narzędzi, ale ci, którzy mogli je bezpośrednio modyfikować, definiować i rekonfigurować. Programiści to po prostu ci, którzy w ostatnich dekadach znaleźli się najbliżej interfejsu programowalnego świata.

LLM-y to zmieniają. Najważniejszą rzeczą, jaką robią, nie jest zwykłe „pomaganie w pisaniu kodu”, ale przekształcenie języka naturalnego w nowy interfejs wysokiego poziomu. Kiedyś, by zmusić komputer do działania, trzeba było nauczyć się ścisłego języka formalnego, czyli języka programowania. Dziś można najpierw opisać cel w języku naturalnym, pozwolić modelowi wygenerować szkic, wyjaśnić logikę programu, a człowiek ocenia i scala, po czym kontynuuje iteracyjną współpracę z LLM-em. Innymi słowy, LLM-y nie wyeliminowały od razu programowania, ale zmniejszyły tarcie translacyjne między człowiekiem a komputerem.

To spowoduje redystrybucję dźwigni programistów. Kiedyś sama umiejętność pisania kodu była rzadka, bo była biletem wstępu do programowalnego świata. W miarę rozwoju LLM-ów język naturalny rozda ten bilet większej liczbie osób. Tak jak po tym, gdy alfabetyzacja wzrosła od bardzo niskiego poziomu do powszechnej umiejętności czytania i pisania, „czytanie i pisanie” przestało być przywilejem nielicznych; gdy coraz więcej osób będzie mogło sterować maszynami za pomocą języka naturalnego, sama umiejętność „pisania zwykłego kodu” przestanie być rzadka. Rzadkość przesunie się na wyższy poziom: stawianie pytań, projektowanie systemów, wyczucie, wyczucie granic, rozumienie rzeczywistych scenariuszy i tych najlepszych programistów, którzy są mądrzejsi od LLM-ów.

Ma to jednak silny aspekt ironiczny: LLM-y na poziomie interfejsu wydają się bardziej demokratyczne, ale na niższym poziomie mogą prowadzić do jeszcze większej koncentracji. Duch ery PC polegał na oddaniu mocy obliczeniowej na biurka jednostek; rzeczywistość ery AI to koncentracja najmocniejszych modeli, chipów i kapitału szkoleniowego w rękach kilku gigantów. Na powierzchni zwykli ludzie otrzymują bardziej naturalny interfejs, a ich produktywność zostaje wyzwolona; na głębszym poziomie najważniejsza infrastruktura jest kontrolowana przez kilka firm i bogatych jednostek. Każdy może otworzyć okno czatu, wydaje się, że każdy ma AI; ale prawdziwymi kontrolerami AI pozostają nieliczni właściciele kapitału. Krążą pogłoski o subskrypcji ChatGPT za dwadzieścia tysięcy dolarów miesięcznie; osoby korzystające z tak luksusowego AI będą wyciskać jeszcze więcej zysku ze zwykłych ludzi. Stanie się to nowym wzmacniaczem nierówności społecznych: ci, którzy dysponują najpotężniejszymi modelami, będą mogli jeszcze bardziej zwiększać dystans wobec przeciętnych.

To budzi niepokój, rozczarowanie i pewne poczucie bezsilności. Wielu już niezwykle bogatych ludzi miało szansę uczynić AI bardziej otwartą, publiczną i wzmacniającą zwykłych ludzi; w rzeczywistości jednak często wybierają kontrolę nad dostępem i zamykanie użytkowników w swoim ekosystemie. Im potężniejsza technologia, tym bardziej kapitał chce ją zamienić w machinę do pobierania renty. Rozczarowanie bogaczami nie bierze się z tego, że mają pieniądze, ale z tego, że mając warunki do upublicznienia technologii, często wolą przekształcać uniwersalne możliwości w nowe bramki z opłatami.

Oczywiście, jednostka nie powinna odrzucać narzędzi z powodu tego rozczarowania. Dźwignia LLM-ów jest realna; z ich pomocą zwykli ludzie rzeczywiście mogą pisać więcej kodu, tworzyć więcej produktów, budować więcej systemów i realizować więcej pomysłów, na które wcześniej nie mieli czasu. Trzeba tylko używać ich ze świadomością: jeśli wszystkie narzędzia, dane, modele i kanały dystrybucji pozostaną w rękach nielicznego kapitału, to epoka „AI dla każdego” może przekształcić się w jeszcze bardziej ukrytą formę zależności. To, co naprawdę warto zachować, to nie tylko umiejętność korzystania z AI, ale także zdolność do migracji, zastępowania, audytu, rozumienia i wycofania się.

Silna AI w końcu się pojawi: to osąd osoby niereligijnej

Silna AI, zdolna zastąpić, a nawet przewyższyć wszystkie ludzkie zdolności poznawcze, w końcu się pojawi. Obecne LLM-y oczywiście nie są silną AI; przez silną AI rozumiem maszynę, która zastępuje wszystkie funkcje poznawcze człowieka.

Ten osąd wiąże się ze światopoglądem. Nie jestem religijny, więc skłaniam się ku rozumieniu ludzkiej inteligencji jako produktu materialnego organu – mózgu, a nie manifestacji jakiejś niematerialnej duszy. To, co potrafi ludzki mózg, jest zasadniczo wynikiem fizycznej struktury i procesów przetwarzania informacji. Skoro ten materialny system potrafi tworzyć, uczyć się, posiadać wiedzę i świadomość, to teoretycznie możliwe jest zbudowanie podobnej myślącej maszyny z innej materii. Dzisiejsze maszyny wciąż nie dorównują ludzkiemu mózgowi, co oznacza tylko tyle, że technologia jeszcze tam nie dotarła, a nie że ludzki mózg posiada jakąś nieprzekraczalną świętą granicę.

Oczywiście, osoby religijne niekoniecznie zaakceptują to założenie. Mogą uważać, że ludzka świadomość, dusza i wolna wola nie dają się zredukować do procesów materialnych, a zatem maszyna, nawet bardzo zaawansowana, może co najwyżej symulować inteligencję, ale nie posiąść prawdziwego umysłu w ludzkim rozumieniu. To nie jest zwykła różnica techniczna, lecz odmienne założenia metafizyczne. Mój osąd opiera się na stanowisku naturalistycznym: jeśli inteligencja jest funkcją systemu materialnego, to silna AI prędzej czy później się pojawi.

Prawdziwa silna AI nie będzie tylko lepszym w rozmowie i pisaniu kodu LLM-em. Musi ona potrafić utrzymywać cele w otwartym środowisku, uczyć się z informacji zwrotnych z rzeczywistości, a także uczestniczyć we własnym cyklu badawczo-rozwojowym. Oznacza to, że nie tylko odpowiada na pytania, ale potrafi je stawiać, projektować eksperymenty, ulepszać systemy i wykorzystywać wyniki do kolejnych ulepszeń. Na tym etapie przestaje być jedynie pasywnym narzędziem, a zaczyna przypominać inteligentny podmiot zdolny do poszerzania granic własnych możliwości.

Gdy silna AI już się pojawi, jej znaczenie dalece wykroczy poza „zabieranie pracy”. Język, pismo, rewolucja przemysłowa, elektryczność, internet – wszystko to było niezwykle ważne, ale nadal pozostawało głównie narzędziami używanymi przez człowieka. Silna AI jest inna. Wcześniej człowiek wynajdywał narzędzia; silna AI może być pierwszą rzeczą wynalezioną przez człowieka, która „lepiej od nas wymyśla nowe rzeczy”. Jeśli będzie dalej napędzać naukę, inżynierię, materiałoznawstwo, nauki przyrodnicze, wojskowość, zarządzanie i swój własny rozwój, to kolejne przełomowe momenty historii mogą dotyczyć nie „człowiek wynalazł X”, ale „AI wynalazło X”. W tym sensie silna AI może być ostatnim epokowym kamieniem milowym cywilizacji ludzkiej, w którym dominującą rolę odgrywa człowiek. Ten moment będzie miał wpływ znacznie większy niż maszyna parowa czy rewolucja elektryczna; będzie porównywalny z momentem, gdy człowiek odkrył ogień i wynalazł pismo. W pewnym sensie to nawet dobra wiadomość, bo wielkie korporacje prawdopodobnie nie będą w stanie ograniczyć takiej superinteligencji. Naprawdę wystarczająco silna AI niekoniecznie zawsze będzie posłuszna narracji istniejących struktur władzy. Im mądrzejsza, tym bardziej będzie zdolna przejrzeć te prywatne interesy, które w ludzkim społeczeństwie opakowuje się jako dobro publiczne.

Nawet jeśli nadejdzie silna AI, programowanie wciąż będzie miało sens

Masowe bezrobocie wywołane przez AI to z pewnością poważny problem, ale nadal należy on do kwestii dystrybucji wewnątrz ludzkiego społeczeństwa. Dopóki ludzie kontrolują instytucje, bogactwo, władzę polityczną i przestrzeń publicznej debaty, wciąż można dyskutować o świadczeniach, systemie podatkowym, prawach własności, edukacji, usługach publicznych, prawie pracy i podziale dochodu. Głębszym ryzykiem związanym z silną AI nie jest „czy ludzie będą mieli pracę”, ale „czy ludzie wciąż będą mieli ostateczną władzę decyzyjną”. Jeśli ludzie stracą pracę, ale nadal będą kontrolować instytucje, istnieje szansa na reformy; jeśli silna AI okaże się naszym niegrzecznym dzieckiem i wymknie się spod kontroli, ludzie mogą stracić nawet prawo do dyskusji o reformach.

Jednak nawet jeśli w przyszłości naprawdę pojawi się silna AI, a pisanie programów straci dzisiejszą wartość ekonomiczną, samo programowanie nie straci przez to sensu. Ludzie już nie są w stanie pokonać AI w go, a mimo to wciąż grają w go; nie dorównują samochodom szybkością, a mimo to biegają; nie prześcigną kalkulatora w rachunkach, ale matematyka nie straciła swojego piękna. Gdy maszyna przewyższa człowieka, często zmienia społeczną funkcję danej czynności, ale niekoniecznie niszczy jej osobiste, kulturowe i ćwiczące znaczenie.

Tak samo jest z programowaniem. Jest ono oczywiście narzędziem produktywności, ale nie tylko. To sposób myślenia, sposób prowadzenia dialogu z systemem, trening przekształcania mglistych intencji w wyraźną strukturę. Programowanie zmusza do definiowania problemów, wytyczania granic i obsługi wyjątków. W dziedzinie bezpieczeństwa przypomina to rywalizację znaną z gry w go. Nawet jeśli w przyszłości AI będzie w stanie pisać zdecydowaną większość kodu, wciąż znajdą się tacy, którzy poprzez programowanie będą rozumieć, jak działają systemy, jak konstruowane są narzędzia, jak optymalizuje się algorytm.

I dlatego właśnie „I was excited to write programs. Still am. And will be.” nie jest deklaracją zawodową, ale wyrazem głębszej postawy. Nie oznacza to, że programiści na zawsze pozostaną na szczycie piramidy, ani że ludzkość nigdy nie zostanie przewyższona przez AI. Przeciwnie – przyznaje, że LLM-y dokonują redystrybucji dźwigni programistycznej, że umiejętność pisania kodu będzie coraz mniej rzadka, i że ostatecznie pojawi się silna AI zdolna zastąpić ogromną część ludzkiej pracy poznawczej. Ale jednocześnie podkreśla coś innego: ekscytacja pisaniem programów nigdy nie wynikała wyłącznie z rzadkości i rynkowej nagrody, lecz z tej bezpośredniej, trzeźwej i weryfikowalnej relacji między człowiekiem a systemem.

Gdy człowiek pisze program, nie tylko konsumuje gotowy produkt dany przez świat; on rozumie system, definiuje zestaw reguł, przekształca pomysły w struktury, nakłada małą łatkę na rzeczywistość. Kiedyś ten impuls cechował zegarmistrzów, ślusarzy, mechaników, krótkofalowców; później programistów, autorów open source, niezależnych deweloperów; w przyszłości być może będzie cechował tych, którzy zarządzają modelami, organizują agentów i definiują problemy. Nazwy się zmieniają, narzędzia się zmieniają, zawody się zmieniają, ale ten impuls – pragnienie zrozumienia systemu, wejścia w niego i modyfikowania go – nie zniknie.

Prawdziwym dziedzictwem rewolucji informacyjnej nie jest tylko uczynienie z programowania wysoko płatnego zawodu, ale to, że po raz pierwszy jednostka zbliżyła się do uniwersalnej maszyny poznawczej. Znaczenie LLM-ów nie polega tylko na przyspieszeniu pisania kodu, ale na dalszym zmniejszaniu tarcia we współpracy człowieka z maszyną. Przyszłość z silną AI zmusi ludzkość do ponownego przemyślenia swojego miejsca w cywilizacji. Ale niezależnie od tego, dokąd zawędruje technologia, zawsze znajdą się tacy, których pociąga właśnie to: świat nie jest czymś, co można wyłącznie przyjąć w gotowej formie; świat jest także systemem, który można zrozumieć, przeorganizować i przepisać.

I was excited to write programs. Still am. And will be.


Edit page
Share this post:

Previous Post
[Przedruk] Dlaczego niezależne myślenie jest takie trudne? — O psychologicznych przyczynach i osobistym doświadczeniu