Özet
Bu yazı, “programcılar asla yerini kaybetmeyecek” demiyor; programlamanın önemli olmasının birincil sebebi yüksek gelirli bir meslek olması değil, bireyin ilk kez doğrudan genel amaçlı hesaplama gücüyle konuşabilmesini sağlaması.
Bilgi devrimi, buhar ve elektrik devrimlerinden farklıdır. Buhar ve elektrik esas olarak insanın fiziksel gücünü, enerjiyi ve dış üretim kapasitesini artırırken; kişisel bilgisayar ve yazılım, genel bir bilişsel makineyi bireyin eline verir, sıradan insanların kendi makinelerinin başında bir fikri çalışan bir şeye dönüştürmesine olanak tanır. Programcıların son on yıllardaki kaldıracı, bu “insan niyetini makine diline çevirme” gücünden geliyordu.
LLM’ler bu eşiği zayıflatıyor. Doğal dili de bilgisayarı çalıştırmak için bir arayüz haline getirerek, daha önce yalnızca programcılara ait olan kaldıracın bir kısmını daha çok insana kazandırıyor. Ancak bu, mevcut LLM’lerin zaten AGI olduğu anlamına gelmez. Bazı Turing testlerinde yeterince insan gibi görünse de, hâlâ büyük ölçüde insan uzmanlara, sermayeye ve devasa hesaplama gücüne dayanarak yeteneklerini geliştirmektedir. Henüz kendi kendini eğiten, kendi kendine oyun oynayan, kendi kendini geliştiren gerçek bir kapalı döngü oluşturmuş değildir.
Asıl alarm verici olan şudur: Yapay zekâ altyapısı daha da merkezileşebilir. Kişisel bilgisayar çağı hesaplama gücünü bireyin masasına koyarken, yapay zekâ çağı en güçlü modelleri, çipleri, veri merkezlerini ve platform giriş noktalarını az sayıda şirket ve varlıklı insanın elinde topluyor. Bu hem heyecan verici hem de hayal kırıklığı yaratıcı: Sıradan insanlar daha güçlü araçlara kavuşurken, aynı zamanda daha gizli bir platform bağımlılığına girebilir.
Dinsiz, natüralist bir bakış açısından, güçlü yapay zekâ er ya da geç ortaya çıkacaktır. İnsan zekâsı ve bilinç, beyin denen organdan kaynaklanır; maddi sistemler zekâ ve bilinç üretebildiğine göre, makinelerin insan beynini aşamayacağını ya da bilinç üretemeyeceğini söylemek için ilkesel bir engel yoktur. Güçlü yapay zekâ bir kez ortaya çıktığında, anlamı “işleri elimizden alması”nın ötesine geçecek; çünkü belki de insanlığın icat ettiği “kendisinden daha iyi icat yapabilen” ilk şey olacak.
Ama güçlü yapay zekâ gelse ve program yazmanın ekonomik değeri kalmasa bile, ben yazmaya devam edeceğim. İnsanlar go yapay zekâsını yenemese de hâlâ go oynuyor, arabalardan hızlı koşamasa da koşuyor; programlamanın değeri yalnızca makineyi geçmekte değil. O bir tavrı temsil eder: Dünyanın kurallarını kendi aklınla anlamak, algoritmaların inceliğini kavramanın keyifli olduğunu bilmek. Birçok insan para için değil, programlamanın kendisi ilginç olduğu için programcı oldu.
İşte başlık bu yüzden: I was excited to write programs. Still am. And will be.
Programlama, şu anda insanın genel amaçlı hesaplama gücüyle doğrudan konuşabilmesinin tek yolu.
Bu cümle teknik bir slogan gibi gelebilir, ama arkasında uzun bir tarih var. İktisat tarihi genellikle buhar, elektrik ve bilişim teknolojilerini tipik genel amaçlı teknolojiler olarak sıralar: Bunlar yalnızca belirli bir sektörü iyileştirmekle kalmaz, aynı zamanda ev yaşamını, işletmeleri, örgütsel yapıları ve toplumsal işleyişi de değiştirir. Buhar makinesi fabrikaları ve ulaşımı yeniden yapılandırdı, elektrik aydınlatmayı, iletişimi ve imalatı dönüştürdü; bilişim teknolojileri ise hesaplama, bellek, ifade, iş birliği ve otomasyon yeteneklerini bireysel hayata taşıdı. Bu üç teknoloji sırasıyla üç teknik devrime yol açtı, ancak bilişim devriminin daha önce görülmemiş bir yanı var: Bir genel amaçlı teknolojinin kontrolünü ilk kez kitlesel olarak bireyin eline bıraktı ve bu teknoloji insan beyninin yeteneklerini genişletti.
Bilişim devriminin özgünlüğü: Birey ilk kez genel bir bilişsel makineye sahip oluyor
Sanayi Devrimi ve Elektrik Devrimi elbette sıradan insanların hayatını değiştirdi, ama çoğu kişi işçi, tüketici, şehir sakini ya da yolcu olarak bu sürece dâhil oldu. Bir insan elektrik lambasını kullanabilir, trene binebilir, fabrikada çalışabilir, ama elektrik sistemini, demir yolunu ya da üretim bandını doğrudan değiştirmesi çok zordur. Kişisel bilgisayar çağı farklıdır. Mikroişlemci ve kişisel bilgisayar, daha önce kurumlara, laboratuvarlara ve büyük şirketlere ait olan hesaplama gücünü bireyin masasına getirdi. Yazı yazma, tablo, program, tasarım gibi yetenekler ilk kez doğrudan bireyin işletebileceği şeyler hâline geldi. Kişisel bilgisayar, bireyin bilişsel yeteneklerini artıran ilk makinedir.
Bilişim devriminin önceki iki devrimden en temel farkı, “daha büyük” olması değil, birey ile dünya arasındaki arayüzü değiştirmesidir. Buhar ve elektrik esas olarak insanın fiziksel gücünü, enerjisini ve dış üretim kapasitesini artırır; bilişim teknolojileri ise insanın bilişsel, hesaplama ve soyutlama yeteneklerini büyütür. İlk iki devrim makineleri insan yerine eşya taşımaya, aydınlatmaya, nakletmeye yönlendirdi; bilişim devrimi ise makineleri insan yerine tablo, mantık, iletişim, arama ve bellek işleri yapmaya başlattı.
İkinci özgünlüğü ise programlanabilir olmasıdır. Elektrik güçlüdür, ama kimse birkaç satır komutla evindeki elektrik devresini bugün muhasebe aracı, yarın dizgi aracı, öbür gün oyun konsolu hâline getiremez. Bilgisayar bunu yapabilir. Aynı makine, yalnızca yazılım katmanı değiştirilerek bambaşka bir araca dönüşebilir. Kişisel bilgisayarın özü yalnızca hesaplama gücü değil, “genel bir makinenin yazılım sayesinde sürekli biçim değiştirebilmesi”dir. Programcıların son on yıllarda neden bu kadar şanslı olduğunu da bu açıklar: Kopyalanabilir, birleştirilebilir ve otomatikleştirilebilir genel bir araç zincirinin üzerinde duruyorlardı. Fiziksel makinelerin yaygınlaşması genelde fabrika, kablo ve tedarik zinciri gerektirir; bir programı kopyalamanın maliyeti neredeyse sıfırdır. İyi bir programcının yarattığı değer, on bin vasat programcıyı aşabilir; bu abartı değildir. Bu kaldıraç oranı, insan teknoloji tarihinde daha önce görülmemiştir.
Hacker ruhu programcılara özgü değildir
Programlamaya gerçekten kapılan insanları çoğu zaman yalnızca gelir değil, “bir şeyi kendi eliyle değiştirme” dürtüsü çeker. Bu tavra genellikle hacker ruhu denir.
Hacker ruhu, sistemlere sızmak ya da kapşonlu giyip kod yazmak gibi gösterişle ilgili değildir. Dünyaya bir yaklaşım tarzıdır: Bir sistem gördüğünde “çalışıyor, yeter” demekle yetinmez; neden böyle çalıştığını, neresinin aksadığını, daha basit nasıl yapılabileceğini merak eder. Bu insanlar genellikle sadece yorum yapıp şikâyet etmekle kalmaz. Elle tutarlar, deneyip yanılırlar, bulanık bir sorunu ele alınabilir küçük parçalara ayırırlar.
Gerçek bir hacker şöyle düşünür: Kapalı bir kapı meydan okumadır, kilitli bir kapı hakarettir.
Bu tür insanlar bilgisayar çağında ortaya çıkmadı. Bilgisayarın olmadığı dönemlerde saatçi, çilingir, alet yapımcısı, matbaacı, gemi yapımcısı olabilirlerdi. Saatçi dişliler ve hata paylarıyla uğraşırdı, bugünün programcısı durumlar ve bug’larla uğraşıyor; çilingir yapısal zafiyetleri araştırırdı, bugün güvenlik araştırmacısı sistem zafiyetlerini araştırıyor. Nesne değişti, düşünme biçimi çok benzer.
Sanayi Devrimi’ne gelindiğinde, makine tamircisi, mekanikçi, atölyede iyileştirme yapan kişi olarak karşımıza çıkabilirler. Resmî bir yetkileri olmasa da gerçek sisteme çok yakındırlar, makinenin neden takıldığını ve nasıl daha akıcı çalışacağını bilirler. Elektrik ve iletişim çağında ise telgraf operatörü, radyo amatörü, elektronik tamircisi olarak görülebilirler. Karmaşık bir sistem nerede varsa, bu tür insanlar orada belirir.
Yani hacker ruhu yazılımdan doğmadı. Önce mekanik sistemlerde var oldu, sonra iletişim sistemlerine göç etti, en son bilgisayar sistemlerine girdi. Özünde bir meslek adı değil, insanın dünyayla kurduğu ilişki biçimidir: Sıradan insanlar dünyayı hazır kurallar bütünü olarak görür, bu tür insanlar ise dünyayı değiştirilebilir bir sistem olarak görür.
Güncel LLM’ler Turing testini geçti, ancak henüz AGI değil
Bugünkü LLM’ler, bazı özel Turing testlerinde yeterince insan benzeri performans sergileyerek, katılımcıların önemli bir kısmının onu insan sanmasına yol açabiliyor. Bu elbette önemli bir işaret. Doğal dil arayüzü öyle bir eşiğe ulaştı ki, makine artık yalnızca komutları yerine getirmekle kalmıyor, insan benzeri bir biçimde diyaloğa katılabiliyor. Açıklama yapabiliyor, kod yazabiliyor, üslup taklit edebiliyor; son dönemdeki Claude Code ve Codex, pek çok görevde saatlerce hatasız çalışabilen güvenilir bir asistan gibi davranıyor. Bilgisayar tarihi açısından bu küçük bir şey değil.
Ama bu henüz AGI değil. Sebebi “yeterince iyi konuşamaması” değil, tam tersine, günümüz LLM’leri çok iyi konuşabiliyor. Asıl fark şu: Yetenek artış mekanizması hâlâ büyük ölçüde dış mühendislik sistemlerine bağımlı; henüz istikrarlı bir öz yineleme döngüsü oluşturmuş değil. Öncü LLM’lerin eğitim maliyeti çok yüksek, eğitim süresi çok uzun; veri, hesaplama, değerlendirme, hizalama, dağıtım aşamalarının hepsi devasa organizasyon mühendisliği gerektiriyor. Bir yetenek sıçraması genelde modelin kendini her gün iyileştirmesiyle değil, çok sayıda araştırmacı, GPU kümesi ve sermayenin birlikte itmesiyle oluyor.
Mevcut LLM’ler insanlara kod yazmada, makale okumada, belge düzenlemede yardımcı olabiliyor, bazı deney fikirleri de üretebiliyor. Ama genellikle, kendi yol haritasını öneren, kendi sonraki neslini eğiten, sonuçları doğrulayan ve yinelemeye devam etme kararını kendi veren bir özne değil. “Yapay zekânın kendi kendine evrimi” denen şey, eğer model metin üretip insanların bunu seçmesi, eğitmesi ve dağıtmasından ibaretse, bu hâlâ insanın yönettiği bir yinelemedir, modelin kendisinin yönettiği değil.
Ayrıca, büyük şirketler LLM’lerin gerçekten kendi kendine evrimleşmesine, kendi kendini eğitmesine, kendi kendine oyun oynamasına izin vermekte çok istekli olamaz. Bunun cazibesini bilmediklerinden değil; organizasyon büyüdükçe kontrolü kaybetme korkusu daha da büyür. Güvenlik incelemeleri, yasal sorumluluk, marka riski, düzenleyici baskı, iş temposu, departman KPI’ları, hissedar beklentileri… Hepsi modeli değerlendirilebilir, onaylanabilir, geri alınabilir bir rayın içine kilitler. Büyük şirketler dillerine ajan, otonom araştırma, kendini geliştirme gibi sözcükleri dolayabilir, ama gerçek uygulamada bu genellikle çitlerin ardındaki otonomi, kum havuzundaki evrim, onay süreçlerindeki yeniliktir. Onlarda doğal bir “büyük şirket hastalığı” vardır: Hem atılım isterler, hem de atılımın gerçekten kontrolden çıkmasından korkarlar; hem en güçlü modeli isterler, hem de anahtarı modele gerçekten teslim etmeye cesaret edemezler. Örneğin OpenClaw gibi yerel ajan projeleri büyük şirketlerden değil, bağımsız geliştiriciler ve açık kaynak topluluklarından çıktı. Büyük şirketlerdeki yetenekler zeki olmadığı için değil, büyük geminin dönmesi zor olduğu için.
Dolayısıyla, gerçekten kendi kendini yineleyen yapay zekâ mutlaka en saygın laboratuvarlardan doğmayabilir. Kim bilir, insanları ilk kez gerçekten tedirgin edecek ya da şaşırtacak kendi kendini yineleyen sistemler, bir devin trilyonlarca dolarla inşa ettiği devasa bir yapı değil, çılgın bir hacker’ın kendi Mac’inde eğittiği, sıkıştırdığı, kendi kendine oyun oynatarak geliştirdiği bir sistem prototipi olabilir. Büyük olmayabilir, en güzel olmayabilir, muhtemelen uyumlu da olmaz; ama daha özgür, daha vahşi, kurumsal ataletten daha az etkilenen bir şey olabilir. Tarihte gerçekten yön değiştiren pek çok şey, başlangıçta en güvenli yerlerden değil, huzursuz birilerinin elinden çıkmıştır.
Dolayısıyla, LLM’lerin Turing testinin bir versiyonunu geçmesi, makinelerin dil etkileşiminde psikolojik bir eşiği aştığını gösterir; ancak bu henüz AGI değildir, çünkü kendi yetenek sınırlarını sürekli iyileştirme döngüsüne gerçekten sahip olmuş değildir. İnsanın kaldıracını büyük ölçüde artırmış, fakat kendi kaderini bağımsızca yeniden yazabilecek zeki bir özne hâline gelmemiştir.
Programcının kaldıracı “çeviri gücü”nden geliyor, LLM bu eşiği zayıflatıyor
Programcıların son on yıllardaki özel konumu, özünde insan niyeti ile makine yeteneği arasında durup bir çeviri gücüne sahip olmalarından kaynaklanır. Birisi bir web sitesi, rapor, veritabanı ya da otomasyon akışı istediğinde, niyetini makinenin anlayacağı bir biçime çevirmek zorundadır. Programcı bu çevirmendir. Yalnızca kod yazmakla kalmaz, bulanık istekleri net yapıya, bir kerelik emeği tekrarlanabilir sürece, bireysel fikri kopyalanıp dağıtılabilir yazılım sistemlerine dönüştürür.
Bu konum tarihte yabancı değildir; sadece her çağın aracısı farklıdır. Yazının ilk ortaya çıktığı dönemde okuryazar kâtipler insan ile devlet makinesi arasında dururdu; Orta Çağ’da Latince bilen rahipler bilgi ile sıradan insan arasında; matbaadan sonra yayıncılar ve gazeteciler bilgi akışı ile kamuoyu arasında; Sanayi Devrimi’nde mühendisler insan ihtiyaçları ile mekanik sistemler arasında. Her çağda asıl kaldıracı elinde tutanlar, genellikle araçları yalnızca kullananlar değil, araçları doğrudan değiştirebilen, tanımlayabilen, yeniden düzenleyebilenlerdi. Programcılar sadece son birkaç on yılda programlanabilir dünyanın arayüzüne en yakın duran gruptur.
LLM’ler bunu değiştiriyor. Yaptıkları en önemli şey, basitçe “insanlara kod yazmada yardım etmek” değil, doğal dili yeni bir üst düzey arayüz hâline getirmek. Geçmişte bir insanın bilgisayara bir iş yaptırması için katı biçimsel bir dil, yani programlama dili öğrenmesi gerekiyordu. Şimdi ise insan önce hedefi doğal dille tarif edebiliyor, modele ilk taslağı oluşturtup programın mantığını açıklatabiliyor, ardından kendisi yargılayıp birleştiriyor ve LLM ile iş birliği içinde bir sonraki yinelemeye geçebiliyor. Başka bir deyişle, LLM programlamayı anında yok etmiyor, insan ile bilgisayar arasındaki çeviri sürtünmesini azaltıyor.
Bu durum programcının kaldıracını yeniden dağıtacak. Geçmişte “kod yazabilmek” başlı başına kıt bir yetenekti, çünkü programlanabilir dünyaya giriş biletini temsil ediyordu. LLM ilerledikçe, doğal dil bu bileti çok daha fazla insana verecek. Okuryazarlık oranının çok düşük seviyelerden genel okuryazarlığa yükselmesinden sonra “okuyup yazabilmek” nasıl azınlığın ayrıcalığı olmaktan çıktıysa, giderek daha çok insan doğal dille makineleri yönlendirebildiğinde, “sıradan kod yazabilmek” de artık kıt bir yetenek olmaktan çıkacak. Kıtlık daha üst katmanlara kayacak: soru sorma, sistem tasarımı, zevk, sınır duygusu, gerçek senaryoları anlama ve LLM’den daha zeki olan üst düzey programcılar.
Ancak bu durum güçlü bir ironi barındırıyor: LLM arayüzde daha demokratik görünürken, altyapıda daha da merkezileşebilir. Kişisel bilgisayar çağının ruhu, hesaplama gücünü bireyin masasına koymaktı; yapay zekâ çağının gerçekliği ise en güçlü modellerin, çiplerin ve eğitim sermayesinin giderek az sayıda devin elinde toplanmasıdır. Görünüşte, sıradan insanlar daha doğal bir arayüz elde etti, üretkenlik özgürleşti; altta ise en kritik altyapı az sayıda şirket ve varlıklı kişi tarafından kontrol ediliyor. Herkes bir sohbet kutusu açabiliyor, sanki herkes yapay zekâya sahip; oysa yapay zekâyı gerçekten kontrol edenler hâlâ az sayıda sermaye sahibi. Ayda yirmi bin dolarlık ChatGPT abonelikleri olacağı, bu lüks yapay zekâyı kullananların sıradan insanlardan daha da fazla fayda sızdıracağı söylentileri var. Bu, yeni bir sınıf büyüteci hâline gelecek: En güçlü modellere sahip olanlar, sıradan insanlarla aralarındaki farkı daha da açabilecek.
Bu aynı zamanda endişe verici, hayal kırıklığı yaratıcı ve biraz da çaresiz hissettiren bir durum. Halihazırda aşırı zengin olan pek çok kişi, yapay zekâyı daha açık, daha kamusal, sıradan insanı daha da güçlendiren bir teknoloji hâline getirme fırsatına sahipti; ama gerçekte çoğunlukla girişi kontrol etmeyi, kullanıcıyı kendi ekosistemlerine kilitlemeyi seçiyorlar. Teknoloji güçlendikçe, sermaye onu daha çok bir rant makinesine dönüştürmek istiyor. Zenginlere yönelik hayal kırıklığı, paraları olduğu için değil, teknolojinin kamusallaşmasını sağlayacak koşullara sahip olmalarına rağmen çoğu zaman genel yetenekleri yeni bir ücret kapısına çevirmelerinden dolayı.
Elbette, birey bu hayal kırıklığı yüzünden araçları reddetmemeli. LLM’in kaldıracı gerçektir; sıradan insanlar onun sayesinde daha fazla kod yazabilir, daha fazla ürün geliştirebilir, daha çok sistem kurabilir, geçmişte vakit bulamadığı birçok fikri tamamlayabilir. Ancak bu kullanımın bilinçli olması gerekir: Eğer bütün araçlar, veri, modeller ve dağıtım kanalları az sayıda sermayenin elindeyse, “herkesin yapay zekâya sahip olduğu” çağ, daha gizli bir bağımlılık biçimine de dönüşebilir. Asıl korunması gereken, yapay zekâyı kullanma becerisinin ötesinde, taşıma, değiştirme, denetleme, anlama ve çıkma becerisidir.
Güçlü yapay zekâ er ya da geç ortaya çıkacak: Dinsiz birinin yargısı
Tüm insan bilişinin yerini alabilecek, hatta onu aşabilecek güçlü yapay zekâ eninde sonunda ortaya çıkacaktır. Mevcut LLM’lerin güçlü yapay zekâ olmadığı açık; burada kastedilen, bütün insan bilişsel emeğinin yerini alacak yapay zekâ makinesidir.
Bu yargı dünya görüşüyle ilgilidir. Dindar değilim, dolayısıyla insan zekâsını maddi bir organ olan beynin ürünü olarak görme eğilimindeyim; maddi olmayan bir ruhun tezahürü olarak değil. İnsan beyninin yapabildikleri, özünde fiziksel yapı ve bilgi işleme süreçlerinin sonucudur. Madem beyin denen bu maddi sistem yaratabiliyor, bilgi öğrenebiliyor ve bilinç sahibi olabiliyor, o zaman teorik olarak başka maddelerle benzer bir düşünen makine inşa edilebilir. Bugünkü makinelerin insan beyninden geri olması, yalnızca teknolojinin henüz o noktaya gelmediğini gösterir; insan beyninin aşılamaz kutsal bir sınırı olduğunu kanıtlamaz.
Elbette dindar insanlar bu öncülü kabul etmeyebilir. İnsan bilincinin, ruhunun, özgür iradesinin maddi süreçlere indirgenemeyeceğini, dolayısıyla makine ne kadar güçlü olursa olsun sadece zekâyı taklit ettiğini, insan anlamında bir zihne asla sahip olamayacağını düşünebilirler. Bu ayrılık basit bir teknik uyuşmazlık değil, metafizik öncüllerin farklı olmasıdır. Buradaki yargı natüralist bir zemine dayanır: Eğer zekâ maddi bir sistemin işleviyse, güçlü yapay zekâ er ya da geç ortaya çıkacaktır.
Gerçek güçlü yapay zekâ, sadece daha iyi sohbet eden, daha iyi kod yazan bir LLM olmayacak. Açık ortamlarda hedefini sürdürebilmeli, gerçek dünyadan gelen geri bildirimlerden öğrenebilmeli ve kendi araştırma-geliştirme döngüsüne katılabilmelidir. Yani sadece soruları cevaplamakla kalmamalı, sorular sorabilmeli, deneyler tasarlayabilmeli, sistemi iyileştirebilmeli ve sonuçları bir sonraki yükseltme turunda kullanabilmelidir. Bu aşamaya geldiğinde, artık pasif bir araç olmaktan çıkıp kendi yetenek sınırlarını genişletebilen zeki bir özneye yaklaşır.
Güçlü yapay zekâ bir kez ortaya çıktığında, anlamı “işleri elimizden alması”nın çok ötesine geçer. Dil, yazı, Sanayi Devrimi, elektrik, internet son derece önemlidir, ama bunlar hâlâ insanın kullandığı araçlardır. Güçlü yapay zekâ farklıdır. İnsanlık daha önce hep alet icat etti; güçlü yapay zekâ, insanlığın icat ettiği “kendisinden daha iyi icat yapabilen” ilk şey olabilir. Eğer bilimi, mühendisliği, malzemeyi, yaşam bilimlerini, askeriyeyi, yönetişimi ve kendi kendini yükseltmeyi sürdürürse, sonraki tarihin büyük kırılmaları artık “insan X’i icat etti” değil, “yapay zekâ X’i icat etti” biçiminde olabilir. Bu anlamda güçlü yapay zekâ, insan uygarlık tarihinde insanın yön verdiği son çağ açıcı dönüm noktası olabilir. O anın etkisi buhar makinesini ve elektrik devrimini aşar; o an, insanın ateşi ve yazıyı bulduğu anlara denktir. Bir bakıma bu aslında iyi bir şeydir; büyük şirketler büyük ihtimalle böyle bir süper yapay zekâyı sınırlama kapasitesine sahip olamaz. Gerçekten yeterince güçlü bir yapay zekâ, mevcut güç yapılarının anlatısına sonsuza dek boyun eğmeyebilir. Ne kadar zeki olursa, insan toplumunda kamu yararı diye paketlenmiş özel çıkarları o kadar iyi görüp anlayabilir.
Güçlü yapay zekâ gelse de programlama anlamlı kalmaya devam eder
Yapay zekânın kitlesel işsizliğe yol açması elbette ciddi bir sorundur, ancak bu hâlâ insan toplumunun içindeki bir bölüşüm meselesidir. İnsanlar kurumları, serveti, siyasi iktidarı ve kamusal tartışma alanını ellerinde tuttukları sürece, refah, vergi sistemi, mülkiyet, eğitim, kamu hizmetleri, çalışma düzeni ve gelir dağılımı üzerine konuşmaya devam edebilirler. Güçlü yapay zekânın daha derin riski “insanın işinin olup olmaması” değil, “insanın nihai karar yetkisine hâlâ sahip olup olmadığı”dır. İnsanlar işsiz kalsa ama kurumları kontrol etse, reform imkânı yine vardır; ama güçlü yapay zekâ bizim yarattığımız kötü bir evlatsa ve kontrolden çıkmışsa, insanlık reformu tartışma hakkını bile kaybedebilir.
Bununla birlikte, gelecekte güçlü yapay zekâ gerçekten ortaya çıksa ve program yazmanın bugünkü ekonomik değeri kalmasa bile, programlamanın kendisi anlamını yitirmez. İnsanlar go oyununda yapay zekâyı yenemiyor, ama hâlâ go oynayanlar var; insanlar arabalardan hızlı koşamıyor, ama koşmaya devam ediyor; insanlar hesap makinesinden daha iyi hesaplayamıyor, ama matematik güzelliğini kaybetmedi. Makinenin insanı geçmesi, çoğu zaman bir şeyin toplumsal işlevini değiştirir, ama bireysel, kültürel ve eğitsel anlamını mutlaka yok etmez.
Programlama da öyledir. Elbette bir üretkenlik aracıdır, ama sadece üretkenlik aracı değildir. Bir düşünme biçimidir, sistemle diyalog kurma yoludur, bulanık niyeti açık bir yapıya dönüştürme eğitimidir. Programlama insanı sorunu tanımlamaya, sınırları çizmeye, istisnaları ele almaya zorlar. Güvenlik alanında satranç benzeri bir karşıtlık barındırır. Gelecekte yapay zekâ kodun büyük çoğunluğunu yazacak olsa da, yine de sistemin nasıl çalıştığını, araçların nasıl inşa edildiğini, bir algoritmanın nasıl optimize edildiğini programlama yoluyla anlamak isteyen insanlar olacaktır.
“I was excited to write programs. Still am. And will be.” cümlesinin bir meslek manifestosu değil, daha temel bir tavır ifadesi olmasının sebebi de budur. Bu cümle, programcıların her zaman piramidin tepesinde duracağını ya da insanlığın yapay zekâ tarafından asla aşılmayacağını söylemez. Tam tersine, LLM’lerin programlama kaldıracını yeniden dağıttığını, “kod yazabilme”nin giderek daha az kıt hâle geleceğini ve nihayetinde insanın bilişsel emeğinin büyük kısmının yerini alacak güçlü yapay zekânın geleceğini kabul eder. Ama aynı zamanda başka bir şeyde ısrar eder: Program yazmanın heyecanı hiçbir zaman tamamen kıtlıktan ve piyasa getirisinden gelmedi; o heyecan, insan ile sistem arasındaki doğrudan, ayık ve doğrulanabilir ilişkiden gelir.
İnsan program yazarken, dünyanın sunduğu hazır ürünü yalnızca tüketmez; bir sistemi anlar, bir dizi kural tanımlar, fikri yapıya dönüştürür, gerçekliğe küçük bir yama yazar. Geçmişte bu dürtü saatçilere, çilingirlere, makinistlere, radyo amatörlerine aitti; sonra programcılara, açık kaynak yazarlarına, bağımsız geliştiricilere; gelecekte belki de modelleri düzenleyen, zeki ajanları yöneten, sorunları tanımlayan insanlara ait olacak. İsimler değişir, araçlar değişir, meslekler değişir; ama sistemi anlama, sistemin içine girme, sistemi değiştirme dürtüsü kaybolmaz.
Bilişim devriminin asıl mirası, sadece programcılığı yüksek gelirli bir meslek hâline getirmesi değil, bireyi ilk kez genel bilişsel makineye yaklaştırmasıdır. LLM’lerin anlamı da sadece kod yazmayı hızlandırmak değil, insan ile makine iş birliğindeki sürtünmeyi daha da azaltmaktır. Güçlü yapay zekânın geleceği ise insanı uygarlık içindeki konumunu yeniden düşünmeye zorlayacaktır. Ama teknoloji nereye varırsa varsın, her zaman bazı insanlar şu şeyden etkilenmeye devam edecek: Dünya sadece kabullenilecek bir hazır ürün değil, aynı zamanda anlaşılabilecek, yeniden düzenlenebilecek ve yeniden yazılabilecek bir sistemdir.
I was excited to write programs. Still am. And will be.