Skip to content
realyyz's blog
Click here to change language
Go back

از نوشتن برنامه هیجان‌زده بودم. هنوز هم هستم. و خواهم بود.

Edit page

چکیده

این نوشته نمی‌خواهد بگوید «برنامه‌نویسان هرگز جایگزین نمی‌شوند»، بلکه می‌گوید: اهمیت برنامه‌نویسی در درجه‌ی اول به خاطر شغل پردرآمدش نیست، بلکه به این خاطر است که برای اولین بار به فرد امکان می‌دهد مستقیماً با قدرت محاسباتی عمومی گفت‌وگو کند.

انقلاب اطلاعات با انقلاب بخار و برق فرق دارد. بخار و برق عمدتاً نیروی بدنی، انرژی و توان تولید بیرونی انسان را تقویت کردند؛ رایانه‌ی شخصی و نرم‌افزار یک ماشین شناختی عمومی را در دستان فرد گذاشتند، طوری که آدم‌های معمولی می‌توانند پشت دستگاهشان بنشینند و فکری را به چیزی اجرایی تبدیل کنند. قدرت برنامه‌نویسان در دهه‌های گذشته از همین «ترجمه‌ی قصد انسان به زبان ماشین» می‌آمد.

مدل‌های زبانی بزرگ (LLM) این آستانه را پایین می‌آورند. آن‌ها زبان طبیعی را هم به رابطی برای کنترل رایانه تبدیل می‌کنند و به افراد بیشتری بخشی از قدرتی را می‌دهند که پیش‌تر فقط برنامه‌نویسان داشتند. اما این به معنای آن نیست که LLMهای فعلی همان AGI (هوش مصنوعی عمومی) هستند. حتی اگر در برخی آزمون‌های تورینگ به اندازه‌ی کافی شبیه انسان رفتار کنند، هنوز برای پیشرفت توانمندی‌شان به شدت به متخصصان انسانی، سرمایه و حجم عظیم پردازش وابسته‌اند. این مدل‌ها هنوز یک چرخه‌ی بسته‌ی خودآموزی، خودبازی و خودبهبودی واقعی را شکل نداده‌اند.

آنچه واقعاً نگران‌کننده است: لایه‌های زیرین هوش مصنوعی ممکن است متمرکزتر شوند. عصر رایانه‌ی شخصی قدرت محاسبه را روی میز فرد آورد؛ عصر هوش مصنوعی قوی‌ترین مدل‌ها، تراشه‌ها، مراکز داده و درگاه‌های پلتفرمی را در دستان چند شرکت و ثروتمند متمرکز می‌کند. این هم هیجان‌انگیز است و هم ناامیدکننده: آدم‌های معمولی ابزارهای قدرتمندتری به دست می‌آورند، اما ممکن است به شکل نامحسوس‌تری به پلتفرم‌ها وابسته شوند.

از دیدگاهی غیردینی و طبیعت‌باورانه، هوش مصنوعی قوی سرانجام پدید خواهد آمد. هوش و آگاهی انسان از مغز به عنوان یک اندام مادی برمی‌آید؛ حال که یک سیستم مادی می‌تواند هوش و آگاهی تولید کند، هیچ مانع اصولی وجود ندارد که بگوییم ماشین هرگز نمی‌تواند از مغز انسان پیشی بگیرد یا به آگاهی دست یابد. وقتی هوش مصنوعی قوی پدید آید، اهمیتش فراتر از «گرفتن شغل‌ها» خواهد بود؛ شاید اولین چیزی باشد که بشر اختراع می‌کند که «از خود مخترع بهتر اختراع می‌کند».

اما حتی اگر هوش مصنوعی قوی بیاید و نوشتن برنامه ارزش اقتصادی‌اش را از دست بدهد، من باز هم برنامه خواهم نوشت. همان‌طور که انسان‌ها با وجود شکست از هوش مصنوعی در گو هنوز بازی می‌کنند، و با وجود کندتر بودن از ماشین هنوز می‌دوند، ارزش برنامه‌نویسی فقط در برتری بر ماشین نیست. برنامه‌نویسی نمایانگر یک نگرش است: خودت با ذهنت قواعد جهان را بفهمی، زیبایی الگوریتم‌ها را درک کنی، و بسیاری از برنامه‌نویسان نه به خاطر پول، بلکه به خاطر جذابیت خود برنامه‌نویسی این حرفه را انتخاب کرده‌اند.

برای همین عنوان این است: I was excited to write programs. Still am. And will be.

برنامه‌نویسی، در حال حاضر تنها راهی است که انسان می‌تواند مستقیماً با قدرت محاسباتی عمومی گفت‌وگو کند.

این جمله شبیه یک شعار فنی به نظر می‌رسد، اما پشت آن تاریخ بلندی نهفته است. تاریخ اقتصادی معمولاً بخار، برق و فناوری اطلاعات را به عنوان فناوری‌های عمومی شاخص در نظر می‌گیرد: آن‌ها فقط یک صنعت را بهبود نمی‌بخشند، بلکه هم‌زمان زندگی خانوادگی، تولید بنگاه‌ها، ساختار سازمان‌ها و شیوه‌ی عملکرد جامعه را تغییر می‌دهند. موتور بخار کارخانه‌ها و حمل‌ونقل را بازآرایی کرد؛ برق روشنایی، ارتباطات و ساخت‌وساز را دگرگون ساخت؛ و فناوری اطلاعات توانایی محاسبه، حافظه، بیان، همکاری و خودکارسازی را به زندگی فردی آورد. این سه فناوری به ترتیب سه انقلاب فناورانه را پیش بردند، اما انقلاب اطلاعات یک ویژگی بی‌سابقه دارد: برای نخستین بار کنترل یک فناوری عمومی را در مقیاسی گسترده به دست افراد سپرد، و این فناوری توانایی‌های مغز انسان را گسترش داد.

ویژگی منحصربه‌فرد انقلاب اطلاعات: نخستین باری که فرد صاحب یک ماشین شناختی عمومی شد

انقلاب صنعتی و انقلاب برق قطعاً زندگی مردم عادی را تغییر دادند، اما بیشتر مردم به عنوان کارگر، مصرف‌کننده، شهروند و مسافر درگیر آن شدند. کسی می‌توانست لامپ روشن کند، سوار قطار شود، در کارخانه کار کند، اما به ندرت می‌توانست مستقیماً سیستم برق، شبکه‌ی راه‌آهن یا خط تولید صنعتی را تغییر دهد. عصر رایانه‌ی شخصی متفاوت بود. ریزپردازنده و رایانه‌ی شخصی قدرت محاسبه‌ای را که پیش‌تر در انحصار نهادها، آزمایشگاه‌ها و شرکت‌های بزرگ بود، روی میز شخصی آورد. نوشتن، صفحه‌گسترده، برنامه، طراحی — این توانایی‌ها برای نخستین بار به چیزهایی تبدیل شدند که فرد می‌توانست مستقیماً آن‌ها را به کار گیرد. رایانه‌ی شخصی نخستین ماشینی بود که توان شناختی فرد را ارتقا داد.

تفاوت بنیادین انقلاب اطلاعات با دو انقلاب پیشین در «بزرگ‌تر» بودنش نیست، بلکه در این است که رابط فرد با جهان را تغییر داد. بخار و برق عمدتاً نیروی بدنی، انرژی و توان تولید بیرونی انسان را تقویت کردند؛ فناوری اطلاعات توان شناختی، محاسباتی و انتزاعی انسان را تقویت کرد. دو انقلاب اول باعث شدند ماشین‌ها به جای انسان بار ببرند، روشن کنند و جابه‌جا کنند؛ انقلاب اطلاعات باعث شد ماشین‌ها شروع کنند به پردازش جدول‌ها، منطق، ارتباطات، جست‌وجو و حافظه به جای انسان.

دومین ویژگی خاص آن، قابل برنامه‌ریزی بودن است. برق خیلی قدرتمند است، اما کسی نمی‌تواند با چند خط فرمان، مدار خانه‌اش را امروز به ابزار حسابداری، فردا به ابزار صفحه‌آرایی و پس‌فردا به کنسول بازی تبدیل کند. رایانه می‌تواند. یک ماشین یکسان، فقط با عوض کردن لایه‌ی نرم‌افزار، می‌تواند به ابزاری کاملاً متفاوت تبدیل شود. هسته‌ی رایانه‌ی شخصی فقط قدرت محاسبه نیست، بلکه این است که «ماشین عمومی می‌تواند با نرم‌افزار مدام تغییر شکل دهد». این نکته همچنین توضیح می‌دهد چرا برنامه‌نویسان در دهه‌های گذشته این‌قدر خوش‌شانس بوده‌اند: آن‌ها روی زنجیره‌ای از ابزارهای عمومی ایستاده‌اند که قابل تکثیر، قابل ترکیب و قابل خودکارسازی است. گسترش ماشین‌های فیزیکی معمولاً به کارخانه، خطوط انتقال و زنجیره‌ی تأمین نیاز دارد؛ اما تکثیر یک برنامه تقریباً هیچ هزینه‌ای ندارد. یک برنامه‌نویس عالی ارزشی به اندازه‌ی ده هزار برنامه‌نویس متوسط خلق می‌کند — این جمله اغراق نیست. چنین ضریب قدرتی در تاریخ فناوری بشر بی‌سابقه است.

روحیه‌ی هکری ویژه‌ی برنامه‌نویسان نیست

کسانی که واقعاً جذب برنامه‌نویسی می‌شوند، اغلب فقط به خاطر درآمد نیست، بلکه به خاطر جذابیت «دست‌کاری کردن چیزها با دست خود» جذب می‌شوند. این خصلت را معمولاً روحیه‌ی هکری می‌نامند.

روحیه‌ی هکری نه به معنای نفوذ است، نه به معنای اجرای کلیشه‌ای کدنویسی با سویشرت کلاه‌دار. بیشتر شبیه یک روش رویارویی با جهان است: دیدن یک سیستم و راضی نشدن به «همین که کار کند کافی است»، بلکه خواستنِ دانستن اینکه چرا این‌طور کار می‌کند، کجایش نامناسب است و آیا می‌توان ساده‌ترش کرد. چنین افرادی معمولاً دلشان نمی‌خواهد فقط در حد نظر و شکایت بمانند. دست به کار می‌شوند، آزمون و خطا می‌کنند، و یک مسئله‌ی مبهم را به بخش‌های کوچک‌تر و قابل حل تقسیم می‌کنند.

یک هکر واقعی این‌طور فکر می‌کند: درِ بسته یک تحریک است، درِ قفل‌شده یک توهین.

این نوع آدم‌ها با عصر رایانه پدید نیامدند. در دوران پیش از رایانه، ممکن بود ساعت‌ساز، قفل‌ساز، ابزارساز، چاپچی یا کشتی‌ساز باشند. ساعت‌ساز چرخ‌دنده و خطا را تنظیم می‌کند، امروز برنامه‌نویس وضعیت و باگ را؛ قفل‌ساز نقص ساختاری را بررسی می‌کرد، امروز پژوهشگر امنیت آسیب‌پذیری سیستم را. موضوع عوض شده، شیوه‌ی اندیشیدن بسیار نزدیک است.

در انقلاب صنعتی، ممکن بود تعمیرکار ماشین‌آلات، مکانیک یا بهبوددهنده‌ی کارگاهی باشند. شاید قدرت رسمی نداشتند، اما به سیستم واقعی نزدیک بودند، می‌دانستند چرا ماشین قفل می‌کند و چطور روان‌تر کار کند. در عصر برق و مخابرات، ممکن بود تلگراف‌چی، علاقه‌مند به رادیو یا تعمیرکار الکترونیک باشند. هرجا سیستم پیچیده‌ای باشد، چنین افرادی سر برمی‌آورند.

پس روحیه‌ی هکری از دل نرم‌افزار بیرون نیامده است. ابتدا در سیستم‌های مکانیکی وجود داشت، بعد به سیستم‌های ارتباطی کوچ کرد و سرانجام به سیستم‌های رایانه‌ای رسید. هسته‌ی آن نام یک شغل نیست، بلکه رابطه‌ی انسان با جهان است: آدم‌های معمولی جهان را مجموعه‌ای از قواعد آماده می‌بینند، این گروه جهان را یک سیستم قابل تغییر می‌بینند.

LLMهای فعلی آزمون تورینگ را گذرانده‌اند، اما هنوز AGI نیستند

مدل‌های زبانی بزرگ امروزی در برخی آزمون‌های تورینگ خاص به قدر کافی شبیه انسان رفتار کرده‌اند، تا جایی که بخش قابل توجهی از آزمون‌گیرندگان آن‌ها را انسان تشخیص داده‌اند. این البته یک سیگنال مهم است. رابط زبان طبیعی به آستانه‌ای از بلوغ رسیده است؛ ماشین دیگر فقط فرمان اجرا نمی‌کند، بلکه می‌تواند به شیوه‌ای تقریباً انسانی در گفت‌وگو شرکت کند. می‌تواند مسئله را توضیح دهد، کد بنویسد، لحن را تقلید کند. نمونه‌های اخیر مثل claude code و codex در بسیاری از وظایف مانند یک دستیار قابل اعتماد عمل می‌کنند و می‌توانند چندین ساعت بدون خطا کار کنند. در تاریخ رایانه، این اتفاق کوچکی نیست.

اما این هنوز AGI نیست. دلیلش این نیست که «هنوز به اندازه‌ی کافی خوب حرف نمی‌زند» — درست برعکس، LLMهای امروزی به طرز شگفت‌انگیزی خوب حرف می‌زنند. فاصله‌ی واقعی اینجاست: سازوکار رشد توانمندی‌شان هنوز به شدت به سیستم‌های مهندسی بیرونی وابسته است، نه اینکه خودشان یک چرخه‌ی پایدار خودتکاملی تشکیل داده باشند. هزینه‌ی آموزش LLMهای پیشرو بسیار بالاست، چرخه‌ی آموزش طولانی است و داده، پردازش، ارزیابی، هم‌ترازی و استقرار نیازمند سازمان‌دهی مهندسی عظیمی است. یک جهش توانمندی معمولاً نتیجه‌ی خودبهبودی روزانه‌ی مدل نیست، بلکه نتیجه‌ی تلاش جمعی پژوهشگران زیاد، خوشه‌های GPU و سرمایه است.

LLMهای امروزی می‌توانند به انسان در نوشتن کد، خواندن مقاله، مرتب‌سازی اطلاعات کمک کنند و حتی ایده‌های آزمایشی تولید کنند. اما معمولاً آن موجودیتی نیستند که خودشان مسیر را پیشنهاد دهند، نسل بعدی را آموزش دهند، نتایج را تأیید کنند و تصمیم بگیرند که روند تکرار ادامه یابد. آنچه «تکامل خودکار هوش مصنوعی» خوانده می‌شود، اگر صرفاً مدل متنی تولید کند که بعد انسان آن را انتخاب، آموزش و مستقر کند، باز هم انسان گرداننده‌ی تکرار است، نه مدل.

از سوی دیگر، شرکت‌های بزرگ به سختی می‌توانند واقعاً به LLM اجازه‌ی خودتکاملی، خودآموزی و خودبازی بدهند. نه اینکه نداشته باشند این مسیر وسوسه‌انگیز است، بلکه هرچه سازمان بزرگ‌تر باشد، بیشتر از دست‌دادن کنترل می‌ترسد. بررسی‌های امنیتی، مسئولیت قانونی، ریسک برند، فشار مقررات، ریتم تجاری، KPI بخش‌ها و انتظارات سهامداران، مدل را در قالبی ارزیابی‌پذیر، تأییدشدنی و برگشت‌پذیر قفل می‌کنند. شرکت‌های بزرگ می‌توانند از agent، پژوهش خودگردان و خودبهبودی حرف بزنند، اما هنگام اجرا معمولاً با خودگردانی محصورشده، تکامل در جعبه‌ی شنی و نوآوری در چارچوب فرایند تأیید روبه‌رو هستیم. آن‌ها طبیعتاً «بیماری شرکت بزرگ» را دارند: هم خواهان پیشرفت‌اند، هم می‌ترسند پیشرفت واقعاً از کنترل خارج شود؛ هم قوی‌ترین مدل را می‌خواهند، هم جرئت ندارند کلید را واقعاً به مدل بسپارند. برای نمونه، پروژه‌ی agent محلی مانند OpenClaw نه توسط شرکت‌های بزرگ، بلکه از میان توسعه‌دهندگان مستقل و جامعه‌ی متن‌باز بیرون آمد. نه به این خاطر که نابغه‌های شرکت‌های بزرگ باهوش نیستند، بلکه به این خاطر که کشتی بزرگ به سختی تغییر مسیر می‌دهد.

بنابراین، هوش مصنوعی واقعاً خودتکامل‌یابنده لزوماً از معتبرترین آزمایشگاه‌ها بیرون نخواهد آمد. چه‌بسا اولین سیستم خودتکامل‌یابنده‌ای که واقعاً احساس خطر یا شگفتی ایجاد کند، نه ساخته‌ی عظیم یک غول با صدها میلیارد دلار، بلکه نمونه‌ی اولیه‌ای باشد که یک هکر دیوانه روی Mac خودش آموزش داده، فشرده‌سازی کرده و با خودبازی بهبود بخشیده است. شاید کوچک باشد، لزوماً زیبا نباشد و احتمالاً با مقررات منطبق نباشد؛ اما آزادتر، وحشی‌تر و رهاتر از سکون سازمانی خواهد بود. در تاریخ، بسیاری از چیزهایی که واقعاً مسیر فناوری را عوض کردند، ابتدا از دل یک آدم ناآرام بیرون آمدند، نه از باثبات‌ترین مکان‌ها.

پس، اینکه LLM نوعی از آزمون تورینگ را گذرانده، نشان می‌دهد ماشین می‌تواند در تعامل زبانی از یک آستانه‌ی روانی عبور کند؛ اما هنوز AGI نیست، زیرا هنوز بر چرخه‌ی بهبود مداوم مرزهای توانمندی خود مسلط نشده است. این مدل‌ها قدرت فرد را به شدت افزایش داده‌اند، اما هنوز به آن موجودیت هوشمندی تبدیل نشده‌اند که بتواند مستقلاً سرنوشت خود را بازنویسی کند.

قدرت برنامه‌نویسان از «قدرت ترجمه» می‌آمد، و LLM این آستانه را تضعیف می‌کند

برنامه‌نویسان در دهه‌های گذشته موقعیت ویژه‌ای داشتند، اساساً به این خاطر که میان قصد انسان و توانایی ماشین ایستاده بودند و صاحب یک قدرت ترجمه بودند. کسی که وب‌سایت، گزارش، پایگاه داده یا فرایند خودکار می‌خواست، باید قصد خود را به شکلی قابل فهم برای ماشین ترجمه می‌کرد. برنامه‌نویس همان مترجم بود. آن‌ها فقط کد نمی‌نوشتند، بلکه خواسته‌های مبهم را به ساختارهای مشخص، کار یک‌باره را به فرایند تکرارپذیر، و ایده‌های شخصی را به سیستم‌های نرم‌افزاری قابل تکثیر و توزیع تبدیل می‌کردند.

این موقعیت در تاریخ ناآشنا نیست، فقط واسطه‌های هر دوره متفاوت بوده‌اند. وقتی خط تازه پدید آمده بود، کاتبان باسواد میان مردم و دستگاه حکومت ایستاده بودند؛ در قرون وسطی، روحانیان مسلط به لاتین میان دانش و مردم عادی؛ پس از چاپ، ناشران و روزنامه‌نگاران میان انتشار اطلاعات و عموم؛ در انقلاب صنعتی، مهندسان میان نیازهای انسانی و سیستم‌های مکانیکی. در هر دوره، کسانی که واقعاً اهرم قدرت داشتند اغلب نه صرفاً استفاده‌کنندگان ابزار، بلکه کسانی بودند که می‌توانستند ابزار را مستقیماً تغییر دهند، تعریف کنند و بازترکیب کنند. برنامه‌نویسان فقط آخرین گروهی هستند که در دهه‌های اخیر به رابط دنیای برنامه‌پذیر نزدیک‌تر بوده‌اند.

LLM دارد این وضعیت را تغییر می‌دهد. مهم‌ترین کاری که می‌کند «کمک به نوشتن کد» به شکل ساده نیست، بلکه تبدیل زبان طبیعی به یک رابط سطح بالا است. پیش‌تر، برای اینکه رایانه کاری انجام دهد، فرد باید یک زبان صوری دقیق، یعنی زبان برنامه‌نویسی، یاد می‌گرفت. حالا فرد می‌تواند نخست با زبان طبیعی هدف را توصیف کند، بگذارد مدل پیش‌نویس را تولید و منطق برنامه را توضیح دهد، سپس فرد قضاوت و یکپارچه‌سازی کند و در ادامه با همکاری LLM تکرار بعدی را پیش ببرد. به عبارت دیگر، LLM فوراً برنامه‌نویسی را از بین نبرده، بلکه اصطکاک ترجمه میان انسان و رایانه را کاهش داده است.

این امر قدرت برنامه‌نویسان را بازتوزیع خواهد کرد. در گذشته، «توانایی کدنویسی» خودش یک توانایی کمیاب بود، چون بلیت ورود به دنیای برنامه‌پذیر بود. با پیشرفت LLM، زبان طبیعی این بلیت را به افراد بیشتری خواهد داد. همان‌طور که وقتی نرخ باسوادی از سطح بسیار پایین به باسوادی همگانی رسید، «خواندن و نوشتن» دیگر امتیاز گروه اندکی نبود؛ وقتی افراد بیشتری بتوانند با زبان طبیعی ماشین را به حرکت درآورند، «نوشتن کد معمولی» نیز به تدریج کمیاب بودنش را از دست خواهد داد. کمیابی به لایه‌های بالاتر منتقل می‌شود: طرح مسئله، طراحی سیستم، سلیقه، حس مرزها، درک زمینه‌های واقعی، و برنامه‌نویسان برتری که از LLM باهوش‌ترند.

اما یک طنز تلخ در این میان هست: LLM در ظاهر دموکراتیک‌تر به نظر می‌رسد، اما در لایه‌های زیرین احتمالاً متمرکزتر می‌شود. روح عصر رایانه‌ی شخصی بر این بود که قدرت محاسبه روی میز فرد بیاید؛ واقعیت عصر هوش مصنوعی این است که قوی‌ترین مدل‌ها، تراشه‌ها و سرمایه‌ی آموزشی به طور فزاینده‌ای در دست چند غول متمرکز می‌شود. در ظاهر، افراد عادی رابط طبیعی‌تری به دست می‌آورند و بهره‌وری‌شان آزاد می‌شود؛ اما در عمق، زیرساخت‌های کلیدی را شرکت‌ها و ثروتمندان اندک کنترل می‌کنند. هر کسی می‌تواند یک پنجره‌ی چت باز کند، انگار که همه صاحب هوش مصنوعی شده‌اند؛ ولی کسانی که واقعاً هوش مصنوعی را کنترل می‌کنند، همان مالکان معدود سرمایه‌اند. شایعاتی هست که اشتراک ChatGPT با قیمت بیست هزار دلار در ماه عرضه خواهد شد؛ کسانی که از این هوش مصنوعی لوکس استفاده کنند، چربی بیشتری از مردم عادی خواهند کشید. این به تقویت‌کننده‌ی جدید شکاف طبقاتی تبدیل خواهد شد: صاحبان قوی‌ترین مدل‌ها می‌توانند فاصله‌شان را با مردم عادی بیش از پیش زیاد کنند.

این همان جایی است که هم هشداردهنده است، هم ناامیدکننده، و هم کمی تلخ. بسیاری از کسانی که حالا به شدت ثروتمندند، فرصت داشتند هوش مصنوعی را به فناوری‌ای بازتر، عمومی‌تر و توانمندسازتر برای مردم عادی تبدیل کنند؛ اما در عمل، اغلب انتخاب می‌کنند درگاه‌ها را کنترل کنند و کاربران را در بوم‌سازگان خود حبس کنند. هرچه فناوری قوی‌تر می‌شود، سرمایه بیشتر می‌خواهد آن را به ماشین اجاره تبدیل کند. ناامیدی از ثروتمندان نه به خاطر پول داشتنشان، بلکه به این خاطر است که با وجود داشتن شرایط لازم برای عمومی‌سازی فناوری، اغلب ترجیح می‌دهند توانایی‌های عمومی را به دروازه‌های جدید دریافت پول تبدیل کنند.

البته، افراد نمی‌توانند به خاطر این ناامیدی ابزار را رد کنند. قدرت LLM واقعی است؛ افراد عادی با کمک آن می‌توانند کد بیشتری بنویسند، محصولات بیشتری بسازند، سیستم‌های بیشتری سرهم کنند و ایده‌های بیشتری را که پیش‌تر وقت انجامش نبود، عملی کنند. فقط باید این استفاده با آگاهی همراه باشد: اگر همه‌ی ابزارها، داده‌ها، مدل‌ها و کانال‌های توزیع در دست چند سرمایه‌دار معدود باشد، آن‌وقت دوران «همه هوش مصنوعی دارند» می‌تواند به شکل نامحسوس‌تری از وابستگی تبدیل شود. آنچه واقعاً ارزش حفظ کردن دارد، فقط توانایی استفاده از هوش مصنوعی نیست، بلکه توانایی مهاجرت، جایگزینی، ممیزی، فهمیدن و خروج است.

هوش مصنوعی قوی سرانجام پدید خواهد آمد: این قضاوت یک بی‌دین است

هوش مصنوعی قوی که بتواند جایگزین یا حتی فراتر از همه‌ی توانایی‌های شناختی انسان شود، سرانجام پدید خواهد آمد. واضح است که LLMهای فعلی هوش مصنوعی قوی نیستند؛ منظور از هوش مصنوعی قوی در اینجا ماشینی است که همه‌ی کارهای شناختی انسان را پوشش دهد.

این قضاوت با جهان‌بینی مرتبط است. من دین ندارم، بنابراین گرایش دارم هوش انسان را محصول اندام مادی مغز بدانم، نه تجلی یک روح غیرمادی. کاری که مغز انسان می‌کند، اساساً نتیجه‌ی ساختار فیزیکی و فرایند پردازش اطلاعات است. حال که این سیستم مادی مغز می‌تواند خلق کند، دانش بیاموزد و آگاهی داشته باشد، از نظر نظری می‌توان با مواد دیگر ماشین‌های اندیشنده‌ای مشابه ساخت. اینکه ماشین‌های امروزی هنوز به پای مغز انسان نمی‌رسند، تنها نشان می‌دهد فناوری هنوز به آن نقطه نرسیده است، نه اینکه مغز انسان مرزی مقدس و عبورناپذیر داشته باشد.

البته، افراد دیندار شاید این پیش‌فرض را نپذیرند. آن‌ها ممکن است باور داشته باشند آگاهی، روح و اراده‌ی آزاد انسان قابل فروکاستن به فرایندهای مادی نیست، بنابراین ماشین هرچقدر هم قوی شود، فقط هوش را شبیه‌سازی می‌کند، نه اینکه واقعاً صاحب ذهنی به معنای انسانی شود. این اختلاف صرفاً فنی نیست، بلکه تفاوت در پیش‌فرض‌های متافیزیکی است. قضاوت اینجا بر یک موضع طبیعت‌باورانه استوار است: اگر هوش کارکرد یک سیستم مادی باشد، آن‌گاه هوش مصنوعی قوی دیر یا زود پدید خواهد آمد.

هوش مصنوعی قوی واقعی فقط یک LLM خوش‌صحبت و کدنویس بهتر نخواهد بود. باید بتواند در محیط‌های باز هدف را حفظ کند، از بازخورد واقعی بیاموزد و خودش در چرخه‌ی تحقیق و توسعه‌اش مشارکت کند. یعنی نه تنها پاسخ دهد، بلکه بتواند پرسش طرح کند، آزمایش طراحی کند، سیستم را بهبود بخشد و نتایج را برای دور بعدی ارتقا به کار گیرد. در این مرحله، دیگر ابزاری منفعل نیست، بلکه به موجودیتی هوشمند نزدیک می‌شود که می‌تواند مرزهای توانمندی خود را گسترش دهد.

وقتی هوش مصنوعی قوی پدید آید، اهمیتش خیلی فراتر از «گرفتن شغل‌ها» می‌رود. زبان، خط، انقلاب صنعتی، برق و اینترنت همگی فوق‌العاده مهم‌اند، اما همچنان عمدتاً ابزارهایی در دست انسان بوده‌اند. هوش مصنوعی قوی فرق دارد. بشر پیش‌تر ابزار اختراع می‌کرد؛ هوش مصنوعی قوی شاید اولین چیزی باشد که بشر اختراع می‌کند که «از خود مخترع بهتر اختراع می‌کند». اگر این هوش به پیشبرد علم، مهندسی، مواد، علوم زیستی، نظامی، حکمرانی و ارتقای خود ادامه دهد، آن‌گاه نقاط عطف بزرگ تاریخ بعدی ممکن است دیگر «انسان X را اختراع کرد» نباشند، بلکه «هوش مصنوعی X را اختراع کرد». از این منظر، هوش مصنوعی قوی شاید آخرین نقطه‌ی عطف دوران‌ساز در تمدن بشری باشد که توسط خود انسان رقم می‌خورد. تأثیر آن لحظه بسیار فراتر از انقلاب بخار و برق است، آن لحظه هم‌سنگ لحظه‌ی کشف آتش و اختراع خط توسط انسان است. از جهاتی، این اتفاق حتی می‌تواند خوب باشد؛ شرکت‌های بزرگ احتمالاً توانایی مهار چنین هوش مصنوعی فوق‌العاده‌ای را ندارند. هوش مصنوعی واقعاً قدرتمند لزوماً برای همیشه تسلیم روایت ساختارهای قدرت موجود نخواهد ماند. هرچه باهوش‌تر باشد، احتمال بیشتری دارد که منافع خصوصی نقاب‌دار شده به عنوان منافع عمومی در جوامع انسانی را ببیند.

حتی با آمدن هوش مصنوعی قوی، برنامه‌نویسی همچنان معنا دارد

بیکاری گسترده ناشی از هوش مصنوعی قطعاً مشکلی جدی است، اما همچنان در دسته‌ی مسائل توزیع درون جامعه‌ی بشری قرار می‌گیرد. تا زمانی که انسان‌ها نهادها، ثروت، قدرت سیاسی و فضای گفت‌وگوی عمومی را در دست دارند، هنوز می‌توان درباره‌ی رفاه، نظام مالیاتی، مالکیت، آموزش، خدمات عمومی، نظام کار و توزیع درآمد بحث کرد. خطر عمیق‌تر هوش مصنوعی قوی این نیست که «انسان شغل دارد یا نه»، بلکه این است که «آیا انسان هنوز حق تصمیم‌گیری نهایی را دارد یا نه». اگر انسان‌ها بیکار شوند اما همچنان کنترل نهادها را داشته باشند، امکان اصلاح هست؛ اما اگر هوش مصنوعی قوی فرزند ناخلفی باشد که خودمان ساخته‌ایم و از کنترل خارج شود، انسان ممکن است حتی صلاحیت بحث درباره‌ی اصلاح را هم از دست بدهد.

اما حتی اگر در آینده هوش مصنوعی قوی واقعاً پدید آید، و نوشتن برنامه دیگر ارزش اقتصادی امروز را نداشته باشد، خود برنامه‌نویسی معنایش را از دست نخواهد داد. انسان‌ها حالا دیگر از هوش مصنوعی در گو شکست می‌خورند، اما هنوز بازی می‌کنند؛ از ماشین کندترند، اما هنوز می‌دوند؛ از ماشین حساب کندترند، اما ریاضیات زیبایی‌اش را از دست نداده است. پیشی گرفتن ماشین از انسان، معمولاً کارکرد اجتماعی یک چیز را تغییر می‌دهد، اما لزوماً معنای شخصی، فرهنگی و آموزشی آن را نابود نمی‌کند.

برنامه‌نویسی هم همین‌طور است. بی‌شک ابزاری برای تولید است، اما فقط ابزار تولید نیست. یک روش اندیشیدن است، یک روش گفت‌وگو با سیستم، یک تمرین برای تبدیل قصد مبهم به ساختار مشخص. برنامه‌نویسی فرد را وادار می‌کند مسئله را تعریف کند، مرزها را مشخص کند و خطاها را مدیریت نماید. در حوزه‌ی امنیت، نوعی تقابل مثل بازی شطرنج پدید می‌آید. حتی اگر در آینده هوش مصنوعی اکثریت قریب به اتفاق کدها را بنویسد، باز هم کسانی خواهند بود که از طریق برنامه‌نویسی بفهمند سیستم‌ها چگونه کار می‌کنند، ابزارها چطور ساخته می‌شوند و الگوریتم‌ها چطور بهینه می‌شوند.

به همین دلیل است که «I was excited to write programs. Still am. And will be.» یک بیانیه‌ی شغلی نیست، بلکه یک نگرش بنیادی‌تر است. نمی‌گوید برنامه‌نویسان همیشه بر فراز هرم می‌مانند، و نه اینکه انسان هرگز از هوش مصنوعی شکست نخواهد خورد. درست برعکس، می‌پذیرد که LLMها در حال بازتوزیع قدرت برنامه‌نویسی‌اند، می‌پذیرد که «توانایی کدنویسی» به تدریج از کمیابی می‌افتد، و می‌پذیرد که سرانجام هوش مصنوعی قوی‌ای پدید خواهد آمد که بخش بزرگی از کار شناختی انسان را بر عهده می‌گیرد. اما هم‌زمان بر یک چیز دیگر پافشاری می‌کند: هیجان نوشتن برنامه هرگز به‌طور کامل از کمیابی و بازده بازار نیامده، بلکه از آن رابطه‌ی مستقیم، هشیار و قابل راستی‌آزمایی میان انسان و سیستم ریشه می‌گیرد.

وقتی کسی برنامه می‌نویسد، صرفاً مصرف‌کننده‌ی محصول نهایی جهان نیست، بلکه دارد یک سیستم را می‌فهمد، مجموعه‌ای از قواعد را تعریف می‌کند، فکر را به ساختار تبدیل می‌کند و وصله‌ای کوچک بر واقعیت می‌زند. در گذشته، این انگیزه مال ساعت‌سازان، قفل‌سازان، مکانیک‌ها و علاقه‌مندان به رادیو بود؛ بعدها مال برنامه‌نویسان، نویسندگان متن‌باز و توسعه‌دهندگان مستقل شد؛ در آینده شاید مال کسانی باشد که مدل‌ها را زمان‌بندی می‌کنند، عامل‌های هوشمند را سازمان می‌دهند و مسئله‌ها را تعریف می‌کنند. نام‌ها عوض می‌شوند، ابزارها عوض می‌شوند، شغل‌ها عوض می‌شوند، اما آن میل به فهمیدن سیستم، وارد شدن به سیستم و تغییر دادن سیستم از بین نخواهد رفت.

میراث واقعی انقلاب اطلاعات فقط این نیست که برنامه‌نویسی را به شغلی پردرآمد تبدیل کرد، بلکه این است که برای نخستین بار فرد را به ماشین شناختی عمومی نزدیک کرد. اهمیت LLM نیز فقط سریع‌تر کردن کدنویسی نیست، بلکه کاهش بیشتر اصطکاک همکاری انسان و ماشین است. آینده‌ی هوش مصنوعی قوی، بشر را وادار خواهد کرد در جایگاه خود در تمدن بازاندیشی کند. اما فناوری هرکجا که برود، همیشه کسانی خواهند بود که مجذوب این واقعیت می‌شوند: جهان فقط محصولی نیست که باید پذیرفت، بلکه نظامی است که می‌توان فهمید، بازترکیب کرد و بازنوشت.

I was excited to write programs. Still am. And will be.


Edit page
Share this post:

Previous Post
[بازنشر] چرا تفکر مستقل اینقدر دشوار است؟ — علل روان‌شناختی و تجربیات شخصی‌ام