ترس از هوش مصنوعی دانشجویان هاروارد و MIT را به ترک تحصیل واداشته است

تحریریه حرف مرد: هوش مصنوعی عمومی (AGI) ــ نوعی فرضی از هوش مصنوعی که می‌تواند بسیاری از کارهایی که انسان‌ها انجام می‌دهند را انجام دهد ــ ممکن است ظرف یک دهه به واقعیت تبدیل شود. برخی از دانشجویان دانشگاه، حتی از مؤسسات نخبه‌ای مانند MIT و هاروارد، حالا دانشگاه را ترک کرده‌اند تا تمام‌وقت روی جلوگیری از خطرات این فناوری برای بشریت کار کنند.

وقتی «آلیس بلر» در سال ۲۰۲۳ به‌عنوان دانشجوی سال اول وارد مؤسسه فناوری ماساچوست (MIT) شد، از اینکه قرار بود دروس علوم کامپیوتر را بگذراند و با افرادی آشنا شود که نسبت به توسعه اخلاق‌مدار هوش مصنوعی دغدغه دارند، هیجان‌زده بود.

اما اکنون او به‌شکل دائمی ترک‌تحصیل کرده، چرا که از ظهور هوش مصنوعی عمومی ــ نوعی از هوش مصنوعی فرضی که می‌تواند همانند انسان‌ها وظایف متعددی را انجام دهد ــ وحشت دارد و آن را تهدیدی جدی برای بقای نوع بشر می‌داند.

او که اهل برکلی، کالیفرنیاست، می‌گوید:
«من نگران بودم که شاید اصلاً زنده نمانم تا فارغ‌التحصیل شوم، به‌خاطر AGI. به نظرم در اکثریت سناریوها، به‌خاطر روند فعلی توسعه AGI، به انقراض انسان می‌رسیم.»

بلر حالا با عنوان نویسنده فنی در یک شغل قراردادی در مرکز ایمنی هوش مصنوعی (Center for AI Safety) مشغول است، سازمانی غیرانتفاعی که بر تحقیق در زمینه ایمنی AI تمرکز دارد. او در آنجا در تهیه خبرنامه‌ها و مقالات پژوهشی مشارکت دارد. به گفته خودش، دیگر قصد بازگشت به MIT را ندارد:
«پیش‌بینی می‌کنم آینده‌ام بیرون از محیط دانشگاه رقم بخورد.»

همچنین بخوانید: «کدنویسی وایب»؛ رویکرد تازه آندری کارپاتی برای ساخت نرم‌افزار با هوش مصنوعی

خطراتی در سطح انقراض انسانی

بلر تنها دانشجویی نیست که از پیامدهای احتمالی و ویرانگر AGI می‌ترسد. گزارشی که در سال ۲۰۲۴ به سفارش وزارت امور خارجه آمریکا تهیه شد هشدار داده است که با سرعتی که توسعه AI در حال پیشروی است، خطراتی در سطح انقراض انسانی ممکن است. در همین راستا، در چند سال اخیر فعالیت‌های گسترده‌ای برای ساخت AI ایمن‌تر شکل گرفته است؛ چه از سوی سازمان‌های غیرانتفاعی که توسط میلیاردرها حمایت مالی می‌شوند، مثل Center for AI Safety، و چه از سوی شرکت‌هایی مانند Anthropic.

البته بسیاری از پژوهشگران با این فرضیه مخالف‌اند. «گری مارکوس»، استاد بازنشسته دانشگاه نیویورک که تقاطع روان‌شناسی و هوش مصنوعی را مطالعه می‌کند، به فوربس گفته:
«انقراض انسان به‌خاطر AI بسیار بسیار بعید است. اما کار روی ایمنی هوش مصنوعی کار شریفی است، گرچه تاکنون کارهای اندکی پاسخ واقعی داده‌اند.»

اما اکنون همین حوزه‌ی نوظهور به نام “ایمنی AI”، و امید به پیشگیری از بدترین سناریوهای آن، دانشجویان جوان را به ترک دانشگاه واداشته است.

«اگر شغل شما تا پایان این دهه قرار است توسط AI اتوماتیک شود، هر سالی که در دانشگاه می‌مانید، یک سال از عمر کوتاه حرفه‌ای‌تان کم می‌کنید.»

نیکولا یورکوویچ

«آدام کافمن»، دانشجوی فیزیک و علوم کامپیوتر دانشگاه هاروارد، در پاییز گذشته ترک‌تحصیل کرد تا تمام‌وقت در سازمان Redwood Research مشغول شود، یک نهاد غیرانتفاعی که سیستم‌های فریبکارانه‌ی هوش مصنوعی را مطالعه می‌کند.

او می‌گوید:
«من واقعاً بابت خطرات AGI نگرانم و فکر می‌کنم مهم‌ترین کاری که می‌شود انجام داد، کاهش این خطرات است. و البته از نگاه شخصی‌تر، این کار برایم واقعاً جالب است. دارم با باهوش‌ترین افرادی که در عمرم دیده‌ام روی مشکلات بسیار مهم کار می‌کنم.»

او تنها نیست. برادر، هم‌اتاقی و دوستش نیز همگی به دلایلی مشابه از دانشگاه هاروارد مرخصی گرفته‌اند. این سه نفر در حال حاضر برای OpenAI کار می‌کنند.

برخی دیگر از دانشجویان نیز از AGI می‌ترسند، اما نه به‌دلیل انقراض انسان، بلکه به‌دلیل اینکه ممکن است این فناوری آینده شغلی‌شان را پیش از آنکه آغاز شود، نابود کند. نیمی از ۳۲۶ دانشجوی هاروارد که توسط انجمن دانشجویی و باشگاه ایمنی AI مورد نظرسنجی قرار گرفتند، از تأثیر هوش مصنوعی بر فرصت‌های شغلی‌شان ابراز نگرانی کردند.

«نیکولا یورکوویچ» که در مه گذشته از هاروارد فارغ‌التحصیل شده و مسئول آمادگی برای AGI در باشگاه ایمنی AI بود، می‌گوید:
«فکر می‌کنم AGI شاید تا چهار سال دیگر بیاید و اتوماسیون کامل اقتصاد هم شاید پنج یا شش سال دیگر.»

در حال حاضر برخی شرکت‌ها، به‌دلیل توانایی AI در انجام وظایف ساده، از استخدام کارآموزها و فارغ‌التحصیلان جدید خودداری می‌کنند. برخی دیگر نیز دست به اخراج‌های گسترده زده‌اند. «داریو آمودِی»، مدیرعامل Anthropic هشدار داده است که AI ممکن است نیمی از مشاغل دفتری ابتدایی را از بین ببرد و نرخ بیکاری را تا چند سال آینده به ۲۰٪ برساند.

دانشجویان نگران‌اند که با ظهور AGI واقعی، این تغییرات به‌طور چشمگیری شتاب بگیرند، گرچه زمان دقیق وقوع آن هنوز محل بحث است. «سم آلتمن»، مدیرعامل OpenAI، پیش‌بینی کرده که AGI تا پیش از سال ۲۰۲۹ توسعه خواهد یافت. «دمیس هاسابیس»، مدیرعامل Google DeepMind، نیز معتقد است که این اتفاق طی پنج تا ده سال آینده خواهد افتاد. اما یورکوویچ فکر می‌کند این اتفاق حتی زودتر رخ خواهد داد؛ او هم‌نویس مقاله‌ای برای پروژه AI Futures است که در آن پیش‌بینی شده اکثر مشاغل دفتری تا سال ۲۰۳۰ به‌طور کامل خودکار خواهند شد.

با این حال، «مارکوس» مخالف است:
«به‌شدت بعید است که AGI ظرف پنج سال آینده به واقعیت برسد. چنین ادعاهایی بیشتر نوعی تبلیغات بازاریابی هستند، در حالی‌که مشکلات اساسی مثل توهم‌زایی و خطا در استدلال هنوز حل نشده‌اند.» او اشاره کرده است که افزودن داده و توان محاسباتی بیشتر به مدل‌های AI، هنوز نتوانسته آن‌ها را به سطح توانایی‌های انسانی برساند.

در حالی‌که هنوز درباره زمان ظهور AGI و ارزش مدرک دانشگاهی در جهانی پرآشوب با حضور هوش مصنوعی انسانی‌سطح تردیدهایی وجود دارد، برخی دانشجویان تصمیم گرفته‌اند هرچه زودتر وارد بازار کار شوند ــ پیش از آنکه به‌زعم آن‌ها، دیگر خیلی دیر شده باشد.

این نگرانی منجر شده که بسیاری از آن‌ها ترک تحصیل کنند تا استارتاپ خود را راه‌اندازی کنند. از سال ۲۰۲۳، بسیاری از دانشجویان به‌دنبال فرصت‌های طلایی در حوزه AI از دانشگاه خارج شده‌اند، الهام‌گرفته از چهره‌هایی مانند آلتمن و مارک زاکربرگ. «مایکل ترول»، مدیرعامل ۲۴ساله Anysphere، و «برندن فودی»، مدیرعامل ۲۲ساله Mercor، به‌ترتیب از MIT و دانشگاه جورج‌تاون انصراف دادند تا روی استارتاپ‌های خود تمرکز کنند. شرکت Anysphere اکنون ۹.۹ میلیارد دلار ارزش‌گذاری شده و Mercor نیز بیش از ۱۰۰ میلیون دلار سرمایه جذب کرده است. در جهانی که AGI تهدید می‌کند نیروی انسانی را به‌طور کامل کنار بزند، برخی دانشجویان زمان را تنگ می‌بینند ــ و این را فرصتی بزرگ می‌دانند.

«جرد منتل» که پیش‌تر در دانشگاه واشنگتن در سنت‌لوئیس اقتصاد و علوم کامپیوتر می‌خواند، می‌گوید:
«احساس می‌کردم که فقط یک بازه محدود زمانی برای تأثیرگذاری وجود دارد.»
او حالا تمام‌وقت روی استارتاپ خود به نام dashCrystal کار می‌کند که هدف آن خودکارسازی طراحی قطعات الکترونیکی است. این شرکت تاکنون بیش از ۸۰۰ هزار دلار جذب سرمایه داشته و حدود ۲۰ میلیون دلار ارزش‌گذاری شده است.

ترک تحصیل البته به معنی از دست دادن مزایای مدرک دانشگاهی هم هست. بر اساس داده‌های مرکز تحقیقاتی Pew، بزرگسالان جوانی که دارای مدرک لیسانس یا بالاتر هستند، معمولاً دست‌کم ۲۰ هزار دلار بیشتر از همتایان بدون مدرک خود درآمد دارند. در دنیایی که مشاغل ابتدایی به‌سرعت در حال حذف شدن هستند، نداشتن مدرک می‌تواند فرصت‌های شغلی نسل جوان را بیشتر محدود کند.

حتی یکی از بنیان‌گذاران Y Combinator، شتاب‌دهنده‌ی معروفی که از بنیان‌گذاران جوان و ترک‌تحصیل‌کرده حمایت می‌کند، گفته دانشجویان بهتر است در دانشگاه بمانند. «پاول گراهام» در ماه ژوئیه در ایکس (توییتر سابق) نوشت:
«برای راه‌اندازی یا کار کردن در استارتاپ از دانشگاه انصراف ندهید. فرصت‌های استارتاپی دیگری هم خواهد بود ــ شاید حتی بهتر ــ ولی شما دیگر نمی‌توانید سال‌های دانشجویی‌تان را پس بگیرید.»

بلر نیز معتقد است ترک تحصیل برای همه مناسب نیست:
«خیلی دشوار و فرساینده است که زود از دانشگاه خارج شوید و شغل پیدا کنید. این را فقط به افرادی بسیار مقاوم توصیه می‌کنم که حس می‌کنند دانشگاه آن‌ها را به‌اندازه کافی برای بازار کار آماده کرده است.»

منبع: Forbes