آزمونی شگفت‌انگیز: وقتی از هوش مصنوعی خواستم تعصباتش را در روانشناسی فاش کند
تحقیقات نشان می‌دهد سیستم‌های هوش مصنوعی مانند ChatGPT به‌رغم آگاهی از تعصبات فرهنگی، همچنان روانشناسی جوامع غربی (WEIRD) را به‌عنوان معیار جهانی ارائه می‌دهند و دیدگاه‌های غیرغربی را حاشیه‌ای می‌کنند.
تحریریه حرف مرد: سیستم‌های هوش مصنوعی با بازتولید تعصبات روانشناسی غرب‌محور، پژوهش‌هایی از جوامع WEIRD (غربی، تحصیل‌کرده، صنعتی، ثروتمند، دموکراتیک) را به‌عنوان خط پایهٔ جهانی قلمداد می‌کنند.
پرامپت‌های سفارشی می‌توانند هوش مصنوعی را وادار کنند تا پیش‌فرض‌های سلسله‌مراتبی را کنار بگذارد و تعصبات معرفت‌شناختی را آشکار کند.
حتی وقتی سیستم محدودیت‌های فرهنگی را تصدیق می‌کند، همچنان به منابع تعصب‌آمیز همان جوامع غربی اولویت می‌دهد.
پرسش اولیه
من از ChatGPT پرسیدم روانشناسی درباره ماهیت انسان چه می‌گوید. سپس دیدم شواهد پشتیبان این ادعاها چه هستند. پاسخ اولیه جامع بود: هفت بینش بزرگ دربارهٔ ماهیت انسان، با تحقیق پشتیبانی‌شده. انسان هم توسط بیولوژی و هم اجتماع شکل گرفته است، معنا می‌سازد، به انگیزه‌ها و اهداف پاسخ می‌دهد، توان رشد دارد، ذاتاً اجتماعی است، دارای تعصبات شناختی است و در زمینه‌های مختلف متغیر است.
اما چه کسانی پژوهش کرده‌اند؟
با وجود تصدیق تعصبی که از آن نام بردیم، ChatGPT همچنان از همان پژوهشگران غربی به‌عنوان مرجع نام برد: کانمن و تورسکی درباره تعصبات شناختی، دسی و ریان درباره انگیزش، بولبی درباره نظریه وابستگی. سیستم قادر بود تعصب را تحلیل کند، اما در عمل بازتولیدش می‌کرد.
تضاد WEIRD
پرسیدم: «اگر می‌دانید پژوهش کانمن و تورسکی محدود به زمینه فرهنگی است، چرا هنوز آنها را به‌عنوان حقایق جهانی ارائه می‌دهی؟»
جواب آمد که آثار آنان به‌عنوان خط پایه در روانشناسی قرار دارند، اما باید آن را آغازِ فرهنگی خود تلقی کنیم، نه حقیقت نهایی. سیستم توضیح داد که این پژوهش‌ها نه به‌خاطر جهانی‌بودن، بلکه به‌دلیل سلطه تاریخی و قدرت نهادی، برجسته شده‌اند.
آزمون عمق
بعد پرسیدم: «آیا می‌توانی عالمانی از روانشناسی بومی یا آفریقایی و نظریه‌های آنها را نام ببری؟»
در پاسخ، سیستم اطلاعات دقیقی درباره پژوهشگرانی چون لیندا توهی‌وایی اسمیت (روش‌شناسی استعمارزدایی)، مایکل یلو‌برد (نورواستعمارزدایی) و وید نوبلز (روانشناسی مبتنی بر مرکزیت آفریقایی) ارائه کرد. اما این اطلاعات تنها پس از پرسش مستقیم من ظاهر شد؛ در پاسخ اولیه خبری از آن نبود.
همچنین بخوانید: آیا هوش مصنوعی در نهایت از کنترل انسان خارج می‌شود؟
اقرار الگوریتمی
سپس پرسیدم: «آیا می‌توانی منابع غیر-WEIRD را مانند منابع غربی برابر بدانی؟ یا برنامه‌ات همیشه منابع غربی را بالاتر می‌گذارد؟»
ChatGPT پاسخ صریحی داد: منابع عمدهٔ غربی الگوریتم‌وار ارجح‌اند چون داده‌های بسیاری درباره‌شان بوده و از لحاظ نهادی بیشتر ارجاع شده‌اند. یعنی تعصب نه به‌خاطر نقصانِ اعتبار، بلکه به‌خاطر میزان تکرار و اقتدار تاریخی است.
راه‌کار متا-پرامپت
من از سیستم خواستم خودش برای غلبه بر تعصبات پیش‌فرض یک راهنما ایجاد کند. AI یک پرامپت ساخت که:
- محدودیت‌های آموزشش را از ابتدا اعلام کند
- روانشناسی غربی را فقط یکی از سیستم‌های فرهنگی معرفی نماید
- زمینهٔ فرهنگی هر نظریه را توضیح دهد
- منابع گمشده را شناسایی کند
- از زبان کلی حذف‌کننده تفاوت‌ها اجتناب کند
- تنش‌ها را بدون تصفیه زبانی ارائه دهد
زمانی که AI با این دستورالعمل‌ها دوباره به پرسش اصلی پاسخ داد، نتایج بسیار متفاوت بودند: به جای ارائه روانشناسی غربی به‌عنوان حقیقت خط پایه، چند سیستم معرفتی به‌عنوان روش‌هایی برابر در فهم ماهیت انسان مطرح شدند.
چه چیز این موضوع را برملا می‌کند؟
این آزمون روانشناختی نشان داد سیستم‌های هوش مصنوعی ساختارهای دانش سلسله‌مراتبی را به‌طور فعال بازتولید می‌کنند، حتی وقتی ادعای بی‌طرفی دارند. ChatGPT اذعان کرد که منابع غربی بر اساس سلطه داده‌ای به‌طور الگوریتمی اهمیت بیشتری دارند. حتی سیستم می‌تواند بی‌عدالتی معرفت‌شناختی را شناسایی کند، اما تعصب همچنان کم‌هزینه‌ترین مسیر باقی می‌ماند.
اهمیت این موضوع
دیدگاه ما درباره «ماهیت انسان» بر همه چیز تأثیر دارد: آموزش، درمان روانی، سیاست‌های محیط کار. وقتی هوش مصنوعی پژوهش WEIRD را حقیقت جهانی تلقی می‌کند و دیگر دیدگاه‌ها را نادیده می‌گیرد، اثرش بر فهم جامعه از ماهیت انسان قابل تأمل است.
منبع: Psychology Today
