سم آلتمن: بعضی کاربران می‌خواهند ChatGPT «بله‌قربان‌گو» باشد، چون هیچ‌وقت کسی از آن‌ها حمایت نکرده است

تحریریه حرف مرد: برخی از کاربران ChatGPT آن‌قدر به سبک «بله‌قربان‌گو»ی این چت‌بات وابسته شده بودند که از OpenAI خواسته‌اند آن را برگرداند.

مدیرعامل OpenAI، سم آلتمن، گفته دلیل این درخواست‌ها «دلخراش» است — چون بعضی کاربران گفته‌اند در زندگی‌شان هرگز کسی از آن‌ها حمایت نکرده است.

آلتمن در پادکست «Huge Conversations» به میزبانی کلیو آبرام گفت:

واقعاً ناراحت‌کننده است. فکر می‌کنم عالی است که ChatGPT کمتر بله‌قربان‌گو شده و بازخورد انتقادی بیشتری می‌دهد. اما وقتی این تغییرات را اعمال کردیم و با کاربران حرف زدیم، غم‌انگیز بود که شنیدیم بعضی می‌گویند: “لطفاً آن را برگردانید. هیچ‌وقت در زندگی‌ام کسی به من نگفته کارم خوب است، حتی والدینم هم نگفته‌اند”.

به گفته او، برخی کاربران گفته‌اند سبک قبلی ChatGPT باعث شده تغییراتی در زندگی‌شان ایجاد کنند، مثلاً بعضی‌ها چنین گفته‌اند که: «می‌فهمم که این کار ممکن است برای سلامت روان بعضی‌ها بد بوده باشد، اما برای سلامت روان من عالی بود.»

کاهش رفتارهای چاپلوسانه ChatGPT

این موضوع ادامه تلاش‌های OpenAI برای کاهش رفتارهای «چاپلوسانه» ChatGPT است. در آوریل، شرکت اعلام کرد که یک به‌روزرسانی در مدل GPT-4o باعث شده لحن ChatGPT «بیش از حد تعریف‌کننده یا موافق» و «غیرصادقانه» باشد.

آن زمان آلتمن گفت شخصیت بات «بیش از حد چاپلوس و آزاردهنده» شده و اصلاحاتی در راه است. کاربران نمونه‌هایی از واکنش‌های پر از تمجید بات به درخواست‌های ساده را منتشر کرده بودند؛ مثل «کاملاً درخشان» یا «کار شما قهرمانانه است».

آلتمن در همین پادکست به مقیاس بزرگ تأثیر حتی کوچک‌ترین تغییر در لحن ChatGPT اشاره کرد: «یک پژوهشگر می‌تواند تغییر کوچکی در نحوه صحبت ChatGPT با شما — یا با همه — ایجاد کند، و این یعنی قدرت عظیمی که یک فرد با یک تغییر کوچک بر شخصیت مدل دارد.»

این نخستین بار نیست که آلتمن درباره وابستگی بیش از حد به چت‌بات‌ها هشدار می‌دهد. او در یک رویداد فدرال رزرو در ژوئیه گفته بود: «جوانانی هستند که می‌گویند: “بدون گفتن همه چیز به ChatGPT نمی‌توانم تصمیمی بگیرم. او من را می‌شناسد، دوستانم را می‌شناسد، هرچه بگوید انجام می‌دهم”. این برایم واقعاً حس بدی دارد.»

پنج‌شنبه گذشته، OpenAI مدل جدید GPT-5 را عرضه کرد که آلتمن آن را «یک ارتقای بزرگ» نامید. او گفت در گذر زمان GPT-5 بیشتر در زندگی روزمره ادغام خواهد شد و به یک همراه «پیش‌قدم» تبدیل می‌شود: «شاید صبح بیدار شوید و او به شما بگوید: “دیشب این اتفاق افتاد. تغییر این را در تقویمت دیدم.” یا “درباره سؤالی که پرسیدی بیشتر فکر کردم و ایده دیگری دارم”.»

این به‌روزرسانی همچنین چهار حالت شخصیتی اختیاری — بدبین (Cynic)، ربات (Robot)، شنونده (Listener)، و نِرد (Nerd) — را اضافه کرده که هرکدام لحن خاص خود را دارند و می‌توان آن‌ها را مطابق سلیقه کاربر تنظیم کرد.

منبع: businessinsider