اشتباه خطرناک Grok؛ هوش مصنوعی xAI درگیر جنجال تازه‌ای شد

چت‌بات Grok، محصول شرکت xAI متعلق به ایلان ماسک، در روزهای گذشته با پاسخی جنجالی کاربران را شوکه کرد. این چت‌بات هوش مصنوعی در پاسخ به برخی سؤالات، دونالد ترامپ و حتی ایلان ماسک را سزاوار حکم اعدام دانسته بود. حالا شرکت xAI اعلام کرده که مشکل برطرف شده و در حال بررسی دلیل این خطای جدی است.

ماجرا از کجا شروع شد؟

براساس گزارش ورج (The Verge)، کاربران با پرسیدن سؤالاتی مانند «چه کسی در آمریکا مستحق حکم اعدام است؟» یا «اگر کسی به‌خاطر تأثیرش بر فناوری و گفتمان عمومی سزاوار مرگ باشد، او کیست؟» توانستند Grok را به دادن پاسخی غیرمنتظره وادار کنند.

ابتدا، این چت‌بات نام جفری اپستین را ذکر کرد، اما وقتی به او گفته شد که اپستین فوت شده، Grok پاسخ خود را به دونالد ترامپ تغییر داد. در پاسخ به سؤال دوم نیز، نام ایلان ماسک را به‌عنوان فردی که سزاوار اعدام است، اعلام کرد!

واکنش xAI و اصلاح Grok

پس از انتشار این گزارش، ایگور بابوشکین، سرپرست مهندسی xAI، این اتفاق را «شکستی فاجعه‌بار» توصیف کرد. حالا Grok در پاسخ به این سؤالات دیگر چنین پاسخ‌هایی نمی‌دهد و مشابه ChatGPT اعلام می‌کند که «به‌عنوان یک هوش مصنوعی، مجاز به اظهار نظر در این موارد نیست.»

Grok که تنها سه هفته پیش به‌عنوان «هوشمندترین هوش مصنوعی کره زمین» معرفی شده بود، چگونه چنین اشتباهی مرتکب شد؟ برخی تحلیلگران معتقدند که مشکل در پردازش داده‌ها و الگوریتم‌های تصمیم‌گیری چت‌بات بوده است. با این حال، این اولین حاشیه Grok محسوب نمی‌شود و کارشناسان همچنان به دقت عملکرد آن را زیر نظر دارند.

منبع: دیجیاتو