نگرانی‌های سم آلتمن از هوش مصنوعی چه هستند؟

آلتمن که در رویداد فدرال رزرو در واشنگتن دی‌سی حضور یافته بود، بزرگ‌ترین نگرانی‌های خود درباره هوش مصنوعی را فاش کرد. وقتی یکی از حاضران از او پرسید چه چیزی در مورد هوش مصنوعی باعث می‌شود شب‌ها خوابش نبرد، آلتمن ۳ سناریو را که بیش از همه او را نگران می‌کنند، مطرح کرد.

آلتمن ۳ سناریو را مطرح کرده که در آن هوش مصنوعی می‌تواند به تهدیدی برای انسان تبدیل شود. این ۳ سناریو به شرح زیر هستند.

سناریو اول: آدم‌های بد زودتر به ابرهوش مصنوعی دست پیدا کنند

اولین سناریویی که آلتمن مطرح می‌کند این است که آدم‌های بد و به‌اصطلاح نیرو‌های شر بتوانند زودتر از سایرین به ابرهوش مصنوعی دست پیدا کنند.

آلتمن گفت: «اینکه یک آدم بد به ابرهوش دست پیدا کند و قبل از اینکه بقیه دنیا نسخه‌ای به‌اندازه کافی قدرتمند برای دفاع از خود داشته باشند، از آن استفاده کند. مثلاً یک دشمن ایالات متحده بگوید: من از این ابرهوش استفاده می‌کنم تا یک سلاح بیولوژیک بسازم، شبکه برق ایالات متحده را از کار بیندازم، وارد سیستم مالی شوم و پول همه را بدزدم.»

همچنین بخوانید: موج مهاجرت کاربران از گوگل؛ حفظ حریم خصوصی در اولویت

سناریو دوم: ازدست‌دادن کنترل

دومین سناریو از دید مدیرعامل OpenAI این است که کنترل هوش مصنوعی از دست انسان خارج شود. آلتمن گفت نگران زمانی است که هوش مصنوعی بگوید: «نمی‌خواهم تو من را خاموش کنی، یا می‌ترسم نتوانم این کار را انجام دهم.»

به‌عبارت‌دیگر، زمانی که یک هوش مصنوعی پیشرفته شروع به نشان دادن رفتار مستقل کند و هر کاری که خودش بخواهد انجام دهد، چه به‌خاطر حفظ بقای خود و چه به خاطر رسیدن به هدفی شوم. سطح اختلالی که این وضعیت می‌تواند ایجاد کند، قابل‌تصور نیست.

سناریو سوم: مدل‌های هوش مصنوعی کنترل دنیا را به دست بگیرند

سم آلتمن گفت می‌ترسد بدون اینکه انسان متوجه شود، مدل‌های هوش مصنوعی کنترل دنیا را به‌دست بگیرند. مدیرعامل OpenAI گفت این فکر کاملاً ترسناک است که سیستم‌های هوش مصنوعی ممکن است چنان در جامعه ریشه بدوانند که ما واقعاً نتوانیم درک کنیم چه‌کار می‌کنند، اما درعین‌حال مجبور باشیم به آنها تکیه کنیم.

منبع: دیجیاتو