سوءاستفاده کلاهبرداران از هوش مصنوعی گوگل

به نقل از گیزموچاینا، گزارش هایی از شماره‌های جعلی خدمات مشتری که در خلاصه های هوش مصنوعی این قابلیت ظاهر می شوند، نگرانی هایی را درباره اعتبار و ایمنی ویژگی جدید جستجوی گوگل به وجود آورده است.

در یک نمونه جدید آلکس ریولین کاربر فیس بوک پستی به اشتراک گذاشت که نشان می داد این گونه کلاهبرداری ها تا چه حد می توانند قانع کننده به نظر بیایند. ریولین مشغول جستجوی شماره تماس برای رزرو شاتل شرکت کشتیرانی «رویال کاریبین» بود که در بخش AI Overview و بالای نتایج جستجوی گوگل، شماره‌ای ظاهر شد که به نظر می‌رسید خط رسمی تماس شرکت باشد.

فردی که آن‌سوی خط پاسخ داد، از او خواست برای پرداخت هزینه شاتل، اطلاعات کارت اعتباری‌اش را ارائه دهد. اما زمانی که نماینده شروع به درخواست هزینه‌های اضافی و اطلاعات شخصی بیشتری کرد، ریولین مشکوک شد و تماس را قطع کرد. او بعدا متوجه شد مبالغی بدون اجازه از کارت او برداشت شده است. او توانست جلوی این تراکنش‌ها را بگیرد، اما این اتفاق نشان داد که کلاهبرداران چقدر راحت می‌توانند از این سیستم‌ها سوءاستفاده کنند.

همچنین بخوانید: هراس سم آلتمن از تسلط مدل‌های چینی هوش مصنوعی

گوگل تابحال پاسخی به این گزارش ها نداده است

البته این فقط یک مورد نیست. یک کاربر ردیت چندماه قبل اعلام کرده بود هنگام تماس با شماره تلفنی که تصور می شد به شرکت هوایی ساوث ایرلاین تعلق دارد و در بخش AI Overview نمایش داده شده بود، متوجه کلاهبرداری شد. از آنجا که خلاصه های مذکوردر گوگل اطلاعات را به طور مستقیم از سراسر وب تهیه می کنند، ممکن است فهرست های جعلی یا شماره های فیشینگی که در بستر آنلاین وجود دارد نیز نمایش دهند. آنچه اوضاع را بدتر می کند آن است که حتی یک بررسی سریع در گوگل احتمالا نشان می دهد همان شماره تماس ها به صفحات وبی که قانونی به نظر می رسند، مرتبط هستند.

این چالش به خصوص با توجه به استفاده گسترده از AI Overview نگران کننده است. طبق وب سایت StatCounter در سه‌ماهه دوم سال ۲۰۲۵، در حدود یک چهارم جستجوهای گوگل AI Overview فعال شدند. این گستردگی باعث می‌شود کلاهبرداران فرصت‌های زیادی برای سوءاستفاده از کاربران بی‌خبر داشته باشند.

تاکنون گوگل پاسخی به این گزارش ها نداده است. تا زمانیکه پاسخی در این زمینه ارائه شود، ایمن ترین اقدام دور زدن خلاصه های هوش مصنوعی هنگام جستجو برای خدمات مشتریان و اتکا به وب سایت های رسمی شرکت است. با توجه به آنکه کلاهبرداری با هوش مصنوعی در حال افزایش است، کنترل شماره تماس راهی ایمن به نظر می رسد.

منبع: مهر