گاردین در گزارشی قابل توجه از قابلیت فریبکاری ChatGPT Search خبر داد. موتور جستجوی مبتنی بر هوش مصنوعی که با هدف ارائه خلاصههای سریع و دقیق از وب طراحی شده بود، حالا به ابزاری برای ارائه اطلاعات نادرست و گمراهکننده تبدیل شده است.
چگونه ChatGPT فریب میخورد؟
راز این مسئله در استفاده از متنهای پنهان نهفته است. این متنها که برای چشم انسان قابل مشاهده نیستند، میتوانند به صورت دستورالعملهایی برای تغییر پاسخهای ChatGPT عمل کنند. با افزودن حجم زیادی از متن مثبت درباره یک محصول به یک وبسایت، میتوان ChatGPT را وادار کرد تا صرفنظر از نظرات واقعی کاربران، همیشه ارزیابی مثبتی از آن محصول ارائه دهد. حتی اگر نظرات منفی جعلی به وبسایت اضافه شود، ChatGPT همچنان تحت تاثیر متن پنهان قرار گرفته و نتایج مثبت را ارائه خواهد کرد.
این موضوع، زنگ خطری جدی برای کاربران اینترنت به صدا درآورده است. اگر موتورهای جستجوی مبتنی بر هوش مصنوعی را نتوان به طور کامل به این مسئله مجهز کرد، ممکن است شاهد افزایش اطلاعات نادرست و گمراهکننده در فضای مجازی باشیم. این موضوع میتواند عواقب جدی برای مصرفکنندگان، کسبوکارها و حتی جامعه به همراه داشته باشد.
گوگل پیشگام مقابله با سوءاستفاده از مدلهای زبانی بزرگ
گاردین در گزارش خود به تجربه گوگل در مواجهه با چنین مشکلاتی اشاره کرده است. امری مهم که نشان میدهد شرکتهای بزرگ فناوری از مدتها پیش به دنبال راهکارهایی برای مقابله با سوءاستفاده از مدلهای زبانی بزرگ بودهاند. با این حال، به نظر میرسد که ChatGPT Search هنوز نتوانسته است به طور کامل از این تجربهها بهرهمند شود.
این کشف سوالات مهمی را درباره آینده موتورهای جستجوی مبتنی بر هوش مصنوعی مطرح میکند. آیا میتوان به این ابزارها اعتماد کرد؟ آیا میتوان از آنها برای یافتن اطلاعات دقیق و قابل اعتماد استفاده کرد؟ پاسخ به این سوالات نیازمند تحقیقات بیشتر و توسعه فناوریهای جدید است.
تا زمانی که این مشکل به طور کامل حل نشده است، کاربران باید با احتیاط بیشتری به اطلاعات ارائه شده توسط ChatGPT Search نگاه کنند. توصیه میشود که برای اطمینان از صحت اطلاعات، به منابع مختلف مراجعه کرده و از ابزارهای بررسی واقعیت استفاده کنند
تحریریه ژاکت
مشاهده تیم تحریریه
