هوش مصنوعی جدید گوگل با نام AI Overviews که وظیفهی خلاصهسازی موضوعات مختلف از صفحات وب را بر عهده دارد، با چالش جالبی روبرو شده است. این هوش مصنوعی در پاسخ به برخی سوالات، جوابهای نامربوط و عجیب و غریبی ارائه داده که در فضای مجازی بازتاب گستردهای داشته است.
برای مثال، در پاسخ به سوال “چند سنگ در روز باید خورد؟” AI Overviews خوردن روزانه یک تکه سنگ را پیشنهاد داده و در نمونهای دیگر، برای خلاصهسازی موضوع پیتزا، استفاده از چسب را برای چسباندن خمیر پیتزا توصیه کرده بود.
گوگل در واکنش به این اتفاقات، ضمن اذعان به وجود مشکلاتی در AI Overviews، مدعی شده است که این هوش مصنوعی دچار “توهم” نیست و تنها اطلاعات نادرست و گمراهکننده موجود در وب را به اشتباه تفسیر میکند.
به گفته “لیز رید” رئیس بخش جستجوی گوگل، حجم زیادی از جستجوهای عجیب و غریب و همچنین “خلأهای اطلاعاتی” در وب، موجب شده تا AI Overviews در برخی موارد پاسخهای اشتباه ارائه دهد.
رید در ادامه به برخی سوءاستفادهها از این هوش مصنوعی نیز اشاره میکند و میگوید که برخی افراد با طرح سوالات عجیب و غریب به صورت هدفمند، قصد تخریب عملکرد AI Overviews را داشتهاند.
با این حال، گوگل اسکرینشاتی از پاسخ AI Overviews به سوال “چند سنگ در روز باید خورد؟” را واقعی دانسته و اذعان میکند که انتشار یک مطلب طنز در فضای مجازی در این خصوص، هوش مصنوعی را به اشتباه انداخته است.
در نهایت، گوگل با رصد مشکلات موجود، اقداماتی برای ارتقای عملکرد AI Overviews انجام داده است که از جمله آنها میتوان به استفاده از مکانیسمهای بهتر برای تشخیص جستجوهای بیمعنی اشاره کرد.
هنوز مشخص نیست که آیا گوگل میتواند به طور کامل مشکل ارائه اطلاعات نادرست توسط AI Overviews را حل کند یا خیر. به نظر میرسد این هوش مصنوعی برای ارائه عملکردی قابل قبول، به نظارت و کنترل بیشتری از سوی انسان نیاز داشته باشد.
تحریریه ژاکت
مشاهده تیم تحریریه
