چت بات ها گاهی قادر هستند پاسخ های نادرست اما قانع کننده بدهند. محتوای هوش مصنوعی می تواند منجر به توهم و هذیان شود زیرا اطلاعات به گونه ای بیان می شوند که ساختگی اما قانع کننده هستند.
رئیس بخش موتور جستجوی گوگل در مصاحبه جدیدی به تله‌های بالقوه استفاده از هوش مصنوعی در چت‌بات‌ها اشاره کرده است. او می‌گوید کاربران و شرکت‌ها باید مراقب باشند؛ چرا که این فناوری می‌تواند به پدیده‌ای موسوم به توهم و هذیان دچار شود.
«پراباکار رغوان»، معاون ارشد گوگل و رئیس بخش موتور جستجو، اخیراً با روزنامه آلمانی Welt am Sonntag مصاحبه کرده است. رویترز می‌گوید در بخشی از این مصاحبه آمده است: «این شکل از هوش مصنوعی که ما اکنون درحال حرف‌زدن درباره آن هستیم، گاهی اوقات می‌تواند به چیزی منتهی شود که به آن توهم می‌گوییم.»
رغوان توضیح می‌دهد که سیستم‌های کامپیوتری با کمک هوش مصنوعی می‌توانند محتواهایی را تولید کنند که متقاعدکننده به‌نظر می‌رسند، اما درحقیقت کاملاً ساختگی هستند. او می‌گوید یکی از وظایف اصلی آن‌ها در گوگل محدودسازی این مشکل به کمترین حد ممکن بوده است.
گوگل توسعه مسئولانه هوش مصنوعی را در پیش گرفته است
از زمان اعلام همکاری جدید مایکروسافت با OpenAI و پیاده‌سازی نسخه پیشرفته‌تر ChatGPT در بینگ و مرورگر اج، گوگل خطر را احساس کرده است و آن‌ها هم از فناوری هوش مصنوعی خود برای موتور جستجویشان پرده برداشته‌اند. رغوان می‌گوید: «ما شرایط اضطرار را به‌وضوح حس می‌کنیم، اما درعین‌حال احساس مسئولیت هم می‌کنیم؛ قطعاً نمی‌خواهیم عموم کاربران را گمراه کنیم.»
گوگل چند روز پیش از فناوری هوش مصنوعی جدیدی به نام Bard پرده برداشت و بعد یک روز پس از رویداد مایکروسافت، دموی این فناوری را به نمایش گذاشت. «بارد» نسخه‌ای ساده‌شده از فناوری LaMDA است که می‌خواهد با کمک کاربران توسعه پیدا کند. بااین‌حال، اقبال عمومی نسبت به این فناوری چندان مثبت نبوده است.
هوش مصنوعی Bard در ویدیوی تبلیغاتی این فناوری به سؤال مطرح‌شده پاسخ نادرستی داد که این اتفاق باعث افت قابل‌توجه قیمت سهام این شرکت شد. برآوردها نشان می‌دهند که گوگل در یک روز 100 میلیارد دلار از ارزش سهام خود را از دست داده است.
نویسنده علیرضا ناجی
سایر مقالات نویسنده
