چت‌بات‌های هوش مصنوعی در خلاصه‌سازی اخبار، اطلاعات را تحریف می‌کنند

مطالعه جدید نشان می‌دهد که چت‌بات‌های هوش مصنوعی مانند ChatGPT، جمینای و کوپایلت در خلاصه‌سازی اخبار دقت لازم را ندارند

تحقیقات جدید بی‌بی‌سی نشان می‌دهد که چت‌بات‌های هوش مصنوعی در خلاصه‌سازی و ارائه اخبار با مشکلات جدی روبرو هستند و اغلب اوقات، اطلاعات نادرست یا تحریف‌شده ارائه می‌دهند. این موضوع نگرانی‌های جدی را در مورد انتشار اطلاعات نادرست و تاثیر آن بر افکار عمومی ایجاد می‌کند.

در این تحقیق، بی‌بی‌سی عملکرد چت‌بات‌های هوش مصنوعی ChatGPT، جمینای، کوپایلت و Perplexity را در خلاصه‌سازی ۱۰۰ خبر از این رسانه مورد بررسی قرار داد. نتایج نشان داد که بیش از ۵۱ درصد از پاسخ‌های ارائه‌شده توسط این چت‌بات‌ها حاوی مشکلات قابل‌توجهی هستند. ۱۹ درصد از پاسخ‌ها شامل اطلاعات نادرست و ۱۳ درصد از نقل‌قول‌ها یا تغییر یافته یا اصلا در منبع اصلی وجود نداشتند.

بیشترین خطا در جمینای گوگل

بر اساس این گزارش، چت‌بات جمینای گوگل بیشترین میزان خطا را در بین چت‌بات‌های مورد بررسی داشته و ۴۶ درصد از پاسخ‌های آن حاوی اطلاعات نادرست بوده است.

تاکنون هیچ‌کدام از شرکت‌های سازنده این چت‌بات‌ها به این گزارش واکنش نشان نداده‌اند.

سابقه تحریف اخبار توسط هوش مصنوعی

این اولین بار نیست که بی‌بی‌سی به مسئله تحریف اخبار توسط چت‌بات‌های هوش مصنوعی اشاره می‌کند. پیش از این، هوش مصنوعی اپل نیز دوبار خبرهای بی‌بی‌سی را تحریف کرده بود که با واکنش این رسانه مواجه شد. در پی این اتفاقات، اپل اعلام کرد که تغییراتی را در قابلیت خلاصه‌سازی اخبار هوش مصنوعی خود اعمال خواهد کرد.

این تحقیقات نشان می‌دهد که چت‌بات‌های هوش مصنوعی هنوز در مراحل اولیه توسعه خود هستند و برای استفاده در اطلاع‌رسانی عمومی نیازمند بهبودهای چشمگیر هستند. انتشار اطلاعات نادرست توسط این چت‌بات‌ها می‌تواند تاثیرات منفی جدی بر جامعه داشته باشد و اعتماد عمومی به رسانه‌ها را خدشه‌دار کند.

بی‌بی‌سی از شرکت‌های فناوری خواسته است تا در مورد نحوه عملکرد چت‌بات‌های هوش مصنوعی در ارائه اخبار شفاف باشند و اقدامات لازم را برای بهبود دقت و صحت اطلاعات ارائه شده انجام دهند.