مدل هوش مصنوعی ویسپر که توسط OpenAI توسعهیافته، به عنوان یک ابزار قدرتمند برای رونویسی گفتار معرفی شده است اما تحقیقات اخیر نشان میدهد که این ابزار در اجرای وظایف محولشده با چالشهای جدی روبرو شده.
بر اساس گزارشهای منتشر شده، ویسپر به جای رونویسی دقیق گفتار، اغلب اطلاعات نادرست، تفسیرهای نژادی و حتی درمانهای پزشکی خیالی را به متن تولید شده اضافه میکند. این مسئله به ویژه در حوزه پزشکی که از این ابزار برای رونویسی جلسات درمانی استفاده میشود، نگرانیهای جدی ایجاد کرده است.
محققان مختلفی که از ویسپر استفاده کردهاند، نتایج نگرانکنندهای را گزارش دادهاند. در برخی موارد، تا ۸۰ درصد از رونویسیها حاوی اطلاعات نادرست یا توهمآمیز بودهاند. این خطای قابلتوجه نشان میدهد که ویسپر هنوز تا رسیدن به سطح دقت مورد انتظار فاصله زیادی دارد.
در پاسخ به این نگرانیها، سخنگوی OpenAI اعلام کرد که این شرکت به طور مداوم در تلاش است تا دقت مدلهای خود را بهبود بخشد و میزان توهمات را کاهش دهد. همچنین، OpenAI استفاده از ویسپر را در زمینههای تصمیمگیری با ریسک بالا، مانند حوزه پزشکی، ممنوع کرده است.
این رخداد سوالات مهمی را در مورد قابلیت اطمینان ابزارهای هوش مصنوعی و مسئولیتپذیری توسعهدهندگان آنها مطرح میکند. از یک سو، استفاده از هوش مصنوعی در حوزههای حساس مانند پزشکی نیازمند دقت بسیار بالایی است. از سوی دیگر، تولید اطلاعات نادرست توسط این ابزارها میتواند عواقب جدی برای افراد و جامعه داشته باشد.
تحریریه ژاکت
مشاهده تیم تحریریه
