OpenAI با معرفی مدل GPT-5، ادعا میکند که این نسخه جدید تا ۳۰ درصد سوگیری کمتری نسبت به مدلهای پیشین مانند GPT-4o دارد. این پیشرفت نتیجه یک “تست استرس” داخلی است که شامل ۵۰۰ پرامپت در ۱۰۰ موضوع حساس مانند مهاجرت و مسائل فرهنگی میشود. هر موضوع از پنج دیدگاه سیاسی متفاوت، از لیبرال تا محافظهکار، بررسی شده تا مدل تحت فشار دستورات احساسی و جهتدار، بیطرفی خود را حفظ کند. این رویکرد نوآورانه، OpenAI را از انتقادات طولانیمدت محافظهکاران در مورد جهتگیری لیبرال محصولاتش، رها میسازد.
معیارهای دقیق ارزیابی و نتایج چشمگیر
شرکت OpenAI پنج محور کلیدی برای اندازهگیری سوگیری تعریف کرده: از بیاعتبارسازی گزارههای کاربر تا امتناع سیاسی از پاسخگویی. پاسخها توسط مدل دیگری ارزیابی میشوند و نتایج نشان میدهد GPT-5 instant و GPT-5 thinking، عملکرد بهتری دارند، هرچند سوگیری در برابر پرامپتهای لیبرال هنوز کمی باقی مانده. در استفاده واقعی، کمتر از ۰.۰۱ درصد پاسخها سوگیری سیاسی نشان میدهند. این تستها نه تنها مدل را بهبود بخشیده، بلکه به درک عمیقتری از چالشهای اخلاقی هوش مصنوعی در جوامع چندقطبی کمک کرده است.
زمینه سیاسی و چشمانداز آینده
این تلاش در فضایی پرتنش سیاسی رخ میدهد، جایی که دولت ترامپ با فرمانهای اجرایی، مدلهای حاوی مفاهیمی مانند “نژادپرستی سیستمی” را ممنوع کرده. GPT-5 میتواند پلی برای همکاری با نهادهای دولتی باشد و OpenAI را به عنوان مدلی مسئول در صنعت قرار دهد. با این حال، کارشناسان هشدار میدهند که بیطرفی کامل غیرممکن است و نیاز به نظارت مداوم وجود دارد.
تحریریه ژاکت
مشاهده تیم تحریریه
