گروهی از کارکنان فعلی و سابق شرکت‌های OpenAI و DeepMind گوگل در نامه‌ای سرگشاده نگرانی‌های خود را در مورد خطرات ایمنی هوش مصنوعی ابراز داشتند. آنها هشدار می‌دهند که نظارت کافی بر این فناوری وجود ندارد و خواستار حمایت بیشتر از سوت‌زنان هستند.
امضاکنندگان این نامه که شامل 13 کارمند از جمله محققان برجسته هوش مصنوعی مانند جفری هینتون هستند، می‌گویند که شرکت‌های هوش مصنوعی اطلاعات مهمی در مورد خطرات بالقوه سیستم‌های خود دارند، اما تعهد کمی برای به اشتراک گذاشتن این اطلاعات با دولت‌ها دارند. آنها هشدار می‌دهند که این امر می‌تواند منجر به خطرات جدی مانند افزایش نابرابری، دستکاری، انتشار اطلاعات نادرست و حتی انقراض انسان شود.
علاوه بر این، کارکنان می‌گویند که حمایت‌های فعلی از سوت‌زنان کافی نیست. آنها می‌گویند که این حمایت‌ها عمدتاً بر افشای فعالیت‌های غیرقانونی تمرکز دارند و نگرانی‌های ایمنی را پوشش نمی‌دهند.
این نامه در پی گزارش‌هایی منتشر می‌شود که نشان می‌دهد OpenAI، یک شرکت تحقیقاتی غیرانتفاعی که توسط ایلان ماسک تأسیس شده است، تیم ایمنی هوش مصنوعی خود را منحل کرده و مدیر آن استعفا داده است.
نگرانی‌ها در مورد ایمنی هوش مصنوعی در حال افزایش است، زیرا این فناوری به طور فزاینده‌ای قدرتمند می‌شود. کارشناسان می‌گویند که ضروری است نظارت‌های قوی‌تری برای اطمینان از استفاده ایمن و اخلاقی از هوش مصنوعی وجود داشته باشد.
تحریریه ژاکت
مشاهده تیم تحریریه
