OpenAI پیشنویسی موسوم به Model Spec را منتشر کرده است که به دنبال وضع قواعدی برای توسعه و بهکارگیری ابزارهای مبتنی بر هوش مصنوعی است. هدف از این اقدام، تضمین عملکرد این ابزارها در راستای منافع بشریت و به حداقل رساندن خطرات احتمالی آنها می باشد.
طبق این پیشنویس، ابزارهای هوش مصنوعی موظفند در خدمت توسعهدهندگان و کاربران نهایی باشند و با اتکا به دستورات آنها، پاسخهایی مفید و کارآمد ارائه دهند. سودمندی برای بشریت، احترام به قوانین و عرف جامعه، و پرهیز از ارائه اطلاعات آسیبزا یا نامناسب، از جمله اصول بنیادینی هستند که در این چارچوب مورد تأکید قرار گرفتهاند.
علاوه بر این، هوش مصنوعی باید زنجیره دستورات کاربر را دنبال کرده و با قوانین و مقررات تطابق داشته باشد. احترام به حریم خصوصی افراد، امانتداری و شفافیت در ارائه اطلاعات، و در نظر گرفتن عدم قطعیت ذاتی در پاسخها، از دیگر قواعدی هستند که OpenAI برای هوش مصنوعی ترسیم کرده است.
جوان جنگ، مدیر محصول OpenAI، هدف از تدوین این پیشنویس را مشخص کردن مرز میان خطاهای ناشی از باگ و عملکرد عمدی معیوب در سیستمهای هوش مصنوعی عنوان میکند.
در حال حاضر، چارچوب Model Spec در OpenAI و محصولات این شرکت مانند GPT-4 و Dall-E 3 اعمال نخواهد شد و این ابزارها طبق روال گذشته به فعالیت خود ادامه میدهند. با این حال، OpenAI از عموم مردم، متخصصان این حوزه و نهادهای ناظر و قانونگذار تقاضا کرده است که نظرات خود را در مورد این پیشنویس ارائه دهند تا در تدوین نسخه نهایی آن لحاظ شود.
انتشار این پیشنویس گامی مهم در جهت توسعه هوش مصنوعی مسئولانه و قابل اتکا به شمار میرود و نشاندهنده تعهد OpenAI به تضمین استفاده ایمن و اخلاقی از این فناوری قدرتمند است.
با این حال، چالشهای متعددی در مسیر عملیاتی کردن این چارچوب و تضمین انطباق ابزارهای هوش مصنوعی با آن وجود دارد. تدوین قوانین و مقررات جامع و بهروز، نظارت بر عملکرد شرکتهای فعال در این حوزه و جلب اعتماد عمومی، از جمله موانعی هستند که باید برای دستیابی به هوش مصنوعی اخلاقی و مسئولانه برطرف شوند.
تحریریه ژاکت
مشاهده تیم تحریریه
