مایکروسافت اخیرا گزارش شفافیت هوش مصنوعی مسئولانه خود را منتشر کرده و در آن به تفصیل اقداماتی که این شرکت طی سال گذشته برای توسعه و انتشار مسئولانه پلتفرمهای هوش مصنوعی خود انجام داده است، پرداخت. این گزارش که عمدتاً سال 2023 را پوشش میدهد، دستاوردهای مایکروسافت در زمینههایی مانند استقرار ایمن محصولات هوش مصنوعی، توسعه ابزارهای جدید برای شناسایی و کاهش خطرات و گسترش “تیم قرمز” برای کشف آسیبپذیریها را برجسته میکند.
انتشار گزارش سالانه “شفافیت هوش مصنوعی مسئولانه” بخشی از تعهدات مایکروسافت در پی امضای توافقنامه داوطلبانهای با کاخ سفید در جولای 2023 است که در آن مایکروسافت و سایر شرکتها متعهد به توسعه و استقرار سیستمهای هوش مصنوعی به شیوهای مسئولانه و با اولویتدهی به ایمنی شدند.
از میان پیشرفتهای کلیدی که در گزارش امسال به آنها اشاره شده، میتوان به موارد زیر اشاره کرد:
- ایجاد 30 ابزار جدید هوش مصنوعی مسئولانه: این ابزارها به مشتریان در شناسایی و کاهش خطرات بالقوه هوش مصنوعی، مانند سوگیری، تبعیض و نشت داده کمک میکنند.
- رشد تیم هوش مصنوعی مسئولانه: مایکروسافت برای اطمینان از اینکه هوش مصنوعی به طور مسئولانه در سراسر شرکت توسعه و استفاده میشود، تیم هوش مصنوعی مسئولانه خود را گسترش داده است.
- ایجاد تیمهای “پرچم قرمز”: این تیمهای داخلی وظیفه دارند نقصهای امنیتی را در مدلهای هوش مصنوعی قبل از انتشار آنها شناسایی کنند.
- ارائه ابزار Content Credentials: این سیستم با درج واترمارک روی تصاویر تولید شده توسط هوش مصنوعی، به کاربران کمک میکند تا منبع این تصاویر را به راحتی تشخیص دهند.
- ارائه ابزارهای تشخیص محتوای نامناسب به مشتریان Azure AI: این ابزارها به مشتریان در شناسایی و حذف محتوای مضر مانند محتوای جنسی و خشونتآمیز از پلتفرمهای خود کمک میکنند.
- ارائه ابزارهای ارزیابی ریسک امنیتی: مایکروسافت به مشتریان Azure AI ابزارهایی برای ارزیابی خطرات امنیتی مرتبط با برنامههای هوش مصنوعی خود ارائه میدهد.
ناتاشا کرامپتون، مدیر هوش مصنوعی مسئولانه مایکروسافت، در ایمیلی به The Verge گفت:
“ما میدانیم که هوش مصنوعی هنوز در حال توسعه است و این موضوع برای هوش مصنوعی مسئول نیز صدق میکند. هوش مصنوعی مسئول خط پایانی ندارد، بنابراین ما هرگز کار خود را در چارچوب تعهدات هوش مصنوعی داوطلبانه خود تمام شده نمیدانیم. از زمان امضای این توافقنامه پیشرفت زیادی کردهایم و مشتاقانه منتظریم تا امسال شتاب خود را ادامه دهیم.”
تحریریه ژاکت
مشاهده تیم تحریریه
