توسعه مسئولانه هوش مصنوعی، شرکت های بزرگ دنیا با هم متحد می‌شوند

بیش از 200 شرکت، از جمله غول‌های فناوری مانند متا، گوگل، مایکروسافت و اپل به کنسرسیوم موسسه ایمنی هوش مصنوعی ایالات متحده (AISIC) پیوسته‌اند تا به پیشبرد شیوه‌های هوش مصنوعی مسئولانه کمک کنند. جینا ریموندو، وزیر بازرگانی ایالات متحده، در مراسمی که به منظور معرفی اعضای جدید AISIC برگزار شد، گفت: “هوش مصنوعی پتانسیل عظیمی برای حل برخی از بزرگ‌ترین چالش‌های جهان را دارد، اما خطرات بالقوه‌ای نیز به همراه دارد. این کنسرسیوم نقشی حیاتی در تضمین توسعه و استفاده مسئولانه از هوش مصنوعی ایفا خواهد کرد.”

تمرکز بر تدوین دستورالعمل‌های عملی

فرمان اجرایی رئیس جمهور جو بایدن در مورد هوش مصنوعی که در اکتبر 2023 صادر شد، به دنبال ایجاد چارچوبی برای توسعه و استفاده مسئولانه از هوش مصنوعی است. AISIC بر روی تدوین دستورالعمل‌های عملی در زمینه‌های مختلف، از جمله موارد زیر تمرکز خواهد کرد:

• تیم قرمز: شبیه‌سازی حملات سایبری برای شناسایی و رفع نقاط ضعف سیستم‌های هوش مصنوعی
• ارزیابی قابلیت‌ها: سنجش دقیق توانایی‌ها و محدودیت‌های سیستم‌های هوش مصنوعی
• مدیریت ریسک: شناسایی و کاهش خطرات مرتبط با توسعه و استفاده از هوش مصنوعی
• ایمنی و امنیت: تضمین امنیت و حفاظت از سیستم‌های هوش مصنوعی
• واترمارک‌کردن محتوای ساخته‌شده: علامت‌گذاری محتوای تولید شده توسط هوش مصنوعی برای کمک به کاربران در تشخیص محتوای واقعی از جعلی

واترمارک‌، راهی برای مقابله با دیپ‌فیک و اطلاعات نادرست

یکی از جنبه‌های مهم ابتکار AISIC، واترمارک‌کردن محتوای تولیدشده توسط هوش مصنوعی است. این کار به کاربران کمک می‌کند تا به راحتی محتوای واقعی را از محتوای جعلی تشخیص دهند و به نوبه خود، به کاهش انتشار دیپ‌فیک و اطلاعات نادرست کمک می‌کند. OpenAI و چین نیز به دنبال راه‌حل‌هایی برای واترمارک‌کردن محتوای هوش مصنوعی هستند

OpenAI، شرکت تحقیقاتی هوش مصنوعی، به تازگی اعلام کرده است که برای تشخیص محتواهای ساختگی، به تصاویر DALL-E 3 واترمارک اضافه می‌کند. چین نیز قصد دارد استفاده از واترمارک روی محتواهای ساخته‌شده با هوش مصنوعی را اجباری کند.

آغاز کار بزرگ‌ترین مجموعه تیم‌های آزمایش و ارزیابی هوش مصنوعی

کار AISIC به تازگی آغاز شده است و وزارت بازرگانی ایالات متحده می‌گوید که این کنسرسیوم بزرگ‌ترین مجموعه تیم‌های آزمایش و ارزیابی در جهان خواهد بود. این کنسرسیوم پتانسیل قابل توجهی برای ارتقای هوش مصنوعی مسئولانه و ایمن در سراسر جهان دارد. علاوه بر شرکت‌های ذکر شده، تعدادی از دانشگاه‌ها، سازمان‌های غیرانتفاعی و آژانس‌های دولتی نیز در AISIC مشارکت دارند. این کنسرسیوم با همکاری ذینفعان مختلف، به دنبال ایجاد چارچوبی برای توسعه و استفاده از هوش مصنوعی است که به نفع همه باشد.

لیست اعصای کنسرسیوم مؤسسه ایمنی هوش مصنوعی ایالات متحده