انتشار توافقنامه‌ همکاری در زمینه آزمایش ایمنی هوش مصنوعی پیشرفته

آمریکا و بریتانیا توافقنامه‌ مهمی را برای همکاری در زمینه آزمایش ایمنی هوش مصنوعی پیشرفته امضا کردند که بر اساس آن، هر دو کشور قصد دارند روش‌های بهتری برای ارزیابی ایمنی ابزارهای AI توسعه دهند.

هدف اصلی این همکاری که اولین توافق دوجانبه در زمینه ایمنی هوش مصنوعی در جهان است، ایجاد رویکردی مشترک برای ارزیابی مستقل ایمنی مدل‌های هوش مصنوعی شرکت‌های بزرگی مانند گوگل، آنتروپیک و OpenAI به حساب می آید. این موسسه در ایالات متحده و بریتانیا به منظور تضمین ایمنی مدل‌های هوش مصنوعی پیشرفته با همکاری در انجام آزمایش‌هایی برای ارزیابی خطرات مشترک همکاری خواهند کرد.

در این همکاری، آمریکا و بریتانیا قصد دارند دانش فنی، اطلاعات و حتی پرسنل را به اشتراک بگذارند و یک آزمایش مشترک روی یک مدل هوش مصنوعی عمومی انجام دهند.

میشل دونلان، وزیر علوم بریتانیا، که این توافقنامه را امضا کرده است، اظهار کرده است که این همکاری باید سریع عمل کند، زیرا انتظار می‌رود نسل جدیدی از مدل‌های هوش مصنوعی در سال آینده معرفی شود. این دو کشور باور دارند که مدل‌های آینده می‌توانند هوش مصنوعی را متحول کنند و هنوز مشخص نیست که چه توانایی‌هایی دارند.

به گفته جینا ریموندو، وزیر بازرگانی ایالات متحده، این همکاری به سرعت کار مؤسسات ایمنی هوش مصنوعی دو کشور را در بررسی و رفع خطرات، چه برای امنیت ملی و چه برای جامعه، تسریع می‌بخشد.

درحالی‌که این مشارکت بر آزمایش و ارزیابی هوش مصنوعی متمرکز است، دولت‌های مختلف در سراسر جهان نیز قوانینی را برای کنترل ابزارهای هوش مصنوعی ایجاد کرده‌اند. چندی پیش، پارلمان اروپا قانون هوش مصنوعی یا AI Act را تصویب کردند که یکی از اهداف آن، جلوگیری از سوءاستفاده از هوش مصنوعی برای جعل هویت افراد است.