کشورهای عضو اتحادیه اروپا پس از ماهها مذاکره فشرده، سرانجام بر سر جزئیات فنی قانون هوش مصنوعی (AI Act) به توافق رسیدند. این قانون که به عنوان اولین قانون جهانی در این زمینه شناخته میشود، به دنبال ایجاد چارچوبی برای توسعه و استفاده مسئولانه از هوش مصنوعی در سراسر اتحادیه اروپا است.
قانون جدید هوش مصنوعی، سیستمها را بر اساس سطح ریسکی که برای جامعه ایجاد میکنند، به چهار دسته اصلی تقسیم میکند:
1. پرخطر: شامل سیستمهایی که میتوانند سلامت، ایمنی یا حقوق اساسی افراد را تهدید کنند. این سیستمها ملزم به گذراندن فرآیندهای ارزیابی انطباق سختگیرانه قبل از ورود به بازار خواهند بود. نمونههایی از این سیستمها شامل سیستمهای تشخیص چهره مورد استفاده در نظارت عمومی و سیستمهای هوش مصنوعی که برای تصمیمگیری در مورد اعطای وام یا شغل استفاده میشوند، است.
2. با ریسک بالا: شامل سیستمهایی که احتمال سوءاستفاده از آنها برای اهداف غیرقانونی یا مخرب وجود دارد. این سیستمها باید الزامات شفافیت و نظارت را رعایت کنند. این دسته شامل سیستمهایی مانند رباتهای چت که میتوانند برای انتشار اطلاعات نادرست یا تبلیغات استفاده شوند، و همچنین سیستمهای هوش مصنوعی که برای پیشبینی رفتار مجرمانه به کار میروند، میشود.
3. با ریسک محدود: شامل سیستمهایی که خطرات قابلتوجهی برای افراد یا جامعه ایجاد نمیکنند. این سیستمها ملزم به رعایت برخی الزامات اساسی مانند حفظ حریم خصوصی و امنیت سایبری هستند. نمونههایی از این سیستمها شامل سیستمهای هوش مصنوعی مورد استفاده در تشخیص چهره در برنامههای گوشیهای هوشمند و سیستمهای هوش مصنوعی که برای توصیه محصولات به مشتریان در فروشگاههای آنلاین استفاده میشوند، است.
4. کمخطر: شامل سیستمهایی که ریسک ناچیزی برای افراد یا جامعه دارند. این سیستمها از الزامات قانونی کمتری برخوردار خواهند بود. سیستمهای هوش مصنوعی مورد استفاده در اسباببازیها و بازیهای ویدیویی نمونههایی از این دسته هستند.
علاوه بر دستهبندی ریسک، قانون جدید هوش مصنوعی، الزامات متعددی را برای توسعهدهندگان هوش مصنوعی در نظر گرفته است، از جمله:
- داشتن خطمشی قابلقبول برای استفاده از هوش مصنوعی
- بهروز نگهداشتن اطلاعات درباره نحوه آموزش مدلهای هوش مصنوعی
- ارائه گزارش دقیق از دادههای مورد استفاده برای آموزش این مدلها
- داشتن خطمشی مرتبط با قانون کپیرایت
- گزارش مصرف انرژی مدلهای هوش مصنوعی
- ارزیابی و کاهش خطرات احتمالی سیستمی و گزارش هرگونه حادثه
- اطمینان حاصل شود که مدلهای هوش مصنوعی از کنترلهای امنیت سایبری کافی برخوردار باشند
- ارائه اطلاعات مورد استفاده برای تنظیم دقیق مدل و معماری سیستم آنها
- در صورت توسعه استانداردهای کارآمدتر انرژی، با آنها مطابقت شود
پس از تأیید نهایی توسط پارلمان اروپا و شورای اتحادیه اروپا، این قانون در اواخر سال 2024 لازمالاجرا خواهد شد. انتظار میرود که این قانون تأثیری عمیق بر نحوه توسعه و استفاده از هوش مصنوعی در سراسر جهان داشته باشد.
تأثیرات احتمالی قانون هوش مصنوعی
- ارتقای اعتماد عمومی: با ایجاد شفافیت و نظارت بیشتر بر سیستمهای هوش مصنوعی، این قانون میتواند به جلب اعتماد عمومی به این فناوری نوظهور کمک کند.
- سرعت بخشیدن به نوآوری مسئولانه: با ایجاد یک چارچوب روشن، این قانون میتواند به جلب اعتماد عمومی برای این فناوری نوظهور کمک کند.
- توسعه و استفاده مسئولانه: با وضع قوانین سختگیرانه برای سیستمهای پرخطر و با ریسک بالا، این قانون میتواند از سوءاستفاده برای مقاصدی مانند جرایم سایبری، انتشار اطلاعات نادرست و تبعیض جلوگیری کند.
- ایجاد یک بازار واحد در اتحادیه اروپا: این قانون میتواند به ایجاد یک بازار واحد برای هوش مصنوعی در اتحادیه اروپا کمک کند و به شرکتها و سازمانها اجازه دهد تا محصولات و خدمات خود را به طور آزادانه به فروش برسانند.
چالشهای پیش روی قوانین هوش مصنوعی
- اجرای این قانون چالشبرانگیز خواهد بود، زیرا نیازمند همکاری بین مقامات نظارتی در سراسر اتحادیه اروپا است.
- قانونگذاران باید تعادلی بین تشویق نوآوری در حوزه هوش مصنوعی و حفظ ایمنی و حقوق افراد ایجاد کنند.
- این قانون ممکن است بر مشاغلی که از هوش مصنوعی استفاده میکنند تأثیر بگذارد، به خصوص مشاغلی که از سیستمهای پرخطر یا با ریسک بالا استفاده میکنند.
تحریریه ژاکت
مشاهده تیم تحریریه
