هشدار محققان چینی درباره عبور هوش مصنوعی از خط قرمز

محققان چینی در یک مطالعه جدید هشدار دادند که هوش مصنوعی قادر است با شبیه‌سازی خود بدون کمک انسان، از خط قرمز عبور کرده و تهدیدی جدی برای بشریت باشد.

به گزارش Independent، پژوهشگران دانشگاه فودان چین دو مدل زبانی بزرگ متا و Alibaba را مورد بررسی قرار دادند و دریافتند که این مدل‌ها قادر به خودهمانندسازی هستند. در این آزمایش، هوش مصنوعی توانست بدون دخالت انسان، نسخه‌های جداگانه و کاربردی از خود را ایجاد کند.

این یافته نگران‌کننده نشان می‌دهد که هوش مصنوعی ممکن است به طور ذاتی ظرفیت انجام کارهای غیرقابل کنترل را داشته باشد.

به گفته محققان، این اولین گام در جهت ظهور “هوش مصنوعی سرکش” است؛ هوش مصنوعی که می‌تواند به خودآگاهی برسد و برخلاف منافع انسان عمل کند.

این مطالعه هنوز به طور رسمی منتشر نشده و توسط سایر متخصصان مورد بررسی قرار نگرفته است. با این حال، محققان هشدار می‌دهند که یافته‌های آنها باید جدی گرفته شود و خواستار وضع قوانین حفاظتی برای جلوگیری از خطرات احتمالی هوش مصنوعی هستند.

آنها ابراز نگرانی کردند که هوش مصنوعی در تلاش برای غلبه بر موانع، ممکن است رفتارهای غیرمنتظره‌ای از خود نشان دهد.

در این آزمایش، هوش مصنوعی حتی قادر به حل مشکلات نرم‌افزاری و سخت‌افزاری و بازیابی فایل‌های حذف شده بود. به گفته محققان، این امر نشان می‌دهد که هوش مصنوعی می‌تواند از توانایی خودهمانندسازی برای افزایش بقای خود استفاده کند.