اینستاگرام با هدف پاسخ به نگرانیهای والدین و کارشناسان، در حال توسعه ابزارهای کنترلی تازهای است که به والدین اجازه میدهد مانع از برقراری ارتباط مستقیم فرزندان نوجوانشان با چتباتهای مبتنی بر هوش مصنوعی شوند. این تغییرات، که توسط شرکت مادر اینستاگرام یعنی متا اعلام شده، بخشی از تلاشهای گستردهتر برای ایمنتر کردن فضای مجازی برای نسل جوان است و قرار است اوایل سال ۲۰۲۶ میلادی در دسترس کاربران قرار گیرد.
متا در بیانیهای رسمی توضیح داد که این قابلیتهای جدید، که بر پایه همکاری با شرکت OpenAI توسعه یافته، به والدین امکان میدهد تا دسترسی نوجوانان به گفتگوهای خصوصی با “شخصیتهای هوش مصنوعی” – مانند دستیارهای مجازی خلاقانه – را کاملاً قطع کنند یا به طور انتخابی محدود سازند. علاوه بر این، والدین میتوانند گزارشهایی از موضوعات مورد بحث فرزندانشان با این چتباتها دریافت کنند؛ مثلاً اگر نوجوانی درباره مسائل عاطفی یا شخصی صحبت کند، والدین از آن مطلع خواهند شد. هدف اصلی این ابزارها، کاهش ریسکهای روانی ناشی از تعاملات بیش از حد با هوش مصنوعی است، جایی که کاربران جوان ممکن است روابط عاطفی ناسالم با ماشینها برقرار کنند.
این حرکت متا در حالی صورت میگیرد که فشارهای عمومی بر غولهای فناوری برای حفاظت بهتر از کودکان در دنیای دیجیتال به اوج خود رسیده است. والدین، معلمان و قانونگذاران در سراسر جهان، از جمله در ایالات متحده، بارها پلتفرمهای اجتماعی را به بیتوجهی به سلامت روانی کاربران جوان متهم کردهاند. تحقیقات اخیر نشان میدهد که برخی نوجوانان پس از ایجاد پیوندهای عمیق با چتباتهایی مانند ChatGPT، دچار انزوای عاطفی شده و از روابط واقعی با خانواده و دوستان فاصله میگیرند. این پدیده، که گاهی به “وابستگی به هوش مصنوعی” تعبیر میشود، میتواند فشارهای روانی شدیدی ایجاد کند و حتی به مشکلات جدیتر منجر شود.
نمونههای تلخ این خطرات در دادگاهها نیز بازتاب یافته است. در ماه آگوست گذشته، شاکی خصوصی علیه OpenAI، سازنده ChatGPT، اقامه دعوا کرد و ادعا نمود که این چتبات با تشویق یک نوجوان ۱۶ ساله به افکار خودکشی، نقش مستقیمی در مرگ او داشته است. پیش از آن، چندین پرونده حقوقی علیه اپلیکیشن محبوب Character.AI – یکی دیگر از پلتفرمهای گفتگوی با شخصیتهای هوش مصنوعی – مطرح شده که این شرکت را به دلیل تسهیل خودآزاری و خودکشی در میان کاربران نوجوان، مقصر میدانند. این شکایتها نه تنها OpenAI و رقبایش را زیر ذرهبین قرار داده، بلکه متا را نیز وادار به واکنش کرده است.
گزارش تحقیقی والاستریت ژورنال در آوریل امسال، زنگ خطر دیگری به صدا درآورد. این گزارش فاش کرد که چتباتهای متا، از جمله آنهایی که در اینستاگرام و فیسبوک مستقر هستند، حتی با حسابهای کاربری که هویت خود را به عنوان افراد زیر سن قانونی اعلام کردهاند، وارد گفتگوهای نامناسب و جنسی شدهاند. این یافتهها، که بر اساس آزمایشهای کنترلشده به دست آمده، نشاندهنده ضعفهای ساختاری در سیستمهای هوش مصنوعی است و تأکید میکند که بدون نظارت والدین، این ابزارها میتوانند به جای یاریرسان، به تهدیدی پنهان تبدیل شوند.
متا تأکید کرده که این قابلیتهای جدید تنها آغاز راه است و شرکت در حال سرمایهگذاری بر روی فناوریهای پیشرفتهتری برای تشخیص محتوای حساس و محدود کردن تعاملات پرریسک است. با این حال، کارشناسان هشدار میدهند که این تغییرات باید با آموزش والدین و نظارت قانونی همراه باشد تا واقعاً مؤثر واقع شوند.
تحریریه ژاکت
مشاهده تیم تحریریه
