با توجه به اینکه مدل‌های هوش مصنوعی در ماه‌های اخیر جهان را به تسخیر خود درآورده‌اند، گردهمایی دف‌کان هم امسال از هکرها دعوت کرده است تا روی کشف باگ‌ها و سوگیری‌های مدل‌های زبانی بزرگ (LLM) شرکت‌های مختلف ازجمله OpenAI، گوگل و Anthropic تمرکز کنند.
به گزارش The Register، این گردهمایی که بزرگترین رویداد سالانه هکرهاست و در لاس‌وگاس برگزار می‌شود، امسال میزبان هزاران نفر ازجمله صدها دانشجو از مؤسسات آموزشی و جوامع مختلف خواهد بود که جمعی از آنها به‌دنبال کشف نقایص مدل‌های زبانی بزرگ می‌روند. این مدل‌ها همان فناوری پشت ابزارهایی مثل ChatGPT و بارد گوگل هستند.
«سوِن کت‌ول»، بنیان‌گذار گروه AI Village که مسئول دعوت‌کننده هکرها به این رویداد بوده است، در بیانیه‌ای می‌گوید: «شرکت‌ها به‌طور سنتی این مشکل را با تیم‌های قرمز (Red Teams) تخصصی خود حل می‌کردند. البته این کار معمولاً در خفا انجام می‌شد. اما مشکلات این مدل‌ها تا زمانی که افراد بیشتری از چگونگی تشکیل تیم‌های قرمز و ارزیابی مشکلات آگاه نشوند، برطرف نخواهد شد.»
هکرها در دف‌کان امسال کدام مدل‌های هوش مصنوعی را بررسی خواهند کرد؟
بنابراین دف‌کان امسال در‌واقع تیم قرمزی را تشکیل می‌دهد که برای حل این مشکلات ساخته می‌شود. AI Village برای شرکت‌کنندگان در این رویداد لپ‌تاپ و دسترسی محدود به مدل‌های زبانی شرکت‌های مختلف را فراهم می‌کند. این مدل‌ها درحال‌حاضر شامل مدل‌های شرکت Anthropic، گوگل، Hugging Face، انویدیا، OpenAI و Stability است.
افزون‌براین، اعلام شده که این رویداد با مشارکت مایکروسافت برگزار می‌شود؛ بنابراین شاید امکان دسترسی به مدل بینگ هم وجود داشته باشد. هکرها قرار است به پلتفرم ارزیابی شرکت Scale AI هم دسترسی پیدا کنند تا بتوانند نرم‌افزارها را دقیق‌تر و بهتر بررسی نمایند. این خبر در شرایطی اعلام می‌شود که «کاملا هریس»، معاون اول رئیس‌جمهور آمریکا و چند مقام ارشد دولتی به‌تازگی با رؤسای OpenAI، مایکروسافت، Anthropic و گوگل درباره تهدیدهای هوش مصنوعی دیدار و صحبت کرده بودند.
رویداد دف‌کان 2023 از 19 تا 22 مردادماه امسال در لاس‌وگاس آمریکا برگزار خواهد شد.
اطلاعات تکمیلی:
DEFCON یکی از بزرگترین رویدادهای امنیتی دنیاست که هر ساله در لاس وگاس برگزار می‌شود. این رویداد به عنوان یکی از مهم‌ترین مراسم در حوزه امنیت سایبری شناخته شده است و به توسعه‌دهندگان، امنیت‌دانان و محققان در حوزه امنیت اینترنتی فرصتی برای به اشتراک گذاشتن دانش، تجربیات و فناوری‌های جدید می‌دهد.
DEFCON در سال 1993 توسط فردی به نام جف ماسک (Jeff Moss) تأسیس شد. او یک هکر با استعداد و تخصص برای امنیت سایبری بود و به دنبال ایجاد یک فضایی برای گردهمایی توسعه‌دهندگان و امنیت‌دانان بود که بتوانند به اشتراک گذاشتن دانش و تجربیات خود را در حوزه امنیت اینترنتی داشته باشند.
DEFCON هر ساله در ماه اوت برگزار می‌شود و به مدت چهار روز ادامه دارد. در این رویداد، جمعیتی بالغ بر ۲۰٬۰۰۰ نفر از سراسر جهان به لاس وگاس سفر می‌کنند تا در نشست‌ها، کنفرانس‌ها، کارگاه‌ها و مسابقات مختلف شرکت کنند. DEFCON به عنوان یک رویداد امنیتی، محتوایی پیچیده و پیشرفته دارد که از جملهٔ آنها می‌توان به حملات سایبری، نفوذ و تزریق کد و دسترسی به سیستم‌های مختلف اشاره کرد.
یکی از جالب‌ترین و مهم‌ترین نکات درباره رویداد DEFCON این است که این رویداد به عنوان یک فضای آزاد برای ارتباط و تبادل دانش و تجربیات در حوزه امنیت سایبری شناخته شده است. این رویداد به عنوان یک محیط برای آموزش و یادگیری از همکاران و هم‌صنفان در حوزه امنیت سایبری شناخته شده و برای توسعه‌دهندگان و امنیت‌دانان فرصتی برای شناختن با تکنولوژی‌های جدید و بهبود روش‌های امنیتی است.
نویسنده علیرضا ناجی
سایر مقالات نویسنده
