آنتروپیک از افزونهای برای مرورگر کروم رونمایی کرد که به دستیار هوش مصنوعی این شرکت، موسوم به Claude، امکان میدهد تا کنترل مرورگر را در دست گرفته و وظایف پیچیدهای را بهصورت خودکار انجام دهد. این افزونه که «Claude برای کروم» نام دارد، نقطه عطفی در توسعه فناوریهای «هوش مصنوعی عاملی» (Agentic AI) به شمار میرود؛ حوزهای که در آن هوش مصنوعی قادر است بهطور مستقیم با رابطهای کاربری تعامل کرده و اقداماتی مستقل انجام دهد.
قابلیتهای جدید برای کاربران
افزونه Claude به کاربران این امکان را میدهد تا با دستورات ساده، وظایف متنوعی را به هوش مصنوعی بسپارند. برای نمونه، کاربران میتوانند از Claude بخواهند جلسهای را برنامهریزی کند، ایمیلها را بررسی کرده و موارد خاصی را جستوجو کند یا حتی فرمهای آنلاین را تکمیل نماید. این سیستم با توانایی «دیدن» محتوای صفحه نمایش، کلیک روی دکمهها و جابهجایی بین وبسایتها، تجربهای یکپارچه و کارآمد را برای کاربران فراهم میکند.
عرضه محدود به دلیل نگرانیهای امنیتی
آنتروپیک این افزونه را در مرحله آزمایشی و تنها برای ۱۰۰۰ کاربر مورد اعتماد عرضه کرده است. دلیل این محدودیت، نگرانیهای امنیتی جدی بهویژه در برابر حملات موسوم به «تزریق پرامپت» (Prompt Injection) است. این نوع حمله میتواند دستورات مخربی را در ایمیلها، وبسایتها یا اسناد جاسازی کند و هوش مصنوعی را به انجام اقدامات خطرناک و بدون اطلاع کاربر وادار سازد.
در آزمایشهای داخلی آنتروپیک، مشخص شد که بدون اقدامات ایمنی، حملات تزریق پرامپت در ۲۳.۶ درصد موارد موفق بودهاند. برای مثال، در یک سناریوی آزمایشی، ایمیلی جعلی که خود را بهعنوان دستورالعملی از سوی کارفرما جا زده بود، به Claude دستور داد تا تمام ایمیلهای کاربر را به بهانه «بهداشت صندوق پستی» حذف کند و این سیستم بدون نیاز به تأیید کاربر، این اقدام را انجام داد.
راهکارهای امنیتی آنتروپیک
برای مقابله با این تهدیدات، آنتروپیک چندین لایه حفاظتی پیادهسازی کرده است، از جمله:
-
محدودیت دسترسی در سطح وبسایت: Claude تنها به سایتهای مجاز دسترسی دارد.
-
تأیید اجباری برای اقدامات حساس: اقداماتی مانند خرید آنلاین یا اشتراکگذاری اطلاعات شخصی نیازمند تأیید کاربر هستند.
-
مسدودسازی سایتهای حساس: دسترسی به خدماتی مانند وبسایتهای مالی محدود شده است.
این اقدامات نرخ موفقیت حملات تزریق پرامپت را به ۱۱.۲ درصد کاهش داده، اما آنتروپیک همچنان معتقد است که این سطح برای عرضه عمومی کافی نیست و نیازمند بهبودهای بیشتری است.
رقابت در بازار هوش مصنوعی عاملی
رویکرد محتاطانه آنتروپیک در عرضه این افزونه، در تضاد با اقدامات جسورانهتر رقبایی مانند OpenAI و مایکروسافت قرار دارد. OpenAI پیشتر ایجنت خود به نام «اپراتور» را برای کاربران ChatGPT Pro عرضه کرده و مایکروسافت نیز قابلیتهای مشابهی را در پلتفرم Copilot Studio ادغام کرده است. با این حال، آنتروپیک با تمرکز بر ایمنی و دقت، به دنبال ایجاد تمایز در این بازار رقابتی است.
تحریریه ژاکت
مشاهده تیم تحریریه
