اجرای آفلاین مدل‌های هوش مصنوعی در موبایل با اپلیکیشن AI Edge Gallery

شرکت گوگل به‌تازگی و بدون جنجال رسانه‌ای، اپلیکیشنی با نام Google AI Edge Gallery منتشر کرده است که به کاربران امکان می‌دهد مدل‌های هوش مصنوعی را دانلود کرده و بدون نیاز به اتصال اینترنت، آن‌ها را اجرا کنند.

این اپلیکیشن که در حال حاضر برای سیستم‌عامل اندروید عرضه شده و قرار است به‌زودی برای iOS نیز در دسترس قرار گیرد، به کاربران اجازه می‌دهد مجموعه‌ای از مدل‌های هوش مصنوعی متن‌باز را از پلتفرم Hugging Face دانلود و به‌صورت آفلاین اجرا کنند. این مدل‌ها قابلیت‌های متنوعی از جمله تولید تصویر، پاسخ‌گویی به پرسش‌ها، نوشتن و ویرایش کد و بسیاری موارد دیگر را ارائه می‌دهند.

گوگل این اپلیکیشن را به‌عنوان یک نسخه آزمایشی آلفا معرفی کرده و آن را از طریق پلتفرم گیت‌هاب و با ارائه دستورالعمل‌های مشخص در اختیار کاربران قرار داده است. تمامی فرآیند اجرای مدل‌ها به‌صورت آفلاین انجام می‌شود و از توان پردازشی دستگاه‌های پشتیبانی‌شده بهره می‌گیرد.

در صفحه اصلی اپلیکیشن Google AI Edge Gallery، میان‌برهایی برای دسترسی به وظایف مختلف هوش مصنوعی مانند «پرسش از تصویر» یا «چت هوش مصنوعی» تعبیه شده است. کاربران با انتخاب هر یک از این قابلیت‌ها، به فهرستی از مدل‌های مناسب برای آن وظیفه، نظیر مدل Gemma 3n گوگل، دسترسی پیدا می‌کنند.

یکی از ویژگی‌های برجسته این اپلیکیشن، بخش Prompt Lab است که به کاربران امکان می‌دهد وظایف ساده‌ای مانند خلاصه‌سازی یا بازنویسی متن را تنها با وارد کردن یک ورودی انجام دهند. این بخش شامل قالب‌های متنوع و تنظیمات قابل‌ شخصی‌سازی است که دقت و کارایی مدل‌ها را بهبود می‌بخشد.

گوگل در عین حال هشدار داده است که عملکرد مدل‌ها به سخت‌افزار دستگاه بستگی دارد. گوشی‌های جدیدتر با پردازنده‌های قدرتمندتر قادرند مدل‌ها را با سرعت بیشتری اجرا کنند. همچنین، اندازه مدل‌ها نیز نقش مهمی در سرعت عملکرد دارد؛ به‌طوری‌که مدل‌های بزرگ‌تر برای انجام وظایفی مانند پاسخ به پرسش‌های مرتبط با تصاویر، به زمان بیشتری نیاز دارند.

این اپلیکیشن تحت مجوز Apache 2.0 منتشر شده و کاربران می‌توانند بدون هیچ محدودیتی از آن در کاربردهای تجاری یا غیرتجاری استفاده کنند. گوگل از توسعه‌دهندگان دعوت کرده است تا بازخوردهای خود را درباره تجربه کار با این اپلیکیشن ارائه دهند تا امکان بهبود و ارتقای آن در آینده فراهم شود.

نظرات کاربران درباره Google AI Edge Gallery

نقاط قوت:

• عملکرد قدرتمند: برخی کاربران گزارش داده‌اند که مدل‌های Gemma-3n عملکرد بسیار خوبی دارند و می‌توانند کارهای پیچیده مانند تولید محتوای بازی‌های نقش‌آفرینی را انجام دهند.

• حریم خصوصی: اکثر کاربران تأیید کرده‌اند که اپلیکیشن به‌صورت آفلاین کار می‌کند و داده‌ها را به سرور ارسال نمی‌کند (فقط برای بررسی به‌روزرسانی‌ها ارتباط برقرار می‌شود).

• تنوع مدل‌ها: پشتیبانی از مدل‌های مختلف از جمله Gemma-3n و قابلیت اجرای مدل‌های Hugging Face.

مشکلات گزارش‌شده:

• کرش کردن: بسیاری از کاربران (به‌ویژه روی Pixel 6 و 7) گزارش داده‌اند که اپلیکیشن هنگام استفاده از GPU یا ارسال پیام‌های طولانی کرش می‌کند.

• سرعت پردازش: سرعت پردازش روی دستگاه‌های مختلف متفاوت است و در برخی موارد کند گزارش شده است.

• مشکلات دانلود مدل: برخی کاربران در مرحله دانلود مدل از Hugging Face با مشکل مواجه شده‌اند.

• محدودیت‌های فنی: مدل‌های بزرگ (مثل 4B) روی دستگاه‌های متوسط به‌خوبی کار نمی‌کنند.

نکات قابل‌توجه:

• این اپلیکیشن فعلاً بیشتر برای توسعه‌دهندگان و کاربران حرفه‌ای مناسب است تا کاربران عادی.

• نسخه iOS هنوز منتشر نشده است.

• برخی کاربران اپلیکیشن‌های مشابه مانند ChatterUI و Layla را برای استفاده روزمره ترجیح می‌دهند.