الزامات دستگاه

برنامه ShareAI به‌طور خودکار مدل‌های AI مناسب برای اشتراک‌گذاری را بر اساس VRAM GPU دستگاه شما توصیه می‌کند. برای کمک به حداکثرسازی مشارکت شما در عین اطمینان از عملکرد بهینه، ما از دو نوع الزامات استفاده می‌کنیم:

الزامات پیشنهادی#

• این‌ها نشان‌دهنده VRAM ایده‌آل موردنیاز برای اجرای کارآمد مدل‌ها هستند.
• اگر GPU شما VRAM پیشنهادی را برآورده کند, ، می‌توانید انتظار عملکرد خوب و سرعت پردازش بهینه وظایف را داشته باشید.
• اگر GPU شما زیر VRAM پیشنهادی باشد, ، همچنان می‌توانید مدل را نصب و اجرا کنید، اما عملکرد ممکن است به‌طور قابل‌توجهی کندتر باشد. دستگاه شما وظایف کمتری در هر ثانیه نسبت به شرایط بهینه پردازش خواهد کرد.

حداقل الزامات#

• این‌ها کمترین مقادیر VRAM هستند که GPU شما باید برای اجرای مدل‌های خاص برآورده کند.
• اگر GPU شما حداقل VRAM را برآورده نکند, ، نمی‌توانید مدل را نصب یا به اشتراک بگذارید. این امر اطمینان از قابلیت اطمینان شبکه و جلوگیری از استفاده ناکارآمد از منابع را تضمین می‌کند.

دسته‌بندی VRAM GPU#

بر اساس VRAM GPU شما، دستگاه شما در یکی از دسته‌های زیر قرار می‌گیرد:

محدوده VRAM (GB)	مدل‌های پیشنهادی
۴–۶ گیگابایت	۱B، ۳B
۸–۱۲ گیگابایت	7B (کوانتایز شده 4/8-بیتی)
16–24 گیگابایت	7B، 14B (کوانتایز شده 4-بیتی)
32–48 گیگابایت	14B، 20B (کوانتایز شده 4/8-بیتی)، 70B (4-بیتی)
48–96 گیگابایت (چند GPU)	70B (کوانتایز شده 8-بیتی)
96 گیگابایت+ (چند GPU)	70B (دقت 16-بیتی یا چند نمونه)

به عنوان مثال:

• RTX 3060 (12GB): توصیه می‌شود از مدل‌هایی با حدود 7–8B پارامتر (مانند DeepSeek-r1:8B) استفاده کنید. می‌توانید مدل‌هایی تا 13B نصب کنید اگر کاهش احتمالی عملکرد را بپذیرید.
• RTX 4080 (16GB): توصیه‌شده برای مدل‌های 7–14B (کوانتایز شده 4-بیتی).

هشدارها و اعلان‌ها#

هنگام افزودن مدل‌های جدید:

• اگر GPU شما الزامات توصیه‌شده را برآورده می‌کند:
  • هیچ هشدار یا محدودیتی وجود ندارد.
• اگر GPU شما زیر سطح توصیه‌شده اما بالاتر از حداقل است:
  • یک پیام هشدار غیرمسدودکننده ظاهر می‌شود که شما را از مشکلات احتمالی عملکرد مطلع می‌کند.
  • مثال هشدار: ⚠️ اطلاعیه عملکرد: VRAM GPU شما کمتر از مقدار توصیه‌شده است. این مدل ممکن است کندتر اجرا شود و تعداد کمتری از وظایف را در هر ثانیه پردازش کند.
• اگر GPU شما حداقل الزامات را برآورده نمی‌کند:
  • یک هشدار مسدودکننده از نصب جلوگیری می‌کند.
  • مثال هشدار: 🔴 VRAM ناکافی: VRAM GPU شما حداقل الزامات این مدل را برآورده نمی‌کند. لطفاً GPU خود را ارتقا دهید یا یک مدل کوچکتر انتخاب کنید. بیشتر بدانید.

موارد خاص#

• سربار K-Quant: سربار اضافی VRAM هنگام استفاده از مدل‌های کوانتایز شده با K-quants (K_S، K_M، K_L) در نظر گرفته می‌شود. ShareAI به‌طور خودکار محاسبه کرده و توصیه‌ها را بر این اساس تنظیم می‌کند.
• :latest مدل‌ها:
  • از آنجا که :latest مدل‌ها تعداد پارامترها را از پیش مشخص نمی‌کنند، ShareAI با استفاده از ollama show دستور قبل از اجازه اشتراک‌گذاری بررسی انجام می‌دهد.
  • اگر منابع شما پس از بررسی با حداقل مدل مطابقت نداشته باشد، مدل فعال نخواهد شد.

توصیه‌های نهایی#

• به‌طور منظم توصیه‌های GPU را در رابط ShareAI مرور کنید.
• درایورهای GPU خود را برای عملکرد بهینه به‌روز نگه دارید.
• ارتقای GPU را در نظر بگیرید اگر می‌خواهید به‌طور قابل‌توجهی به شبکه کمک کنید یا مدل‌های بزرگ‌تر را میزبانی کنید.

این کار هم کارایی مشارکت‌های شما و هم سلامت شبکه غیرمتمرکز AI ShareAI را تضمین می‌کند.