Добавьте модель на устройство провайдера

Выберите подходящую модель#

Откройте каталог моделей из рабочего процесса Provider или приложения. Найдите нужную модель и ознакомьтесь с точным идентификатором, требованиями к оборудованию, разрешениями на использование и доступными коммерческими условиями. Узнаваемого имени модели недостаточно для определения её точного тега или варианта.

Проверьте емкость устройства#

Потребности в памяти GPU зависят от весов, точности или квантизации, длины контекста, накладных расходов на выполнение и параллельности. Используйте текущие требования модели и наблюдаемые ресурсы устройства. Не делайте выводов о гарантированной совместимости только на основе количества параметров.

Установите и включите#

1. Выберите точную модель и ознакомьтесь с условиями доступа или ценами.
2. Начните загрузку поддерживаемой модели или процесс подключения.
3. Дождитесь завершения установки или синхронизации и устраните ошибки перед включением общего доступа.
4. Включите модель для общего доступа на выбранном устройстве.
5. Подтвердите состояние модели и устройства в Консоли, затем следите за реальной активностью.

Когда модель не отображается#

Проверьте выбранное рабочее пространство, одобрение провайдера, разрешения каталога, доступность модели и завершение установки. Для автоматических проверок каталога используйте Конечные точки модели провайдера.

Когда модель не может загрузиться#

Прочитайте ошибку выполнения, сравните требуемые и доступные ресурсы и проверьте, потребляют ли другие рабочие нагрузки GPU. Устраните проблемы загрузки перед рекламой доступности. Изменение текста каталога не исправляет ошибку выполнения устройства.