Ajouter un modèle à un appareil fournisseur

Choisir un modèle éligible#

Ouvrez le catalogue de modèles depuis votre workflow ou application Provider. Recherchez le modèle souhaité et consultez son identifiant exact, ses exigences matérielles, ses autorisations de service et ses conditions commerciales disponibles. Un nom de modèle reconnaissable ne suffit pas pour identifier son étiquette ou sa variante exacte.

Vérifier la capacité de l'appareil#

Les besoins en mémoire GPU dépendent des poids, de la précision ou de la quantification, de la longueur du contexte, des frais généraux d'exécution et de la concurrence. Utilisez les exigences actuelles du modèle et les ressources observées de l'appareil. Ne déduisez pas une compatibilité garantie uniquement à partir du nombre de paramètres.

Installer et activer#

1. Sélectionnez le modèle exact et examinez les éventuelles conditions d'accès ou de tarification.
2. Lancez le téléchargement ou le flux de connexion du modèle pris en charge.
3. Attendez la fin de l'installation ou de la synchronisation et résolvez les erreurs avant d'activer le partage.
4. Activez le modèle pour le partage sur l'appareil prévu.
5. Confirmez l'état du modèle et de l'appareil dans la Console, puis surveillez l'activité réelle.

Lorsque qu'un modèle n'apparaît pas#

Vérifiez l'espace de travail sélectionné, l'approbation du fournisseur, les autorisations du catalogue, la disponibilité du modèle et si l'installation est terminée. Pour les vérifications automatiques du catalogue, utilisez Points de terminaison des modèles du fournisseur.

Lorsque qu'un modèle ne peut pas se charger#

Lisez l'erreur d'exécution, comparez les ressources requises et disponibles, et vérifiez si d'autres charges de travail consomment le GPU. Résolvez les problèmes de chargement avant de promouvoir la capacité. Modifier le texte du catalogue ne corrige pas une erreur d'exécution de l'appareil.