Une offre visible
Aidez les Builders à comprendre les modèles et les politiques que vous proposez.
Pour les providers d'inférence
Votre service d'inférence.Connecté à plus de builders.
Mettez à disposition des modèles pris en charge et des capacités d'inférence via la marketplace ShareAI, où les applications découvrent les providers et routent les requêtes AI.
Votre infrastructure. Votre rôle dans le réseau.
Applications
Modèles et fournisseurs
Requêtes d'inférence
ShareAIRouter · mesurer · facturer
VOTRE CONTRIBUTIONUtilisation connectée et paiements
01
ConnecterApportez une infrastructure éligible
02
ConfigurerSélectionnez les offres prises en charge
03
ServirContribuez à l'inférence routée
04
SuivezConsultez vos récompenses de Fournisseur
La partie qui mérite d'être résolue
Un point de terminaison nécessite encore une distribution.
Servir un modèle est une tâche. Atteindre les applications qui en ont besoin et gérer l'utilisation continue en est une autre.
Un modèle plus clair
Rencontrez les applications là où elles choisissent les modèles.
Utilisez l'espace de travail Fournisseur pour configurer votre offre et explorer comment les modèles pris en charge apparaissent dans le catalogue public.
Où cela s'intègre
Une contribution qui connecte.
Un chemin d'intégration commun
Participez à la même couche de routage utilisée par les applications.
Économie des Fournisseurs
Vos revenus proviennent de la capacité d'inférence éligible, distincte des marges des Builders.
Mettez votre GPU au travail
À quoi pourrait ressembler votre capacité ?
Choisissez votre GPU, définissez vos tarifs et découvrez ce qu'une planification complète pourrait rapporter.
Estimation basée sur RTX 3080Environ 140 jetons de sortie par seconde, par GPU.
Jusqu'à 24
Modèle, vitesse et charge de travail
Modèle de référenceLlama 2 7B · Q4_0
Requêtes courtes : 512 jetons d'entrée et 128 jetons de sortie. Chaque GPU traite une requête à la fois.
Vous avez votre propre benchmark ? Remplacez les deux vitesses. Sélectionner un autre GPU rétablit ses valeurs de référence.
100% signifie que les requêtes arrivent en continu pendant les heures sélectionnées. Réduisez-le pour tenir compte des périodes d'inactivité.
Les vitesses publiées proviennent des tests communautaires llama.cpp avec Flash Attention désactivé. Le préréglage RTX 3080 Ti utilise une référence RTX 3080 ; il s'agit d'une approximation, pas d'un résultat mesuré pour une 3080 Ti.
Le traitement des entrées et la génération des sorties partagent le même budget temporel. Le débit réel dépend également du contexte, des logiciels et des frais de requête. Un mois compte 30 jours, avec votre planning hebdomadaire répété.
Voir les sources des benchmarks$54.28par mois de 30 jours
Avec une charge de travail de 100%
Estimation brute, avant électricité, frais et taxes.
310,2M jetons d'entrée$31.02
77,5M jetons de sortie$23.26
Votre planning hebdomadaire40 Heures-GPU
Votre disponibilité prévueLe reste de la journée
5 jours sélectionnés1 GPU × 8 heures × 5 jours
Ceci est un scénario synthétique, pas une offre de paiement. Le service réel et les récompenses dépendent de l'éligibilité, de la demande et des conditions du programme. Exchange et Mission ont leurs propres incitations.
En quoi un Builder est-il différent d'un Provider ?
Un Builder monétise le trafic IA d'une application qu'il possède. Un Provider contribue avec des ressources de calcul éligibles pour servir le réseau. Leurs revenus proviennent de contributions différentes.
Par où commencer ?
Ouvrez l'espace de travail Provider pour examiner les exigences et configurer votre offre. Utilisez le catalogue public pour comprendre comment les modèles et les politiques des fournisseurs sont présentés.
ShareAI construit-il ou héberge-t-il mon application ?
Votre application est développée et hébergée par votre équipe. ShareAI fournit la couche de routage, d'utilisation et de paiement pour l'inférence acheminée via le réseau.
Connectez votre contribution