ShareAI

AI Prosumer

FR

Modèles Pour les Fournisseurs Pour les Développeurs Pour les Créateurs AI Prosumer Documentation

Sujet du blog

Routage du cache KV

Une collection soigneusement sélectionnée d'histoires ShareAI autour de ce sujet.

Derniers

Développeurs 1er sept. 2026 7 min de lecture

Routage du cache KV : Réduire le travail redondant de pré-remplissage des LLM

Le routage du cache KV envoie des préfixes de requêtes répétés aux réplicas pouvant réutiliser l'état d'attention mis en cache, aidant les équipes à réduire le travail redondant de pré-remplissage des LLM.

Écrit parDenis Sandu

Lire l'article

Du réseau

Dernières histoires

Des idées à emporter pour votre prochaine création.

Thème de couleur : {theme}ClairSombreSystèmeArticles correspondants : {count}Copié {identifier}Supprimer le filtre {label}Sans serveurAccéderFournisseursEntraînementRétentionSiège socialCluster GPU / DatacenterPolitiquesAccéder · RecommandéCréditsUtilisez des crédits ShareAI pour soutenir les propriétaires de GPU en échange de la puissance de calcul qu'ils n'utilisent pas.Vos crédits récompensent les personnes et les entreprises qui partagent leur puissance de calcul inutilisée. Nous recommandons cette option pour favoriser une utilisation plus durable du matériel existant.ShareAI combine des mesures de protection techniques avec des accords fournisseurs pour aider à protéger vos données.Échange de tokensLes fournisseurs ShareAI peuvent effectuer des inférences pour d'autres et gagner des jetons d'entrée et de sortie pour le travail qu'ils fournissent. Ils peuvent ensuite utiliser ces jetons pour leurs propres inférences lorsqu'ils en ont besoin.Comme les prosommateurs d'énergie qui produisent et consomment de l'électricité, vous pouvez devenir un AI Prosumer : contribuez avec votre puissance de calcul inutilisée et utilisez le réseau lorsque vous en avez besoin.Fait amusantEn mars 2025, ShareAI est devenue la première plateforme mondiale pour les AI Prosumers. Compensez votre propre utilisation d'IA grâce à l'échange de jetons ou gagnez des paiements en fin de mois grâce à vos contributions rémunérées.CommunautéLes fournisseurs communautaires sont des particuliers qui partagent leur puissance de calcul en échange de crédits ou de jetons via l'échange de jetons.Ils mettent à profit une puissance de calcul autrement inutilisée pour d'autres utilisateurs du réseau ShareAI.ShareAI prend des mesures pour protéger vos données, et chaque fournisseur, qu'il soit Communautaire ou Entreprise, signe un accord. Pour les charges de travail sensibles, nous recommandons les fournisseurs Entreprise.EntrepriseChaque fournisseur Entreprise signe un accord rigoureux. Les mesures de protection de ShareAI vont au-delà du code pour inclure la responsabilité et la réputation de l'entreprise.Nous examinons le siège social de l'entreprise, ses fondateurs et sa structure de propriété pour comprendre les véritables bénéficiaires finaux qui se cachent derrière.Région et vos données personnellesLes règles relatives aux données personnelles diffèrent selon les pays et les régions. Un fournisseur peut rester soumis aux lois du pays où il est établi, même si ses centres de données se trouvent ailleurs.Héberger des données dans une autre région ne supprime pas automatiquement ces obligations. Les règles en vigueur dans la région où les données sont traitées, ainsi que les protections qui s'appliquent à vous, peuvent également être importantes.Vérifiez l'entité juridique du fournisseur, les lieux de traitement et la politique de confidentialité avant de partager des données personnelles.Fermer les informations sur la régionFermer l'explicationRecherche en cours…Explorer la documentationAucun article trouvé. Essayez une autre recherche ou consultez la base de connaissances.La recherche est indisponible. Veuillez réessayer.Copié !Page copiée.Échec de la copieÉchec de la copie. Sélectionnez manuellement le texte de la page pour le copier.Copier la pageLien de la page copié.Impossible de copier le lien. Copiez-le depuis la barre d'adresse.Préparation du Markdown…Impossible de copier. Réessayez ou ouvrez Afficher en Markdown.Copier l’identifiantCopiéCopier l'identifiant du modèleCopier depuis le fournisseurCopier le préfixeÉchec de la copie. Sélectionnez le préfixe pour le copier manuellement.Identifiant du modèle copiéCopié {prefix}. Ajoutez l'identifiant du modèle après le slash.Impossible de copier. Sélectionnez cet identifiant : {identifier}La vérification n'a pas pu se charger. Veuillez réessayer ou ouvrir un ticket depuis votre compte ShareAI.La vérification n'a pas pu se charger. Veuillez réessayer.Veuillez compléter la vérification avant d'envoyer votre message.Votre message a été envoyé. Merci — l'équipe ShareAI vous répondra par e-mail.Nous n'avons pas pu confirmer la livraison. Veuillez vérifier votre connexion avant de réessayer.Envoi en cours…Nous n'avons pas pu envoyer votre message. Veuillez réessayer.Veuillez envoyer ce formulaire depuis ShareAI.Votre message est trop long. Veuillez le limiter à moins de 10 000 caractères.Veuillez entrer une adresse e-mail valide.Entrez une adresse e-mail valide.Veuillez saisir un message de jusqu'à 10 000 caractères.Veuillez raccourcir votre nom ou sujet.Veuillez compléter la vérification.Complétez la vérification.Veuillez vérifier ce champ.Échec de la vérification. Veuillez réessayer.Veuillez vérifier vos informations et réessayer.Nous n'avons pas pu confirmer la livraison. Veuillez réessayer plus tard ou ouvrir un ticket de support.{date} : {uptime}. En ligne {online}, hors ligne {offline}, non observé {unknown}.Aucune observationTemps de disponibilité observé {percent}Temps de disponibilité {percent}Temps de disponibilité quotidien observé et couverture d'enregistrement pour {days} jours. Les observations manquantes sont des lacunes, pas une disponibilité nulle. Utilisez les touches fléchées ou les contrôles de détails quotidiens pour explorer.Couverture d'enregistrementEn ligneHors ligneNon observéTemps de disponibilité observé{percent} de cette période couvertDu temps enregistréEn attente d'observationsDéconnecté pendant les vérificationsAucun historique disponible pour le momentLes {days} derniers joursL'historique est en cours de constructionAucune observation pendant cette période{date} est le premier jour enregistré dans cette vue.Les vérifications enregistrées apparaîtront ici à leur arrivée.Affichage des {days} derniers jours. {details}En ligne observéHors ligne observéFermer la navigationOuvrir la navigationUtilisez le formulaire pour envoyer votre message.Formulaire introuvable.Données de formulaire non prises en charge.Données de formulaire invalides.

Travail personnalisé

Applications

Open Source

Routage du cache KV

Routage du cache KV : Réduire le travail redondant de pré-remplissage des LLM

Dernières histoires