Keşfedilebilir bir teklif
Yapıcıların sunduğunuz modelleri ve politikaları anlamalarına yardımcı olun.
Çıkarım sağlayıcıları için
Çıkarım hizmetiniz.Daha fazla Builder ile bağlantılı.
Uygulamaların sağlayıcıları keşfettiği ve AI taleplerini yönlendirdiği ShareAI pazarında desteklenen modelleri ve çıkarım kapasitesini sunun.
Altyapınız. Ağdaki rolünüz.
Uygulamalar
Modeller ve sağlayıcılar
Çıkarım talepleri
ShareAIYönlendir · ölç · faturalandır
KATKINIZBağlantılı kullanım ve ödemeler
01
BağlanUygun altyapıyı getirin
02
YapılandırDesteklenen teklifleri seçin
03
Hizmet verinYönlendirilen çıkarıma katkıda bulunun
04
Takip edinSağlayıcı ödüllerinizi gözden geçirin
Çözülmeye değer kısım
Bir uç noktanın hâlâ dağıtılması gerekiyor.
Bir modeli sunmak bir görevdir. İhtiyaç duyan uygulamalara ulaşmak ve sürekli kullanımı yönetmek ise başka bir görevdir.
Daha net bir model
Modelleri seçen uygulamalarla buluşun.
Sağlayıcı çalışma alanını kullanarak teklifinizi yapılandırın ve desteklenen modellerin genel katalogda nasıl göründüğünü keşfedin.
Nerede uyuyor
Bağlantı kuran bir katkı.
Ortak bir entegrasyon yolu
Uygulamalar tarafından kullanılan aynı yönlendirme katmanına katılın.
Sağlayıcı ekonomisi
Kazancınız, Yapıcı kâr marjlarından farklı olarak uygun çıkarım kapasitesinden gelir.
GPU'nuzu çalıştırın
Kapasiteniz nasıl görünebilir?
GPU'nuzu seçin, oranlarınızı belirleyin ve tamamen dolu bir programın ne kadar değerli olabileceğini öğrenin.
RTX 3080 tabanlı tahminGPU başına saniyede yaklaşık 140 çıktı tokeni.
24 saate kadar
Model, hız ve iş yükü
Referans modeliLlama 2 7B · Q4_0
Kısa istekler: 512 giriş tokeni ve 128 çıkış tokeni. Her GPU aynı anda bir isteği işler.
Kendi karşılaştırmanız mı var? Her iki hızı da değiştirin. Başka bir GPU seçmek, referans değerlerini geri yükler.
100%, seçilen saatler boyunca isteklerin sürekli olarak geldiği anlamına gelir. Boşta geçen süreyi hesaba katmak için bunu düşürün.
Yayınlanan hızlar, Flash Attention kapalıyken topluluk tarafından yapılan llama.cpp testlerinden alınmıştır. RTX 3080 Ti ön ayarı, bir RTX 3080 referansı kullanır; bu bir tahmindir, ölçülmüş bir 3080 Ti sonucu değildir.
Giriş işleme ve çıktı oluşturma aynı zaman bütçesini paylaşır. Gerçek verimlilik ayrıca bağlam, yazılım ve istek yüküne de bağlıdır. Bir ay 30 gündür ve haftalık programınız tekrarlanır.
Karşılaştırma kaynaklarını görüntüle$54.2830 günlük ay başına
100% iş yükünde
Elektrik, ücretler ve vergiler öncesi brüt tahmin.
310.2M giriş tokeni$31.02
77.5M çıktı tokeni$23.26
Haftalık programınız40 GPU-saat
Planlanan kullanılabilirliğinizGünün geri kalanı
5 gün seçildi1 GPU × 8 saat × 5 gün
Bu, sentetik bir senaryodur, ödeme teklifi değildir. Gerçek hizmet ve ödüller uygunluk, talep ve program koşullarına bağlıdır. Exchange ve Mission kendi teşviklerine sahiptir.
Bir Builder, bir Provider'dan nasıl farklıdır?
Bir Builder, sahip olduğu bir uygulamadan gelen AI trafiğini gelir elde etmek için kullanır. Bir Provider, ağa hizmet etmek için uygun hesaplama gücü sağlar. Kazançları, farklı katkılardan gelir.
Nereden başlamalıyım?
Gereksinimleri gözden geçirmek ve teklifinizi yapılandırmak için Provider çalışma alanını açın. Modellerin ve sağlayıcı politikalarının nasıl sunulduğunu anlamak için genel kataloğu kullanın.
ShareAI uygulamamı mı oluşturur veya barındırır mı?
Uygulamanız ekibiniz tarafından geliştirilir ve barındırılır. ShareAI, ağ üzerinden yönlendirilen çıkarımlar için yönlendirme, kullanım ve ödeme katmanını sağlar.
Katkınızı bağlayın