あなたのインフラ
あなたが運営するコンピュートをProvider設定に持ち込む。
GPU所有者および推論プロバイダー向け
対象コンピュートをShareAIネットワークで利用可能にする。ルーティングされた推論を提供し、貢献によって生成されたProvider報酬を追跡。
接続対象インフラを提供
設定対応するオファリングを選択
提供するルーティングされた推論に貢献する
8. 残高と使用量を追跡するプロバイダー報酬を確認する
解決する価値のある部分
インフラを所有するだけでは不十分。利用可能にし、リクエストを処理し、その貢献を理解することも重要。
より明確なモデル
Provider要件を探索し、対応する容量を接続し、コンソールで参加を管理。
適合する場所
あなたが運営するコンピュートをProvider設定に持ち込む。
ShareAIネットワークを通じて対象ワークロードを提供。
Providerワークスペースで使用状況と報酬を追跡。
GPUを活用しましょう
GPUを選択し、料金を設定して、フルブックのスケジュールがどれほどの価値になるか確認してください。
参照モデルLlama 2 7B · Q4_0
短いリクエスト: 512入力トークンと128出力トークン。各GPUは一度に1つのリクエストを処理します。
独自のベンチマークがありますか?両方の速度を置き換えてください。別のGPUを選択すると、その参照値が復元されます。
100%は、選択した時間内にリクエストが継続的に到着することを意味します。アイドル時間を考慮して値を下げてください。
公開された速度は、コミュニティのllama.cppテストから得られたもので、Flash Attentionはオフになっています。RTX 3080 TiプリセットはRTX 3080を参照しており、測定された3080 Tiの結果ではなく概算値です。
入力処理と出力生成は同じ時間予算を共有します。実際のスループットは、コンテキスト、ソフトウェア、リクエストのオーバーヘッドにも依存します。1か月は30日間で、週ごとのスケジュールが繰り返されます。
ベンチマークソースを見る100%ジョブ負荷時
電気代、手数料、税金を差し引く前の総見積もり。
これは合成シナリオであり、支払いオファーではありません。実際の提供と報酬は、資格、需要、プログラム条件に依存します。ExchangeとMissionには独自のインセンティブがあります。
Builderは自分が所有するアプリケーションからのAIトラフィックを収益化します。Providerはネットワークに対応可能なコンピュートリソースを提供します。それぞれの収益は異なる貢献から得られます。
Providerワークスペースを開いて要件を確認し、提供内容を設定してください。公開カタログを使用して、モデルやプロバイダーポリシーがどのように提示されるかを理解してください。
あなたのアプリケーションはあなたのチームによって構築され、ホストされます。ShareAIはネットワークを通じてルーティング、使用量、支払いレイヤーを提供します。
あなたの貢献を接続してください