発見可能なオファリング
ビルダーが提供するモデルとポリシーを理解する手助けをする。
推論プロバイダー向け
あなたの推論サービス。より多くのBuilderに接続。
サポートされているモデルと推論能力をShareAIマーケットプレイスを通じて利用可能にし、アプリケーションがプロバイダーを発見しAIリクエストをルーティングできるようにします。
あなたのインフラ。ネットワーク内でのあなたの役割。
アプリケーション
モデルとプロバイダー
推論リクエスト
シェアAIルート · メーター · 請求
あなたの貢献接続された使用状況と支払い
01
接続対象インフラを提供
02
設定対応するオファリングを選択
03
提供するルーティングされた推論に貢献する
04
8. 残高と使用量を追跡するプロバイダー報酬を確認する
解決する価値のある部分
エンドポイントはまだ配信が必要です。
モデルを提供することは1つのタスクです。それを必要とするアプリケーションに到達し、継続的な使用状況を管理することは別のタスクです。
より明確なモデル
モデルを選択するアプリケーションに対応する。
プロバイダーのワークスペースを使用してオファリングを設定し、サポートされているモデルが公開カタログにどのように表示されるかを確認してください。
適合する場所
接続を生む貢献。
共通の統合パス
アプリケーションで使用される同じルーティング層に参加する。
プロバイダーの経済性
あなたの収益は対象推論能力から得られ、ビルダーの利益とは異なります。
GPUを活用しましょう
あなたのキャパシティはどのように見えるでしょうか？
GPUを選択し、料金を設定して、フルブックのスケジュールがどれほどの価値になるか確認してください。
RTX 3080ベースの推定値GPUごとに毎秒約140出力トークン。
最大24時間
モデル、速度 & ジョブ負荷
参照モデルLlama 2 7B · Q4_0
短いリクエスト: 512入力トークンと128出力トークン。各GPUは一度に1つのリクエストを処理します。
独自のベンチマークがありますか？両方の速度を置き換えてください。別のGPUを選択すると、その参照値が復元されます。
100%は、選択した時間内にリクエストが継続的に到着することを意味します。アイドル時間を考慮して値を下げてください。
公開された速度は、コミュニティのllama.cppテストから得られたもので、Flash Attentionはオフになっています。RTX 3080 TiプリセットはRTX 3080を参照しており、測定された3080 Tiの結果ではなく概算値です。
入力処理と出力生成は同じ時間予算を共有します。実際のスループットは、コンテキスト、ソフトウェア、リクエストのオーバーヘッドにも依存します。1か月は30日間で、週ごとのスケジュールが繰り返されます。
ベンチマークソースを見る$54.2830日間の月間あたり
100%ジョブ負荷時
電気代、手数料、税金を差し引く前の総見積もり。
310.2M入力トークン$31.02
77.5M出力トークン$23.26
あなたの週ごとのスケジュール40 GPU時間
あなたの計画された稼働可能時間残りの時間
5日間選択済み1 GPU × 8時間 × 5日間
これは合成シナリオであり、支払いオファーではありません。実際の提供と報酬は、資格、需要、プログラム条件に依存します。ExchangeとMissionには独自のインセンティブがあります。
BuilderはProviderとどう違いますか？
Builderは自分が所有するアプリケーションからのAIトラフィックを収益化します。Providerはネットワークに対応可能なコンピュートリソースを提供します。それぞれの収益は異なる貢献から得られます。
どこから始めればいいですか？
Providerワークスペースを開いて要件を確認し、提供内容を設定してください。公開カタログを使用して、モデルやプロバイダーポリシーがどのように提示されるかを理解してください。
ShareAIは私のアプリケーションを構築またはホストしますか？
あなたのアプリケーションはあなたのチームによって構築され、ホストされます。ShareAIはネットワークを通じてルーティング、使用量、支払いレイヤーを提供します。
あなたの貢献を接続してください