AI Prosumer
RU

Для провайдеров инференции

Ваша услуга инференции.Подключено к большему числу разработчиков.

Сделайте поддерживаемые модели и мощности инференции доступными через маркетплейс ShareAI, где приложения находят провайдеров и маршрутизируют запросы AI.

Ваша инфраструктура. Ваша роль в сети.
Сеть AIВыберите свою роль
Приложения
Модели и провайдеры
Запросы на инференс
ShareAIМаршрутизация · измерение · выставление счетов
ВАШ ВКЛАДПодключенное использование и платежи
01

ПодключитьПредоставьте подходящую инфраструктуру

02

НастроитьВыберите поддерживаемые предложения

03

ОбслуживатьВносите вклад в маршрутизируемый инференс

04

ОтслеживайтеПроверьте свои вознаграждения как Провайдер

Часть, которую стоит решить

Конечная точка все еще нуждается в распространении.

Обслуживание модели — это одна задача. Достижение приложений, которым она нужна, и управление текущим использованием — это другая.

Более понятная модель

Встречайте приложения там, где они выбирают модели.

Используйте рабочую область Провайдера, чтобы настроить свое предложение и изучить, как поддерживаемые модели отображаются в публичном каталоге.

Где это подходит

Вклад, который соединяет.

01

Обнаруживаемое предложение

Помогите разработчикам понять модели и политики, которые вы предоставляете.

02

Общий путь интеграции

Участвуйте в том же маршрутизирующем слое, который используют приложения.

03

Экономика Провайдера

Ваш доход зависит от доступной мощности для инференса, отличной от маржи Разработчиков.

Задействуйте ваш GPU

Как может выглядеть ваша мощность?

Выберите ваш GPU, установите свои ставки и узнайте, сколько может стоить полностью загруженный график.

Оценка на основе RTX 3080Около 140 выходных токенов в секунду на GPU.
8 часовДо 24
Дни, в которые вы могли бы внести вклад
Ваши ставки за 1M токенов USD

Примерные ставки. Введите цены, которые платят за ваши вычисления.

Модель, скорость и загрузка

Референсная модельLlama 2 7B · Q4_0

Короткие запросы: 512 входных токенов и 128 выходных токенов. Каждый GPU обрабатывает один запрос за раз.

Есть собственный бенчмарк? Замените обе скорости. Выбор другого GPU восстановит его референсные значения.

100% означает, что запросы поступают непрерывно в течение выбранных вами часов. Уменьшите значение, чтобы учесть время простоя.

Опубликованные скорости основаны на тестах сообщества llama.cpp с отключенной Flash Attention. Пресет RTX 3080 Ti использует референс RTX 3080; это приближение, а не измеренный результат для 3080 Ti.

Обработка входных данных и генерация выходных данных используют один и тот же временной бюджет. Реальная пропускная способность также зависит от контекста, программного обеспечения и накладных расходов на запросы. Месяц составляет 30 дней, с повторением вашего недельного графика.

Просмотреть источники бенчмарков
Потенциальный доход от вычисленийUSDLlama 2 7B · Q4_0
$54.28за 30-дневный месяц

При загрузке 100%

Валовая оценка, до учета затрат на электричество, сборов и налогов.

310.2M входных токенов$31.02
77.5M выходных токенов$23.26
Ваш недельный график40 GPU-часы
Ваша планируемая доступностьОстальная часть дня
Выбрано 5 дней1 GPU × 8 часов × 5 дней

Это синтетический сценарий, а не предложение о выплатах. Фактическое обслуживание и вознаграждения зависят от соответствия требованиям, спроса и условий программы. Exchange и Mission имеют свои собственные стимулы.

Прежде чем подключиться

Четкие ответы.
Полезный следующий шаг.

Свяжитесь с нашей командой.
Чем Builder отличается от Provider?

Builder монетизирует трафик ИИ из приложения, которым он владеет. Provider предоставляет подходящие вычислительные ресурсы для обслуживания сети. Их доходы зависят от разных вкладов.

С чего начать?

Откройте рабочую область Provider, чтобы ознакомиться с требованиями и настроить свое предложение. Используйте публичный каталог, чтобы понять, как представлены модели и политики провайдеров.

Создает или размещает ли ShareAI мое приложение?

Ваше приложение разработано и размещено вашей командой. ShareAI предоставляет маршрутизацию, использование и платежный слой для инференса, проходящего через сеть.

Подключите свой вклад

Привнесите свои мощности.
Исследуйте сеть.

Открыть ProviderИзучить документацию.