검색 가능한 제공 항목
제공하는 모델과 정책을 빌더가 이해할 수 있도록 돕습니다.
추론 공급자를 위해
귀하의 추론 서비스.더 많은 Builders와 연결됩니다.
지원되는 모델과 추론 용량을 ShareAI 마켓플레이스를 통해 제공하세요. 여기서 애플리케이션은 공급자를 발견하고 AI 요청을 라우팅합니다.
귀하의 인프라. 네트워크에서의 귀하의 역할.
애플리케이션
모델 및 제공자
추론 요청
공유AI라우팅 · 측정 · 청구
귀하의 기여연결된 사용 및 결제
01
연결적합한 인프라 제공
02
구성지원되는 제공 항목 선택
03
제공라우팅된 추론에 기여
04
추적제공자 보상을 검토하세요
해결할 가치가 있는 부분
엔드포인트는 아직 배포가 필요합니다.
모델을 제공하는 것은 하나의 작업입니다. 필요한 애플리케이션에 도달하고 지속적인 사용을 관리하는 것은 또 다른 작업입니다.
더 명확한 모델
애플리케이션이 모델을 선택하는 곳에서 만나세요.
제공자 작업 공간을 사용하여 제공 항목을 구성하고 지원되는 모델이 공개 카탈로그에 어떻게 표시되는지 탐색하세요.
적합한 위치
연결을 만드는 기여.
공통 통합 경로
애플리케이션에서 사용하는 동일한 라우팅 레이어에 참여하세요.
제공자 경제학
귀하의 수익은 빌더 마진과는 별도로 적합한 추론 용량에서 발생합니다.
GPU를 활용하세요
귀하의 용량은 어떤 모습일 수 있을까요?
GPU를 선택하고 요금을 설정한 후 예약이 가득 찬 일정의 가치를 확인하세요.
RTX 3080 기반 추정치GPU당 초당 약 140 출력 토큰.
최대 24시간
모델, 속도 및 작업 부하
참조 모델Llama 2 7B · Q4_0
짧은 요청: 512 입력 토큰 및 128 출력 토큰. 각 GPU는 한 번에 하나의 요청을 처리합니다.
자체 벤치마크가 있나요? 두 속도를 교체하세요. 다른 GPU를 선택하면 참조 값이 복원됩니다.
100%은 선택한 시간 동안 요청이 지속적으로 도착함을 의미합니다. 유휴 시간을 고려하여 낮추세요.
게시된 속도는 Flash Attention이 꺼진 커뮤니티 llama.cpp 테스트에서 나온 것입니다. RTX 3080 Ti 프리셋은 RTX 3080 참조를 사용하며, 측정된 3080 Ti 결과가 아닌 근사치입니다.
입력 처리와 출력 생성은 동일한 시간 예산을 공유합니다. 실제 처리량은 컨텍스트, 소프트웨어 및 요청 오버헤드에 따라 달라집니다. 한 달은 30일이며, 주간 일정이 반복됩니다.
벤치마크 출처 보기$54.2830일 기준
100% 작업 부하에서
전기, 수수료 및 세금 제외 총 추정치.
310.2M 입력 토큰$31.02
77.5M 출력 토큰$23.26
주간 일정40 GPU-시간
계획된 가용 시간오늘 남은 시간
5일 선택됨1 GPU × 8시간 × 5일
이는 가상의 시나리오이며, 지급 제안이 아닙니다. 실제 서비스 및 보상은 자격, 수요 및 프로그램 조건에 따라 달라집니다. Exchange와 Mission은 자체 인센티브를 제공합니다.
Builder는 Provider와 어떻게 다릅니까?
Builder는 자신이 소유한 애플리케이션에서 발생하는 AI 트래픽을 수익화합니다. Provider는 네트워크에 서비스를 제공하기 위해 적합한 컴퓨팅 자원을 기여합니다. 그들의 수익은 서로 다른 기여에서 발생합니다.
어디서 시작해야 하나요?
Provider 작업 공간을 열어 요구 사항을 검토하고 제공할 내용을 구성하세요. 모델과 제공자 정책이 어떻게 표시되는지 이해하려면 공개 카탈로그를 사용하세요.
ShareAI가 내 애플리케이션을 구축하거나 호스팅하나요?
애플리케이션은 귀하의 팀이 개발하고 호스팅합니다. ShareAI는 네트워크를 통해 라우팅된 추론의 사용 및 결제 계층을 제공합니다.
귀하의 기여를 연결하세요.