Một dịch vụ có thể được tìm thấy
Giúp các Builder hiểu các mô hình và chính sách bạn cung cấp.
Dành cho các nhà cung cấp inference
Dịch vụ inference của bạn.Kết nối với nhiều builders hơn.
Làm cho các mô hình được hỗ trợ và năng lực inference có sẵn thông qua thị trường ShareAI, nơi các ứng dụng tìm kiếm nhà cung cấp và định tuyến yêu cầu AI.
Cơ sở hạ tầng của bạn. Vai trò của bạn trong mạng lưới.
Ứng dụng
Mô hình & nhà cung cấp
Yêu cầu suy luận
Chia sẻAIĐịnh tuyến · đo lường · tính phí
ĐÓNG GÓP CỦA BẠNSử dụng & thanh toán được kết nối
01
Kết nốiMang cơ sở hạ tầng đủ điều kiện
02
Cấu hìnhChọn các dịch vụ được hỗ trợ
03
Phục vụĐóng góp vào suy luận được định tuyến
04
Theo dõiXem lại phần thưởng của Nhà cung cấp
Phần đáng để giải quyết
Một điểm cuối vẫn cần được phân phối.
Phục vụ một mô hình là một nhiệm vụ. Đáp ứng các ứng dụng cần nó và quản lý việc sử dụng liên tục là một nhiệm vụ khác.
Một mô hình rõ ràng hơn
Đáp ứng ứng dụng tại nơi họ chọn mô hình.
Sử dụng không gian làm việc của Nhà cung cấp để cấu hình dịch vụ của bạn và khám phá cách các mô hình được hỗ trợ xuất hiện trong danh mục công khai.
Nơi nó phù hợp
Một đóng góp kết nối.
Một đường tích hợp chung
Tham gia vào cùng lớp định tuyến được sử dụng bởi các ứng dụng.
Kinh tế của Nhà cung cấp
Thu nhập của bạn đến từ khả năng suy luận đủ điều kiện, khác biệt với lợi nhuận của Builder.
Đưa GPU của bạn vào hoạt động
Khả năng của bạn có thể trông như thế nào?
Chọn GPU của bạn, đặt mức giá và tìm hiểu giá trị của một lịch trình đầy đủ.
Ước tính dựa trên RTX 3080Khoảng 140 token đầu ra mỗi giây, mỗi GPU.
Tối đa 24
Mô hình, tốc độ & tải công việc
Mô hình tham chiếuLlama 2 7B · Q4_0
Yêu cầu ngắn: 512 token đầu vào và 128 token đầu ra. Mỗi GPU xử lý một yêu cầu tại một thời điểm.
Có tiêu chuẩn riêng? Thay thế cả hai tốc độ. Chọn GPU khác sẽ khôi phục giá trị tham chiếu của nó.
100% nghĩa là yêu cầu đến liên tục trong suốt giờ bạn chọn. Giảm nó để tính thời gian nhàn rỗi.
Tốc độ được công bố đến từ các thử nghiệm cộng đồng llama.cpp với Flash Attention tắt. Cài đặt trước RTX 3080 Ti sử dụng tham chiếu RTX 3080; đây là một ước tính, không phải kết quả đo của RTX 3080 Ti.
Xử lý đầu vào và tạo đầu ra chia sẻ cùng một ngân sách thời gian. Thông lượng thực tế cũng phụ thuộc vào ngữ cảnh, phần mềm và chi phí yêu cầu. Một tháng là 30 ngày, với lịch trình hàng tuần của bạn được lặp lại.
Xem nguồn tiêu chuẩn$54.28mỗi tháng 30 ngày
Với tải công việc 100%
Ước tính tổng, trước chi phí điện, phí và thuế.
310.2M token đầu vào$31.02
77.5M token đầu ra$23.26
Lịch trình hàng tuần của bạn40 Giờ GPU
Kế hoạch khả dụng của bạnPhần còn lại của ngày
Đã chọn 5 ngày1 GPU × 8 giờ × 5 ngày
Đây là một kịch bản tổng hợp, không phải là đề nghị thanh toán. Việc phục vụ thực tế và Phần thưởng phụ thuộc vào điều kiện tham gia, nhu cầu và điều khoản chương trình. Exchange và Mission có các ưu đãi riêng.
Trước khi bạn kết nối.
Câu trả lời rõ ràng.
Một bước tiếp theo hữu ích.
Nói chuyện với đội ngũ của chúng tôi.Builder khác với Provider như thế nào?
Một Builder kiếm tiền từ lưu lượng AI của ứng dụng mà họ sở hữu. Một Provider đóng góp năng lực tính toán đủ điều kiện để phục vụ mạng lưới. Thu nhập của họ đến từ các đóng góp khác nhau.
Tôi nên bắt đầu từ đâu?
Mở không gian làm việc của Provider để xem xét các yêu cầu và cấu hình dịch vụ của bạn. Sử dụng danh mục công khai để hiểu cách các mô hình và chính sách của Provider được trình bày.
ShareAI có xây dựng hoặc lưu trữ ứng dụng của tôi không?
Ứng dụng của bạn được xây dựng và lưu trữ bởi nhóm của bạn. ShareAI cung cấp lớp định tuyến, sử dụng và thanh toán cho inference được định tuyến qua mạng lưới.
Kết nối đóng góp của bạn