ข้อเสนอที่สามารถค้นหาได้
ช่วยให้ Builders เข้าใจโมเดลและนโยบายที่คุณให้บริการ.
สำหรับผู้ให้บริการ inference
บริการ inference ของคุณ.เชื่อมต่อกับ Builder มากขึ้น.
ทำให้โมเดลที่รองรับและความสามารถในการ inference พร้อมใช้งานผ่านตลาดของ ShareAI ซึ่งแอปพลิเคชันสามารถค้นหา Provider และกำหนดเส้นทางคำขอ AI.
โครงสร้างพื้นฐานของคุณ บทบาทของคุณในเครือข่าย.
แอปพลิเคชัน
โมเดลและผู้ให้บริการ
คำขอการอนุมาน
แชร์เอไอกำหนดเส้นทาง · วัดผล · เรียกเก็บเงิน
การมีส่วนร่วมของคุณการใช้งานและการชำระเงินที่เชื่อมต่อ
01
เชื่อมต่อนำโครงสร้างพื้นฐานที่มีคุณสมบัติเหมาะสมมาใช้
02
กำหนดค่าเลือกข้อเสนอที่รองรับ
03
ให้บริการมีส่วนร่วมในกระบวนการอนุมานที่ถูกส่งต่อ
04
ติดตามตรวจสอบรางวัลของคุณในฐานะ Provider
ส่วนที่ควรค่าแก่การแก้ไข
จุดเชื่อมต่อยังคงต้องการการกระจาย.
การให้บริการโมเดลเป็นเพียงหนึ่งงาน การเข้าถึงแอปพลิเคชันที่ต้องการและการจัดการการใช้งานต่อเนื่องเป็นอีกงานหนึ่ง.
โมเดลที่ชัดเจนขึ้น
พบกับแอปพลิเคชันในที่ที่พวกเขาเลือกโมเดล.
ใช้พื้นที่ทำงานของ Provider เพื่อกำหนดค่าข้อเสนอของคุณและสำรวจว่าโมเดลที่รองรับปรากฏในแคตตาล็อกสาธารณะอย่างไร.
ที่ที่เหมาะสม
การมีส่วนร่วมที่เชื่อมโยง.
เส้นทางการรวมระบบที่เป็นมาตรฐาน
เข้าร่วมในเลเยอร์การส่งต่อเดียวกันที่แอปพลิเคชันใช้งาน.
เศรษฐศาสตร์ของ Provider
รายได้ของคุณมาจากความสามารถในการอนุมานที่มีคุณสมบัติเหมาะสม ซึ่งแยกจากกำไรของ Builder.
ใช้ GPU ของคุณให้เกิดประโยชน์
ความสามารถของคุณอาจมีลักษณะอย่างไร?
เลือก GPU ของคุณ ตั้งค่าราคา และดูว่าตารางงานที่เต็มสามารถสร้างรายได้เท่าไร.
การประมาณการที่ใช้ RTX 3080ประมาณ 140 โทเค็นผลลัพธ์ต่อวินาที ต่อ GPU.
สูงสุด 24
รุ่น, ความเร็ว & โหลดงาน
รุ่นอ้างอิงLlama 2 7B · Q4_0
คำขอสั้น: 512 โทเค็นอินพุต และ 128 โทเค็นผลลัพธ์. แต่ละ GPU จัดการคำขอทีละคำ.
มีการทดสอบของคุณเองหรือไม่? แทนที่ความเร็วทั้งสอง. การเลือก GPU อื่นจะคืนค่ามาตรฐานอ้างอิง.
100% หมายถึงคำขอมาถึงอย่างต่อเนื่องตลอดชั่วโมงที่คุณเลือก. ลดลงเพื่อคำนึงถึงเวลาว่าง.
ความเร็วที่เผยแพร่มาจากการทดสอบ llama.cpp ของชุมชน โดยปิด Flash Attention. การตั้งค่า RTX 3080 Ti ใช้การอ้างอิง RTX 3080; เป็นการประมาณการ ไม่ใช่ผลลัพธ์ที่วัดได้ของ 3080 Ti.
การประมวลผลอินพุตและการสร้างผลลัพธ์ใช้เวลาในงบประมาณเดียวกัน. ผลลัพธ์จริงยังขึ้นอยู่กับบริบท ซอฟต์แวร์ และค่าใช้จ่ายคำขอ. หนึ่งเดือนคือ 30 วัน โดยใช้ตารางงานรายสัปดาห์ของคุณซ้ำ.
ดูแหล่งที่มาของการทดสอบมาตรฐาน$54.28ต่อเดือน 30 วัน
ที่โหลดงาน 100%
การประมาณการรวม ก่อนหักค่าไฟฟ้า ค่าธรรมเนียม และภาษี.
310.2M โทเค็นอินพุต$31.02
77.5M โทเค็นผลลัพธ์$23.26
ตารางงานรายสัปดาห์ของคุณ40 GPU-ชั่วโมง
ความพร้อมใช้งานที่คุณวางแผนไว้ช่วงเวลาที่เหลือของวัน
เลือก 5 วัน1 GPU × 8 ชั่วโมง × 5 วัน
นี่เป็นสถานการณ์จำลอง ไม่ใช่ข้อเสนอการจ่ายเงิน. การให้บริการจริงและรางวัลขึ้นอยู่กับคุณสมบัติ ความต้องการ และเงื่อนไขของโปรแกรม. Exchange และ Mission มีแรงจูงใจของตัวเอง.
Builder แตกต่างจาก Provider อย่างไร?
Builder สร้างรายได้จากการจราจร AI ที่มาจากแอปพลิเคชันที่พวกเขาเป็นเจ้าของ ส่วน Provider สนับสนุนการประมวลผลที่มีคุณสมบัติเหมาะสมเพื่อให้บริการเครือข่าย รายได้ของพวกเขามาจากการสนับสนุนที่แตกต่างกัน.
ฉันควรเริ่มต้นที่ไหน?
เปิดพื้นที่ทำงานของ Provider เพื่อทบทวนข้อกำหนดและกำหนดค่าข้อเสนอของคุณ ใช้แคตตาล็อกสาธารณะเพื่อทำความเข้าใจว่าโมเดลและนโยบายของผู้ให้บริการถูกนำเสนออย่างไร.
ShareAI สร้างหรือโฮสต์แอปพลิเคชันของฉันหรือไม่?
แอปพลิเคชันของคุณถูกสร้างและโฮสต์โดยทีมของคุณ ShareAI จัดเตรียมการกำหนดเส้นทาง การใช้งาน และชั้นการชำระเงินสำหรับการอนุมานที่กำหนดเส้นทางผ่านเครือข่าย.
เชื่อมต่อการสนับสนุนของคุณ