আপনার অবকাঠামো
আপনি যে কম্পিউট পরিচালনা করেন তা Provider সেটআপে নিয়ে আসুন।
GPU মালিক এবং ইনফারেন্স প্রদানকারীদের জন্য
ShareAI নেটওয়ার্কে যোগ্য কম্পিউট উপলব্ধ করুন। রাউটেড ইনফারেন্স সার্ভ করুন এবং আপনার অবদানের মাধ্যমে উৎপন্ন Provider পুরস্কার ট্র্যাক করুন।
সংযোগ করুনযোগ্য অবকাঠামো আনুন
কনফিগার করুনসমর্থিত অফার নির্বাচন করুন
পরিবেশন করুনরাউটেড ইনফারেন্সে অবদান রাখুন
ট্র্যাকআপনার প্রদানকারীর পুরস্কার পর্যালোচনা করুন
সমাধানের যোগ্য অংশ
অবকাঠামোর মালিকানা শুধুমাত্র কাজের একটি অংশ। এটিকে উপলব্ধ করা, অনুরোধ সার্ভ করা এবং এর অবদানের গুরুত্ব বোঝা সমান গুরুত্বপূর্ণ।
একটি স্পষ্টতর মডেল
Provider প্রয়োজনীয়তা অন্বেষণ করুন, সমর্থিত ক্ষমতা সংযুক্ত করুন এবং Console-এর মাধ্যমে আপনার অংশগ্রহণ পরিচালনা করুন।
যেখানে এটি ফিট করে
আপনি যে কম্পিউট পরিচালনা করেন তা Provider সেটআপে নিয়ে আসুন।
ShareAI নেটওয়ার্কের মাধ্যমে যোগ্য ওয়ার্কলোড সার্ভ করুন।
আপনার Provider ওয়ার্কস্পেসে ব্যবহার এবং পুরস্কার ট্র্যাক করুন।
আপনার GPU কাজে লাগান
আপনার GPU নির্বাচন করুন, আপনার রেট সেট করুন এবং একটি পূর্ণ বুকিং শিডিউল কতটা মূল্যবান হতে পারে তা জানুন।
রেফারেন্স মডেলLlama 2 7B · Q4_0
সংক্ষিপ্ত অনুরোধ: ৫১২ ইনপুট টোকেন এবং ১২৮ আউটপুট টোকেন। প্রতিটি GPU একবারে একটি অনুরোধ পরিচালনা করে।
আপনার নিজস্ব বেঞ্চমার্ক আছে? উভয় গতি প্রতিস্থাপন করুন। অন্য GPU নির্বাচন করলে এর রেফারেন্স মান পুনরুদ্ধার হবে।
100% মানে আপনার নির্বাচিত সময়ের মধ্যে অনুরোধগুলি ক্রমাগত আসে। অলস সময়ের হিসাব করতে এটি কমিয়ে দিন।
প্রকাশিত গতি কমিউনিটি llama.cpp পরীক্ষার মাধ্যমে আসে যেখানে Flash Attention বন্ধ থাকে। RTX 3080 Ti প্রিসেট একটি RTX 3080 রেফারেন্স ব্যবহার করে; এটি একটি আনুমানিক হিসাব, মাপা 3080 Ti ফলাফল নয়।
ইনপুট প্রক্রিয়াকরণ এবং আউটপুট উৎপাদন একই সময়ের বাজেট ভাগ করে। প্রকৃত থ্রুপুট প্রসঙ্গ, সফটওয়্যার এবং অনুরোধের ওভারহেডের উপরও নির্ভর করে। একটি মাস ৩০ দিনের হয়, আপনার সাপ্তাহিক সময়সূচী পুনরাবৃত্তি সহ।
বেঞ্চমার্ক সূত্র দেখুন100% কাজের লোডে
স্থূল অনুমান, বিদ্যুৎ, ফি এবং করের আগে।
এটি একটি সিন্থেটিক দৃশ্যপট, কোনও পেমেন্ট অফার নয়। প্রকৃত পরিবেশন এবং পুরস্কার যোগ্যতা, চাহিদা এবং প্রোগ্রামের শর্তের উপর নির্ভর করে। এক্সচেঞ্জ এবং মিশনের নিজস্ব প্রণোদনা রয়েছে।
একটি Builder তাদের মালিকানাধীন অ্যাপ্লিকেশন থেকে AI ট্রাফিকের মাধ্যমে আয় করে। একটি Provider নেটওয়ার্কে সেবা দেওয়ার জন্য যোগ্য কম্পিউট প্রদান করে। তাদের আয় বিভিন্ন অবদানের উপর নির্ভর করে।
প্রোভাইডার ওয়ার্কস্পেস খুলুন প্রয়োজনীয়তা পর্যালোচনা করতে এবং আপনার অফার কনফিগার করতে। পাবলিক ক্যাটালগ ব্যবহার করুন মডেল এবং প্রোভাইডার নীতিমালা কীভাবে উপস্থাপিত হয় তা বুঝতে।
আপনার অ্যাপ্লিকেশন আপনার টিম দ্বারা তৈরি এবং হোস্ট করা হয়। ShareAI নেটওয়ার্কের মাধ্যমে রাউট করা ইনফারেন্সের জন্য রাউটিং, ব্যবহার এবং পেমেন্ট স্তর সরবরাহ করে।
আপনার অবদান সংযুক্ত করুন