LiteLLM বিকল্পগুলি AI অ্যাপগুলির জন্য: গেটওয়ে নিয়ন্ত্রণ, বিলিং এবং মার্জিন

আপনার AI অ্যাপ্লিকেশনের প্রয়োজনীয় দায়িত্ব পরিবর্তনের জন্য LiteLLM বিকল্পসমূহ নির্বাচন করুন। নির্বাচিত গেটওয়ে বা ম্যানেজড-অ্যাক্সেস প্রয়োজনীয়তার জন্য Portkey, Cloudflare AI Gateway এবং OpenRouter তুলনা করুন; ব্যবহারের বিলিংয়ের জন্য অনুপস্থিত স্তর থাকলে Lago তুলনা করুন। অনুমোদিত বিল্ডার ব্যবস্থার মাধ্যমে বিদ্যমান অ্যাপ যোগ্য ইনফারেন্স প্রদানের জন্য ShareAI মূল্যায়ন করুন, অনুমোদিত অ্যাপ সারচার্জ এবং অ্যাট্রিবিউটেড আয়ের সাথে।

২৩ অক্টোবর ২০২৬ পর্যালোচনা করা হয়েছে। ShareAI এই তুলনাটি প্রকাশ করে এবং আলোচিত একটি প্রোগ্রাম পরিচালনা করে। বর্তমান অফিসিয়াল রেফারেন্সগুলি বৈশিষ্ট্যগুলিকে সমর্থন করে; স্ক্রিনশটগুলি প্রকৃত ক্যাপচার। কার্যকর কোড একটি অফলাইন সিন্থেটিক লেজার। কোনো প্রোডাকশন প্রক্সি মাইগ্রেশন, কী প্রভিশনিং, এক্সপ্লয়েট টেস্ট, গ্রাহক ইনভয়েস, পেমেন্ট বা পারফরম্যান্স বেঞ্চমার্ক সম্পাদিত হয়নি।

LiteLLM ইতিমধ্যেই কাস্টম মডেল খরচ, প্রদানকারী মার্জিন, ভার্চুয়াল কী এবং বিলিং ইন্টিগ্রেশন নথিভুক্ত করে। এটি একটি প্রদানকারী-নাম অ্যাডাপ্টারে সীমাবদ্ধ করা একটি তুলনা বাণিজ্যিক এবং নিয়ন্ত্রণ পৃষ্ঠকে উপেক্ষা করে যা দলগুলি ইতিমধ্যেই ব্যবহার করতে পারে। প্রকৃত প্রক্সি সংস্করণ, লাইসেন্স স্কোপ, কনফিগারেশন এবং চারপাশের পেমেন্ট ব্যবস্থাপনা চিহ্নিত করুন সিদ্ধান্ত নেওয়ার আগে যে বিকল্পটি কী সংরক্ষণ করতে হবে।

বাণিজ্যিকীকরণের জন্য LiteLLM ইতিমধ্যেই যা সমর্থন করে।

কাস্টম-প্রাইসিং রেফারেন্স খরচ ওভাররাইড, ডিসকাউন্ট এবং প্রদানকারী-মূল্য ম্যাপিং বর্ণনা করে। মার্জিন গাইড অভ্যন্তরীণ বিলিং এবং খরচ পুনরুদ্ধারের জন্য শতাংশ বা নির্দিষ্ট-পরিমাণ ফি নথিভুক্ত করে। এটি রাখার কারণ: যখন অ্যাপটির নিজস্ব মূল্য ম্যাপিং প্রয়োজন এবং একটি উপযুক্ত অপারেটিং মডেল থাকে তখন বিদ্যমান নিয়ন্ত্রণগুলি মূল্যায়ন করুন। কনফিগারযোগ্য ইনফারেন্স মার্জিনগুলি ShareAI এর একচেটিয়া ক্ষমতা নয়।

বিলিং গাইড একটি Lago কলব্যাক বর্ণনা করে যা অভ্যন্তরীণ বা বাহ্যিক ব্যবহারের বিলিংয়ের জন্য ব্যবহৃত হয়, যেখানে গ্রাহক, ব্যবহারকারী বা টিম অ্যাট্রিবিউশন নির্বাচনযোগ্য। এটি একটি বিদ্যমান ইন্টিগ্রেশন পথ, স্বয়ংক্রিয়ভাবে সম্পন্ন ইনভয়েস বা অর্থপ্রদানের প্রমাণ নয়। প্রকৃত ইভেন্ট ম্যাপিং, পরিকল্পনা এবং অর্থপ্রদানের সংযোগ তুলনা করুন, LiteLLM গ্রাহক বিলিংয়ে অংশগ্রহণ করতে পারে না এমন দাবি করার পরিবর্তে।

বর্তমান রিপোজিটরি লাইসেন্স পৃথকভাবে লাইসেন্সকৃত এন্টারপ্রাইজ ডিরেক্টরিকে MIT-লাইসেন্সকৃত বিষয়বস্তুর বাইরে নির্দিষ্ট সীমাবদ্ধতা থেকে আলাদা করে। প্রকৃত নির্বাচিত সংস্করণ এবং বৈশিষ্ট্য পরীক্ষা করুন। একটি বিস্তৃত ওপেন-সোর্স লেবেল এটাই প্রতিষ্ঠা করে না যে প্রতিটি এন্টারপ্রাইজ নিয়ন্ত্রণ বা বাণিজ্যিক পরিষেবা অন্তর্ভুক্ত, এবং একটি লাইসেন্স ফি অপারেটিং খরচের কেবল একটি অংশ।

একটি মাল্টি-টেন্যান্ট রাইটিং অ্যাপ তার কাস্টম-মডেল মূল্য পরিবর্তন করে।

একটি কাল্পনিক রাইটিং অ্যাপ বিবেচনা করুন যার বিদ্যমান গ্রাহক ওয়ার্কস্পেস রয়েছে। এর গেটওয়ে প্রতিটি ওয়ার্কস্পেসের জন্য অ্যাক্সেস কী ইস্যু করে, প্রোভাইডারদের মধ্যে রুট করে এবং একটি প্রাইভেট মডেল অন্তর্ভুক্ত করে যার একটি কাস্টম মূল্য রয়েছে। ফাইন্যান্স অবকাঠামো ওভারহেড বরাদ্দ করতে এবং যোগ্য ইনফারেন্সে একটি অনুমোদিত অ্যাপ মার্জিন মূল্যায়ন করতে চায়। প্রোডাক্টেরও একটি স্পষ্ট নিয়ম প্রয়োজন যে অনুরোধগুলি আংশিক খসড়া তৈরি করার পরে ব্যর্থ হলে কী হবে।

কঠিন পরিবর্তনটি একটি নতুন প্রাইভেট মডেল যার মূল্য ম্যাপিং অসম্পূর্ণ। অ্যাপটি এখনও খসড়া তৈরি করে, কিন্তু গেটওয়ে শূন্য খরচ রেকর্ড করে এবং কনফিগার করা বাজেট আরও কাজ বন্ধ করে না। পৃথকভাবে, একটি গ্রাহক-নিয়ন্ত্রিত অনুরোধ ক্ষেত্র যদি বিলিং ইন্টিগ্রেশন এটি যাচাই ছাড়াই বিশ্বাস করে তবে অন্য গ্রাহকের পরিচয় দাবি করতে পারে। একটি সফল খসড়া এবং একটি বিশ্বাসযোগ্য খরচ চার্ট এই দুটি ব্যর্থতা সমাধান করে না।

পুরো যাত্রা তুলনা করুন: বিশ্বস্ত ওয়ার্কস্পেস অনুমোদন, প্রকৃত মডেল ব্যবহার, কনফিগার করা মূল্য, গৃহীত গ্রাহক চার্জ এবং সংগ্রহ। মূল খসড়া কাজ এবং পুনরাবৃত্ত প্রচেষ্টা সংরক্ষণ করুন। একটি পুনরায় চেষ্টা আরও প্রোভাইডার খরচ তৈরি করতে পারে অন্য একটি কার্যকর খসড়া সরবরাহ না করেই। একটি স্পষ্ট সংশোধন বাণিজ্যিক রেকর্ড পরিবর্তন করা উচিত যা চালানো হয়েছে তা মুছে না ফেলে বা নীরবে এটি অন্য ওয়ার্কস্পেসে বরাদ্দ না করে।

অপারেটিং এবং বাণিজ্যিক মালিকানার মাধ্যমে বিকল্পগুলি তুলনা করুন।

লেখার অ্যাপটি একটি কার্যকর গেটওয়ে বজায় রাখতে পারে যখন অন্য বিলিং বা অনুমোদিত ইনফারেন্স যাত্রা মূল্যায়ন করা হয়। এর জন্য প্রকৃত ইন্টিগ্রেশন এবং একটি স্পষ্ট ব্যবহারকারীর ব্যাখ্যা প্রয়োজন। পণ্যগুলির মধ্যে স্বয়ংক্রিয়ভাবে সিঙ্ক্রোনাইজড বাজেট, শেয়ার্ড ওয়ালেট বা নেটিভ কানেক্টর বোঝানো হয় না। প্রতিটি অ্যাডমিশন সিদ্ধান্ত, পরিমাপিত ব্যবহার আইটেম, গ্রাহক চার্জ এবং সংশোধনের জন্য একটি একক মালিক বরাদ্দ করুন।

ওয়ার্কস্পেস অ্যাডমিশন থেকে পেমেন্ট পর্যন্ত একটি খসড়া ট্রেস করুন

এই পর্যবেক্ষণগুলি সংযুক্ত রাখুন তবে সেগুলিকে একক সফলতার পতাকা হিসাবে বিবেচনা করবেন না। একটি কী একটি মডেলকে অনুমোদন করতে পারে গ্রাহকের ক্রয় প্রতিষ্ঠা না করেই। একটি কনফিগার করা মার্জিন গণনা করা যেতে পারে সংগ্রহ না করেই। একটি সঠিক চূড়ান্ত ব্যালেন্স একটি অনুপস্থিত ইভেন্ট বা ভুল ওয়ার্কস্পেস লুকিয়ে রাখতে পারে। সমর্থন এবং ফাইন্যান্স একই মূল খসড়া এবং এর স্পষ্ট সমন্বয় পুনর্গঠন করতে সক্ষম হওয়া উচিত।

Portkey: গেটওয়ে অপারেশন এবং অনুরোধ প্রমাণ তুলনা করুন

Portkey ডকুমেন্টেশন গেটওয়ে, পর্যবেক্ষণযোগ্যতা, গার্ডরেল এবং প্রশাসনিক ক্ষমতা বর্ণনা করে, পৃথক ডিপ্লয়মেন্ট রেফারেন্স সহ। সুবিধাসমূহ: লেখার অ্যাপটি অপারেশনাল নিয়ন্ত্রণ এবং মডেল অনুরোধের চারপাশের প্রমাণ তুলনা করতে চাইলে নির্বাচিত সুযোগ মূল্যায়ন করুন। প্রকৃত নীতিমালা এবং ব্যর্থতার আচরণ থেকে শুরু করুন মডেল-গণনা র‍্যাঙ্কিংয়ের পরিবর্তে।

বাণিজ্যিক সুবিধা ও অসুবিধা: সঠিক সংস্করণ, হোস্টিং, সংরক্ষিত ডেটা, মূল্য নির্ধারণ কনফিগারেশন এবং গ্রাহক পেমেন্ট ব্যবস্থার যোগ্যতা নির্ধারণ করুন। একটি ব্যয় নিয়ন্ত্রণ এবং একটি ট্রেস গৃহীত চার্জ সংগ্রহের চেয়ে ভিন্ন কাজ করে। একটি সেল্ফ-হোস্টিং রেফারেন্স স্বয়ংক্রিয়ভাবে প্রতিটি হোস্টেড ড্যাশবোর্ড বা এন্টারপ্রাইজ পরিষেবা অন্তর্ভুক্ত করে না। প্রকৃত নির্বাচিত বাস্তবায়ন এবং সমর্থন দায়িত্ব তুলনা করুন।

প্রাইভেট লেখার মডেলের জন্য, প্রোডাকশন রাউটিং পরিবর্তনের আগে একটি পরিচিত ননজিরো অনুরোধ এবং গ্রাহক ম্যাপিং পরিদর্শন করুন। একটি আংশিক খসড়া অনুশীলন করুন এবং পুনরায় চেষ্টা করুন। ব্যবহারকারী যা দেখেছে, প্রদানকারী যা ব্যবহার করেছে এবং অ্যাপের বাণিজ্যিক নীতিমালা যা চার্জ করে তা সংরক্ষণ করুন, একটি মিলে যাওয়া অনুরোধের সংখ্যা পুরো ওয়ার্কফ্লো মাইগ্রেশন টিকে থাকার প্রমাণ হিসাবে বিবেচনা করার পরিবর্তে।

Cloudflare AI Gateway: তহবিল এবং কাস্টম এন্ডপয়েন্ট তুলনা করুন

Cloudflare ইউনিফাইড-বিলিং রেফারেন্স প্রদানকারী-কী এবং ক্রেডিট-ফান্ডেড মডেল অ্যাক্সেস বর্ণনা করে। এর কাস্টম-প্রোভাইডার গাইড HTTPS এন্ডপয়েন্ট কভার করে, যার মধ্যে সেলফ-হোস্টেড মডেলের উদাহরণ অন্তর্ভুক্ত। সুবিধাসমূহ: অ্যাপটি নির্বাচিত মডেলগুলোর জন্য একটি ভিন্ন গেটওয়ে এবং ফান্ডিং ব্যবস্থার মূল্যায়ন করতে চাইলে এই বিদ্যমান সক্ষমতাগুলো তুলনা করুন।

ট্রেডঅফস: অনুরোধ ফরম্যাট, ক্রেডেনশিয়াল অগ্রাধিকার, নিয়ন্ত্রণ এবং প্রকৃত গ্রাহক মূল্য নির্ধারণ করুন। একটি ইউনিফাইড কম্প্যাটিবিলিটি পাথ এবং একটি প্রোভাইডার-স্পেসিফিক পাথের ভিন্ন প্রয়োজনীয়তা রয়েছে। অ্যানালিটিক্স খরচ ম্যাপিং নিজে থেকেই একটি গৃহীত রিসেল চার্জ প্রতিষ্ঠা করে না। একটি ভিন্ন ফান্ডিং সোর্স ব্যবহার করে সফল প্রতিক্রিয়া এখনও একটি অপ্রত্যাশিত অ্যাপ-অনার বিল তৈরি করতে পারে।

লেখার অ্যাপের জন্য, প্রাইভেট মডেল এবং একটি অনুপস্থিত প্রোডাকশন ক্রেডেনশিয়াল একসাথে তুলনা করুন। কোন অ্যাকাউন্ট ফলাফল ফান্ড করে এবং কোন রেকর্ড গ্রাহক চার্জ বর্ণনা করে তা পরিদর্শন করুন। একটি ক্যাশড বা বাধাগ্রস্ত ড্রাফটের জন্য আপনার নীতি সংরক্ষণ করুন। একটি ভিন্ন গেটওয়ে স্বয়ংক্রিয়ভাবে LiteLLM-এ কনফিগার করা প্রতিটি বাজেট, মডেল অনুমতি এবং বিলিং কলব্যাক উত্তরাধিকারসূত্রে পায় না।

OpenRouter: ম্যানেজড অ্যাক্সেস এবং ইউজার-ফান্ডেড অনুরোধ তুলনা করুন।

OpenRouter কুইকস্টার্ট ম্যানেজড মডেল অ্যাক্সেস বর্ণনা করে। এর OAuth গাইড স্পষ্টভাবে ব্যবহারকারীদের একটি ইউজার-কন্ট্রোলড কী দিয়ে অ্যাপ অথরাইজ করতে এবং তাদের নিজস্ব OpenRouter ক্রেডিট থেকে অনুরোধ ফান্ড করতে দেয়। সুবিধাসমূহ: লেখার অ্যাপটি গ্রাহককে যোগ্য ইনফারেন্স ফান্ড করতে চায়, পরিবর্তে প্রতিটি অনুরোধ অ্যাপের মালিককে চার্জ করার পরিবর্তে, এই যাত্রাটি তুলনা করুন।

ট্রেডঅফস: মডেল অ্যাভেইলেবিলিটি, প্রোভাইডার পলিসি, কী হ্যান্ডলিং এবং প্রকৃত অ্যাপ বাণিজ্যিক চুক্তি নির্ধারণ করুন। অ্যাপ-অ্যাট্রিবিউশন গাইড ব্যবহারের সংযোগ এবং র‍্যাঙ্কিং বর্ণনা করে। এটি একাই একটি অনুমোদিত অ্যাপ সারচার্জ বা প্রাপ্ত আয়ের প্রতিষ্ঠা করে না। ইউজার-ফান্ডেড মডেল অ্যাক্সেস ShareAI-এর জন্য অনন্য নয়; সম্পূর্ণ অনুমোদিত বাণিজ্যিক পথ তুলনা করুন।

লেখকের জন্য, একটি সংযোগ বিচ্ছিন্ন ব্যবহারকারী অ্যাকাউন্ট, শেষ হওয়া ক্রেডিট এবং পূর্ববর্তী কাজ সফল হওয়ার পর একটি ব্যর্থ চূড়ান্ত খসড়া অনুশীলন করুন। বিশ্বস্ত গ্রাহক এবং প্রত্যাশিত প্রদানকারীকে সংরক্ষণ করুন। একটি মডেল-অ্যাক্সেস পরিবর্তন নীরবে অ্যাপ মালিককে চার্জ করা উচিত নয় বা এটি বোঝানো উচিত নয় যে এর পৃথক লেখার সাবস্ক্রিপশন, সহায়তা দায়িত্ব এবং ব্যক্তিগত-মডেল অবকাঠামো শংসাপত্রের সাথে স্থানান্তরিত হয়েছে।

Lago: ব্যবহারের-বিলিং স্তরটি স্পষ্টভাবে তুলনা করুন

Lago পরিচিতি ব্যবহারের বিলিং বর্ণনা করে, যখন অফিশিয়াল রিপোজিটরি একটি ওপেন-সোর্স ডিপ্লয়মেন্ট পথ প্রদান করে। সুবিধাসমূহ: নির্বাচিত সংস্করণটি তুলনা করুন যখন লেখার অ্যাপের অনুপস্থিত দায়িত্বটি বিশ্বস্ত ব্যবহার এবং বাণিজ্যিক শর্তাবলীকে বিলিং রেকর্ডে রূপান্তরিত করা। LiteLLM-এর নিজস্ব বিলিং গাইড ইতিমধ্যেই একটি Lago ইন্টিগ্রেশন পথ চিহ্নিত করেছে।

ট্রেডঅফস: প্রকৃত ডিপ্লয়মেন্ট, প্রয়োজনীয় সংস্করণ বৈশিষ্ট্য, ইভেন্ট ম্যাপিং এবং পেমেন্ট ইন্টিগ্রেশন যোগ্যতা নির্ধারণ করুন। একটি স্ব-হোস্টেড বাস্তবায়ন পরিচালনা করতে আপডেট, প্রাপ্যতা এবং পুনরুদ্ধার প্রয়োজন। একটি ব্যবহারের-বিলিং সিস্টেম স্বয়ংক্রিয়ভাবে মডেল কল গ্রহণকারী গেটওয়ে প্রতিস্থাপন করে না বা মার্চেন্ট-অফ-রেকর্ড সম্পর্ক প্রতিষ্ঠা করে না। প্রতিটি প্রযুক্তিগত এবং আর্থিক ধাপের মালিক সংরক্ষণ করুন।

ব্যক্তিগত মডেলের জন্য, একটি বিশ্বস্ত ওয়ার্কস্পেস শনাক্তকারী, সম্মত বিলযোগ্য ইউনিট এবং একটি স্পষ্ট সংশোধন তুলনা করুন। গেটওয়ে-গণনা করা খরচটি প্রকৃত বিক্রিত পরিকল্পনার সাথে মিল করুন। একটি প্রকাশিত কলব্যাক উদাহরণ প্রমাণ করে না যে একটি বিলম্বিত ইভেন্ট, পুনরায় খেলা বা গ্রাহক বিরোধ অ্যাপের নির্বাচিত ডিপ্লয়মেন্টে উদ্দেশ্যপ্রণোদিত চালান এবং প্রাপ্ত পেমেন্ট তৈরি করবে।

ShareAI: অনুমোদিত অ্যাপ সারচার্জ এবং নিষ্পত্তি তুলনা করুন

ShareAI Builder Program এমন একটি অ্যাপের বিষয়ে যা ইতিমধ্যেই তার নিজস্ব ব্যবহারকারীদের সাথে বিদ্যমান। যোগ্য ট্রাফিক ShareAI এর মাধ্যমে রুট করে, বিল্ডার একটি অনুমোদিত সারচার্জ বা মার্জিন কনফিগার করে, এবং শেষ গ্রাহক ShareAI এর জন্য সেই ইনফারেন্স প্রদান করে। অ্যাপ-অ্যাট্রিবিউটেড আয় প্রোগ্রাম অনুসরণ করে। সুবিধাসমূহ: এই ব্যবস্থাটি তুলনা করুন যখন লেখার অ্যাপটি একটি অনুমোদিত ইনফারেন্স পেমেন্ট এবং অ্যাট্রিবিউশন যাত্রা চায়।

ট্রেডঅফস: অ্যাপ অনুমোদন, যোগ্য ট্রাফিক, প্রকৃত মডেল অ্যাক্সেস এবং অ্যাকাউন্ট শর্তাবলী গুরুত্বপূর্ণ। বৈধ কোম্পানি বিল্ডারদের ৪৫ দিনের পর্যালোচনা সময়কাল রয়েছে পেআউটের আগে। ব্যক্তিরা বর্তমানে ShareAI ব্যবহারের জন্য ইনফারেন্স মান জমা করে, যা নগদে রূপান্তর বা অ্যাকাউন্ট ট্রান্সফারের জন্য নয়। অ্যাপটি অন্যত্র নির্মিত, হোস্টেড, বিতরণ এবং রক্ষণাবেক্ষণ করা হয়। এর লেখার সাবস্ক্রিপশন, সাপোর্ট এবং অন্যান্য বাণিজ্যিক দায়িত্ব স্পষ্ট দায়িত্ব হিসেবে থাকে।

অবকাঠামো প্রদান বা একটি কাস্টম এন্ডপয়েন্ট প্রযোজ্য প্রোভাইডার বা প্রোসিউমার অনবোর্ডিংয়ের অন্তর্ভুক্ত, যা বিল্ডার অ্যাট্রিবিউশন থেকে আলাদা। LiteLLM ইতিমধ্যে কাস্টম মূল্য এবং মার্জিন ডকুমেন্ট করে; কাস্টম এন্ডপয়েন্ট অন্যত্রও বিদ্যমান। প্রকৃত গ্রহণযোগ্যতা, রাউটিং, পেয়ার এবং রিলিজ তুলনা করুন। ShareAI একটি সার্বজনীন বিলিং প্রতিস্থাপন, একটি সাধারণ মার্চেন্ট-অফ-রেকর্ড পরিষেবা বা বিদ্যমান গেটওয়ে কী এবং অনুমতিগুলির স্বয়ংক্রিয় স্থানান্তর প্রতিষ্ঠা করে না।

একটি মার্জিন গণনার জন্য একটি গৃহীত বাণিজ্যিক নীতি প্রয়োজন।

মার্জিন রেফারেন্স একটি কনফিগারড ডিসকাউন্টের পরে মার্জিন প্রয়োগ করার বিষয়টি বর্ণনা করে, যেখানে প্রোভাইডার-নির্দিষ্ট সেটিংস গ্লোবাল মার্জিনকে ওভাররাইড করে। প্রতিটি খসড়ার জন্য ব্যবহৃত গণনা সংস্করণ সংরক্ষণ করুন। একটি পরবর্তী গ্লোবাল কনফিগারেশন পরিবর্তন পূর্বে গৃহীত চার্জের ব্যাখ্যা মুছে ফেলা উচিত নয়। অভ্যন্তরীণ খরচ পুনরুদ্ধার এবং অনুমোদিত বাহ্যিক অ্যাপ মূল্যের চুক্তিগত আচরণ ভিন্ন হতে পারে।

বিলিং রেফারেন্স গ্রাহক, অভ্যন্তরীণ-ব্যবহারকারী এবং টিম অ্যাট্রিবিউশন পছন্দগুলি অফার করে। একটি বিশ্বস্ত অ্যাপ্লিকেশন প্রসঙ্গ থেকে পরিচয় নির্বাচন করুন, একটি স্বেচ্ছাচারী ক্লায়েন্ট-প্রদত্ত গ্রাহক দাবী গ্রহণ করার পরিবর্তে। যৌক্তিক কাজ এবং মূল সমন্বয় সংরক্ষণ করুন। একটি কলব্যাকের অস্তিত্ব প্রমাণ করে না যে পুনরায় চালানো ইভেন্টগুলি দ্বিগুণ চার্জ করতে পারে না বা একটি জেনারেটেড ইনভয়েস পরিশোধিত হয়েছে।

শূন্য-খরচ ম্যাপিং এবং পুরো কী লাইফসাইকেল যোগ্য করুন।

মূল্য নির্ধারণ নির্দেশিকা স্পষ্টভাবে উল্লেখ করে যে শূন্য ইনপুট এবং আউটপুট খরচ বাজেট যাচাই এড়িয়ে যায় এবং যখন রাউটিং এবং মূল্য নির্ধারণ প্রদানকারী ভিন্ন হয় তখন মূল্য নির্ধারণ-প্রদানকারী ম্যাপিং গুরুত্বপূর্ণ। ভার্চুয়াল-কী নির্দেশিকা বিভিন্ন অনুমতি উত্তরাধিকার পৃষ্ঠতল নথিভুক্ত করে। সঠিক কী মালিক, দল এবং মডেল কনফিগারেশন তুলনা করুন, পরিবর্তে একটি কী তৈরি করা ব্যক্তিকে তার কার্যকর অনুমতির প্রমাণ হিসাবে বিবেচনা করার।

একই কী নির্দেশিকা একটি কেবল তৈরি-কাস্টম হুককে আপডেট প্রয়োগ এবং একটি বিস্তৃত কার্যকর-অবস্থা নীতি হুক থেকে পৃথক করে। একটি কী যা সৃষ্টির সময় একটি মেয়াদ শেষ হওয়ার নিয়ম পূরণ করে তা পরে সম্পাদনা করা যেতে পারে যদি না প্রকৃত নির্বাচিত নীতি সেই অপারেশনটি কভার করে। নির্বাচিত সংস্করণের তৈরি, সম্পাদনা, ঘোরানো এবং প্রত্যাহার পথগুলি অনুশীলন করুন। স্থাপনের আগে এর বর্তমান অফিসিয়াল রিলিজ এবং পরামর্শ তথ্য পর্যালোচনা করুন; এই তুলনা নিরাপত্তা পরীক্ষা করে না বা একটি অযোগ্য পুরানো প্যাকেজ সংস্করণ সুপারিশ করে না।

শুধুমাত্র গাণিতিকের জন্য, 1000 USD ইনফারেন্স প্লাস একটি কাল্পনিক 15% সারচার্জ 150 USD মোট সারচার্জ এবং 1150 USD মোট উত্পন্ন করে। এই কৃত্রিম পরিমাণগুলি LiteLLM বা ShareAI ফি, প্রাপ্ত আয়, নিট লাভ বা করের ফলাফল নয়। প্রকৃত অবকাঠামো, প্রদানকারী এবং বিলিং খরচ, সংশোধন এবং যোগ্যতা ফলাফলকে প্রভাবিত করে।

লাইভ বাণিজ্যিক পথ গ্রহণ করার আগে গাণিতিক যাচাই করুন।

নীচের কার্যকরী ফিক্সচার অভিন্ন কার্যকলাপ ডিডুপ্লিকেট করে, একটি বিরোধপূর্ণ ডুপ্লিকেট প্রত্যাখ্যান করে এবং পূর্ণসংখ্যা USD সেন্টে একটি স্পষ্ট সংশোধন রেকর্ড করে। এটি একটি প্রক্সি স্থাপন করে না, একটি কী প্রদান করে না, একটি বিলিং কলব্যাক কল করে না বা অর্থ সংগ্রহ করে না। এই ফলাফলগুলির জন্য প্রকৃত রানটাইম এবং গণনার চারপাশে বাণিজ্যিক প্রমাণ প্রয়োজন।

import assert from "node:assert/strict";
const records = [
  {id: "usage-a", customer: "demo", cents: 60000n, kind: "usage"},
  {id: "usage-b", customer: "demo", cents: 50000n, kind: "usage"},
  {id: "usage-a", customer: "demo", cents: 60000n, kind: "usage"},
  {id: "adjustment-b", customer: "demo", cents: -10000n, kind: "adjustment"}
];
function netCents(rows) {
  const seen = new Map();
  let total = 0n;
  for (const row of rows) {
    assert.equal(row.customer, "demo");
    const fingerprint = [row.customer, row.cents.toString(), row.kind].join("|");
    if (seen.has(row.id)) {
      if (seen.get(row.id) !== fingerprint) throw new Error("Conflicting duplicate");
      continue;
    }
    if (row.cents < 0n && row.kind !== "adjustment") throw new Error("Invalid sign");
    seen.set(row.id, fingerprint);
    total += row.cents;
  }
  return total;
}
const base = netCents(records);
assert.equal(base, 100000n);
assert.throws(() => netCents([...records,
  {id: "usage-a", customer: "demo", cents: 1n, kind: "usage"}
]));
const numerator = base * 1500n; // Hypothetical 15 percent in basis points.
if (numerator % 10000n !== 0n) throw new Error("Define contractual rounding first");
const surcharge = numerator / 10000n;
assert.equal(surcharge, 15000n);
const usd = cents => `${cents / 100n}.${(cents % 100n).toString().padStart(2, "0")}`;
console.log(JSON.stringify({baseUSD: usd(base), grossSurchargeUSD: usd(surcharge),
  totalUSD: usd(base + surcharge), paidReceiptVerified: false}));

পর্যবেক্ষিত আউটপুট হল 1000 USD উদাহরণমূলক ইনফারেন্স, 150 USD মোট সারচার্জ এবং 1150 USD মোট, কোনও যাচাই করা প্রদত্ত রসিদ ছাড়াই। প্রোডাকশনে বিশ্বস্ত কর্মক্ষেত্র পরিচয়, মূল খসড়া, প্রকৃত ব্যবহার এবং গৃহীত সংশোধনগুলি সংরক্ষণ করুন। একটি সঠিক যোগফল কার্যকর অনুমতি, একটি সঠিক চালান বা প্রাপ্ত অর্থ প্রমাণ করতে পারে না।

প্রথমে একটি মডেল, কর্মক্ষেত্র এবং সংশোধন পথ সরান।

• প্রকৃত গেটওয়ে সংস্করণ, লাইসেন্স স্কোপ, কী এবং বিলিং ইন্টিগ্রেশন সনাক্ত করুন।
• পরিবর্তন প্রয়োজন এমন অপারেশনাল বা বাণিজ্যিক দায়িত্ব নির্বাচন করুন।
• বিশ্বস্ত গ্রাহক পরিচয় এবং সংস্করণযুক্ত মডেল-মূল্য ম্যাপিং সংরক্ষণ করুন।
• ননজিরো ব্যবহার, শূন্য-খরচ ম্যাপিং, কী সম্পাদনা এবং একটি স্পষ্ট সংশোধন অনুশীলন করুন।
• ডুপ্লিকেট লাইভ সংগ্রহ ছাড়াই প্রকৃত অর্থপ্রদানের প্রমাণ যাচাই করুন।
• মূল রেকর্ডগুলি সংরক্ষণ করুন এবং সম্পূর্ণ গ্রাহক যাত্রা যোগ্য না হওয়া পর্যন্ত রোলব্যাক করুন।

LiteLLM এর বর্তমান বাস্তবায়ন উপযুক্ত হলে এটি রাখুন। তাদের প্রকৃত অপারেটিং সীমানার জন্য গেটওয়ে বিকল্পগুলি তুলনা করুন, Lago নির্বাচিত বিলিং প্রয়োজনীয়তার জন্য এবং ShareAI অনুমোদিত গ্রাহক-প্রদত্ত ইনফারেন্সের জন্য। একটি খসড়া দিয়ে শুরু করুন যার ভর্তি, ব্যবহার, মূল্য, ডেলিভারি এবং আর্থিক সংশোধন একসাথে ব্যাখ্যা করা যায়।

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী