ShareAI التبديل التلقائي: توجيه نفس النموذج + BYOI لذكاء اصطناعي بدون توقف

عندما يتعطل مزود الذكاء الاصطناعي، لا ينبغي أن يتأثر مستخدموك. التبديل التلقائي في ShareAI يحافظ على تدفق الطلبات عن طريق التوجيه إلى نفس النموذج عبر مزودين متعددين - بحيث تبقى التجربة متسقة ولا تضطر إلى إصدار تصحيحات طارئة. يمكنك أيضًا BYOI (اجلب البنية التحتية الخاصة بك) تشغيل نقاط النهاية الخاصة كإعداد افتراضي أو كطبقة احتياطية خاصة.

لماذا تؤذي الانقطاعات (ولماذا مزود واحد = نقطة فشل واحدة)

أنماط الحوادث الحقيقية

نادرًا ما تؤدي الانقطاعات إلى تعطيل كل شيء. غالبًا ما تكون مشاكل محددة بالنموذج، أو انفجارات في حدود المعدل، أو انقطاعات إقليمية، أو نوافذ صيانة. إذا كانت بنيتك مرتبطة بواجهة برمجة تطبيقات واحدة، فإن هذه تصبح أخطاء مرئية للمستخدم.

التكلفة الخفية لـ “إعادة المحاولة والصلاة”

المحاولات المتكررة دون توجيه تزيد من زمن الاستجابة، وتستنزف الحصص، وتزيد من التخلي. تظهر تكلفة العمل في اتفاقيات مستوى الخدمة، وفقدان العملاء، وحمل الدعم.

ماذا يعني “التبديل التلقائي لنفس النموذج” مع ShareAI

التوجيه المكافئ للنموذج

إذا موديل-x عند مزود الخدمة A يبدأ بالفشل، يقوم ShareAI بالتوجيه إلى نفس النموذج (أو أقرب معادل) عند مزود الخدمة B—مع ضوابط للحفاظ على السلوك متسقًا. هذا يحول وقت التوقف إلى قرار توجيه, ، وليس انقطاعًا في المنتج.

غير مرئي للمستخدمين النهائيين وكود المنتج

يتصل تكاملك بنقطة نهاية واحدة. يحدث التبديل التلقائي في مستوى التحكم—بدون أعلام ميزات، وبدون إعادة نشر طارئة لتطبيقك.

أدوات سياسة تناسب أهدافك

قم بتعيين سياسات لكل نقطة نهاية مثل تفضيل زمن الاستجابة, تفضيل التكلفة, ، أو ترتيب المزود الصارم. أنت تقرر مدى شدة الفشل—ولمن.

طريقتان لاستخدام ShareAI في الإنتاج

طبقة التنسيق الافتراضية (متعددة المزودين دائمًا)

أرسل كل طلب عبر ShareAI. تحصل على فحوصات الصحة، توجيه نفس النموذج، واختبار A/B للمزود مباشرة. استكشف سوق النماذج لاختيار الأساسيين والاحتياطيين: تصفح النماذج

شبكة أمان جاهزة (للحوادث فقط)

احتفظ بـ SDKs الحالية، ولكن قم بتوصيل ShareAI كـ مسار احتياطي. عندما يفشل الأساسي الخاص بك، قم بتحويل الحركة تلقائيًا إلى ShareAI دون أي انقطاع مرئي للمستخدم.

التوجيه حسب الميزة

مثال: يستخدم الدردشة المزود X افتراضيًا؛ تستخدم التضمينات المزود Y للسعر؛ كلاهما لديه فشل تلقائي إلى الاحتياطيات.

BYOI (اجلب بنيتك التحتية الخاصة) مع ShareAI

قم بتوصيل الاستدلال الخاص

قم بتوصيل النقاط النهائية المستضافة ذاتيًا (VPC، في الموقع، نقاط تواجد الشركاء). استخدم BYOI كـ السعة الأساسية أو كـ استرجاع خاص مستوى يمكن فقط لمنظمتك رؤيته. ابدأ من دليل المزود ولوحة التحكم: دليل المزود • لوحة التحكم للمزود

المفاتيح، الحصص، تقسيم الحركة

قم بإرفاق مفاتيح API متعددة (ومزودين) لكل نموذج؛ حدد الحصص وحصة الحركة حسب البيئة/الفريق.

المناطق وإقامة البيانات

قم بتثبيت الحركة إلى المناطق الجغرافية المسموح بها أو طلب مناطق جديدة عبر إعدادات تحديد الموقع الجغرافي لتلبية أهداف الامتثال وزمن الاستجابة: إعدادات تحديد الموقع الجغرافي

كيف يعمل التحويل التلقائي (تحت الغطاء)

فحوصات الصحة وزمن الاستجابة

يقوم ShareAI بفحص صحة وزمن استجابة المزود/النموذج/المنطقة باستمرار. تتجاوز العتبات قواطع الدوائر التي تحول الحركة فوراً.

خريطة تكافؤ النماذج

خريطة منسقة تتوافق مع معرفات النماذج عبر المزودين (وتصنف “أقرب المكافئات”) بحيث يحافظ الفشل على سلوك اتباع التعليمات، وخصائص الترميز، وحدود السياق بأكبر قدر ممكن.

إعادة المحاولات الآمنة حسب التصميم

مفاتيح التكرار والرجوع الأسي تتجنب العمل المكرر مع تقليل زمن التأخير النهائي.

المراقبة

سترى التتبع، أسباب الفشل، وفروقات التكلفة/الزمن. في وحدة التحكم والسجلات. اقرأ الوثائق عندما تكون جاهزًا للحصول على أدوات أعمق: الصفحة الرئيسية للتوثيق

البداية السريعة: قم بإنشاء أول طلب مرن.

إعداد من 5 خطوات.

1. تسجيل الدخول وإنشاء مفتاح API. تسجيل الدخول أو التسجيل • إنشاء مفتاح API
2. اختر المزود الأساسي لكل نموذج في وحدة التحكم.
3. أضف النسخة الاحتياطية. المزودون (ونقاط النهاية الاختيارية BYOI).
4. تمكين التوجيه بنفس النموذج وتحديد سياسة الاستبدال (زمن الاستجابة/التكلفة/الترتيب).
5. أرسل طلبك الأول (أدناه) وقم بمحاكاة حادث لمشاهدة التبديل التلقائي.

الكود: طلب واحد، تبديل تلقائي للمزود

جافا سكريبت (fetch)

const res = await fetch("https://api.shareai.now/v1/chat/completions", {;

بايثون (requests)

import os

هل تريد شرحًا أعمق؟ ابدأ بـ مرجع API البداية السريعة: مرجع API. أو جربها مباشرة في ملعب (رائع للتحقق من سياسات التبديل دون كتابة كود): فتح ساحة اللعب

حافظ على التجارب سلسة أثناء الحوادث

أوقات انتهاء ذكية واستجابات جزئية

فشل سريع من المزودين الفاشلين؛ قم ببث النتائج الجزئية إذا كان واجهتك تدعم ذلك، ثم أكمل من استبدال.

تخزين المطالبات الشائعة

تخزين المطالبات الثابتة (الأسئلة الشائعة، مطالبات النظام النموذجية) لتقديمها فورًا أثناء الحوادث.

جدولة وتجميع العمل غير العاجل

تجميع المهام الثقيلة (مثل التلخيص) لاستئنافها بمجرد استعادة السعة الصحية—دون إسقاط المهام.

اتصالات شفافة

إضافة لافتة داخل التطبيق مرتبطة بحالة المزود وحالة التوجيه الخاصة بك. توجيه القراء إلى الإصدارات/سجل التغييرات عند تغيير السلوك: انظر الإصدارات

التحكم في الإنفاق مع البقاء متصلًا

حدود التكلفة وترتيب البدائل

تعيين مضاعف أقصى للنسخ الاحتياطية (مثل “≤1.2× CPM الأساسي”). إذا تجاوز النسخ الاحتياطي ذلك، يتم التوجيه إلى الخيار الأفضل التالي.

ميزانيات لكل فريق وتنبيهات

تطبيق الميزانيات لكل مساحة عمل/مشروع؛ التنبيه عند ارتفاعات الفشل حتى لا تتفاجأ المالية.

تقارير ما بعد الحوادث

مراجعة مقدار حركة المرور التي فشلت، الأسباب، وفروقات التكلفة/الكمون لتحسين السياسة.

الأمن والامتثال، حتى عبر مقدمي الخدمة

التثبيت الإقليمي: الاحتفاظ بالبيانات داخل المنطقة عند الحاجة. أوضاع عدم الاحتفاظ: تعطيل تسجيل الطلبات عند الحاجة. إمكانية التدقيق: تصدير السجلات وتتبعها للبيئات المنظمة. لمواقع مقدمي الخدمة وعناصر التحكم، انظر إعدادات تحديد الموقع الجغرافي في وحدة التحكم: المواقع المسموح بها

الأسئلة الشائعة

هل يمكنني إجبار ShareAI على الالتزام بمعرف نموذج محدد؟

نعم—قفل إلى معرف مقدم+نموذج محدد. أو السماح بالتبديل إلى أقرب مكافئ عند عدم توفر نماذج مطابقة تمامًا.

ماذا لو لم تكن هناك نماذج مطابقة تمامًا؟

استخدم الـ أقرب معادل سياسة لاختيار النموذج الأقرب من حيث القدرة، حجم السياق، والتكلفة. يمكنك التحكم فيما إذا كنت تريد التدهور بسلاسة أو الفشل بشكل مغلق.

كيف أختبر الفشل التلقائي دون إيقاف الإنتاج؟

استخدم الـ ملعب أو مفتاح مرحلي لمحاكاة فشل المزود (مثلًا، حظر مزود واحد مؤقتًا) وفحص التتبع: ملعب

هل يتطلب BYOI دخولًا عامًا؟

لا. يمكنك تشغيل خاصة/VPC نقاط النهاية وتسجيلها كمزودين مرئيين فقط لمؤسستك. ابدأ بـ دليل المزود: دليل المزود

الخاتمة

الانقطاعات لا مفر منها. مع التبديل التلقائي في ShareAI و BYOI, ، لا يجب أن تكون مدمرة. قم بالتوجيه إلى نفس النموذج عبر المزودين، حافظ على اتفاقيات مستوى الخدمة (SLAs) سليمة، وتحكم في التكلفة والامتثال—كل ذلك دون تغيير كود التطبيق الخاص بك. عندما يفشل مزود، يحافظ ShareAI على اتصالك بالإنترنت.