أطر عمل الوكلاء الذكية: قم بتوصيل واجهة برمجية واحدة إلى نماذج متعددة

تعد أطر عمل الوكلاء الذكية المكان الذي تحدد فيه الفرق سلوك الوكيل: الأهداف، الأدوات، الذاكرة، التحويلات، الحلقات، والقواعد التي تحدد متى يجب أن يتوقف الوكيل. ولكن طبقة الوصول إلى النموذج هي قرار مختلف. إذا تم توصيل كل إطار عمل وكيل مباشرة بمزود واحد، فإن المنتج يرث تسعير ذلك المزود، وحدود المعدل، والانقطاعات، وتغييرات النموذج، وقواعد الحساب.

لهذا السبب تعمل أطر عمل الوكلاء الذكية بشكل أفضل عندما يستدعي الإطار واجهة برمجة تطبيقات نموذج مستقر واحد وتتعامل طبقة النموذج مع الاختيار، التوجيه، التبديل التلقائي، رؤية الاستخدام، والفوترة. ShareAI يناسب تلك الطبقة. يبقى تطبيق الوكيل خارج ShareAI، بينما يوفر ShareAI للمطورين واجهة برمجة تطبيقات واحدة لأكثر من 150 نموذجًا، إشارات السوق، استخدام الدفع لكل رمز، ومسار Builder عندما يجب أن يصبح حركة مرور الوكيل قابلة للتربح.

لماذا تحتاج أطر عمل الوكلاء الذكية إلى طبقة الوصول إلى النموذج

يجب أن يساعد إطار عمل الوكيل في تعريف العمل. لا ينبغي أن يجبر كل استدعاء نموذج، خطوة أداة، وقرار التراجع في مسار مزود مشفر بشكل ثابت.

عادةً ما يحتوي وكيل الإنتاج على أنواع مختلفة من استدعاءات النموذج. قد يحتاج المخطط إلى تفكير أقوى. قد يحتاج المصنف إلى تكلفة منخفضة وزمن انتقال منخفض. قد يحتاج الملخص إلى مسار أرخص. قد يحتاج الرد المرئي للعملاء إلى نموذج عالي الجودة وتراجع أكثر أمانًا. التعامل مع كل هذه الخطوات كنموذج افتراضي واحد يجعل التحكم في التكلفة والموثوقية أكثر صعوبة.

يوفر ShareAI للتطبيق طبقة نموذج مستقرة. يمكن للمطورين مقارنة النماذج, اختبار الخيارات، وتوجيه حركة المرور عبر واجهة برمجة تطبيقات واحدة بدلاً من الحفاظ على تكاملات مزود منفصلة لكل إطار عمل أو خطوة وكيل.

نمط الاتصال الأساسي

تتبع معظم التكاملات نفس النمط:

• اجعل إطار عمل الوكيل مسؤولاً عن منطق سير العمل، الأدوات، والحالة.
• وجه عميل نموذج الإطار إلى نقطة نهاية إكمالات الدردشة الخاصة بـ ShareAI.
• استخدم مفتاح واجهة برمجة تطبيقات ShareAI من بيئة الخادم الجانبية الخاصة بك.
• اختر مسار النموذج الذي يناسب كل خطوة وكيل.
• قم بتسجيل الاستخدام حسب المستخدم، مساحة العمل، الميزة، أو مسار الوكيل قبل الإطلاق.

هذا النمط مفيد بشكل خاص عندما يدعم إطار عملك بالفعل عميل نموذج دردشة متوافق مع OpenAI. توثق LangChain كيف يمكن لتكامل ChatOpenAI الخاص بها استخدام عنوان URL أساسي قابل للتكوين، وهو النمط الذي تستخدمه العديد من الفرق عند التوجيه عبر وكيل، بوابة، أو واجهة برمجة تطبيقات نموذج متوافقة. وثائق LangChain ChatOpenAI.

الخطوة 1: إثبات طلب ShareAI

قبل تغيير إعدادات الإطار، قم بإجراء طلب مباشر من جانب الخادم. هذا يمنحك أساسًا نظيفًا للمصادقات، اختيار النموذج، وشكل الاستجابة.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

احتفظ بالمفتاح على الخادم. لا تعرضه في كود المتصفح، المستودعات العامة، الإضافات من جانب العميل، أو قوالب الوكلاء المشتركة. عند نجاح الطلب، انقل نفس نقطة النهاية والمفتاح إلى إعدادات الإطار.

الخطوة 2: توجيه الإطار إلى ShareAI

بالنسبة للأطر التي تعتمد على الكود أولاً، النمط عادةً يكون عنوان URL أساسي، مفتاح API، واسم النموذج. في LangChain، يمكن أن يبدو هذا كالتالي:

import os

بالنسبة للأدوات التي تستخدم متغيرات البيئة، قم بتعيين متغيرات API الخاصة بنموذج الإطار إلى مفتاح ShareAI وعنوان URL الأساسي في بيئة النشر، ثم أعد تشغيل وقت تشغيل العامل أو الوكيل.

SHAREAI_API_KEY="your-server-side-key"

بالنسبة للأدوات المرئية، ابحث عن إعدادات مزود النموذج أو إعدادات المزود المخصص. على سبيل المثال، وثائق Dify تفصل بين مزودي النظام والمزودين المخصصين في إعدادات مزود النموذج: وثائق مزود نموذج Dify. تختلف التسميات الدقيقة حسب المنتج، لكن المدخلات العملية عادةً تكون نفسها: المفتاح، نقطة النهاية، النموذج، ونطاق الاستخدام.

الخطوة 3: تقسيم مسارات الوكيل حسب المهمة

بمجرد أن يتمكن الإطار من الاتصال بـ ShareAI، تجنب إرسال كل خطوة إلى نفس النموذج بشكل اعتيادي. إعداد أفضل يخصص مسارات النموذج حسب نوع الوظيفة.

• تخطيط المسار: استخدم نموذجًا أقوى للتفكيك، اختيار الأدوات، والتفكير الطويل.
• المسار السريع: استخدم نموذجًا منخفض التكلفة للتصنيف، إعادة الكتابة، الاستخراج، أو التنسيق.
• المسار المرئي للعملاء: استخدم النموذج الذي يوازن بين الجودة، التأخير، والموثوقية للحصول على الإجابة النهائية.
• مسار التراجع: اختر نموذجًا احتياطيًا يمكنه إكمال نفس المهمة عندما يتدهور المسار المفضل.

هنا يصبح نهج واجهة برمجة التطبيقات الواحدة مفيدًا. الإطار لا يحتاج إلى تكامل منفصل لكل قرار مقدم. يمكن للتطبيق الحفاظ على نمط اتصال ثابت بينما يقوم الفريق بتغيير المسارات مع تغير السعر، التأخير، التوفر، أو الجودة.

إذا كنت تدير بالفعل وكلاء متعددين، تعامل مع هذا كجزء من نموذج التشغيل الخاص بك، وليس فقط إعدادًا برمجيًا. عمليات أسطول الوكلاء الذكية الدليل الأوسع يشرح كيف يتناسب التوجيه، التسعير، والملكية بمجرد أن يصبح الوكيل واحدًا من بين العديد.

أين يتناسب تحقيق الدخل للمُنشئ

بعض تدفقات عمل الوكلاء هي مراكز تكلفة داخلية. والبعض الآخر ميزات منتج تواجه العملاء. إذا كان المُنشئ يمتلك تطبيقًا، مكونًا إضافيًا، تدفق عمل، روبوت دردشة، أو منتج وكيل خارج ShareAI، يمكن أن يصبح حركة مرور الوكيل جزءًا من نموذج عمل يعتمد على الاستخدام.

لا يزال المُنشئ يبني ويمتلك التطبيق خارج ShareAI. ShareAI يتعامل مع استخدام استنتاج الذكاء الاصطناعي الموجه، دفع العملاء لهذا الاستخدام الموجه، تكوين الهامش أو الرسوم الإضافية، ودفع المُنشئ الشهري بناءً على الأرباح المُحققة.

هذا مهم لإطارات عمل الوكلاء لأن الوكلاء يمكن أن يخلقوا استخدامًا غير متساوٍ. قد يقوم عميل واحد بتشغيل عدد قليل من ملخصات الدعم شهريًا. وقد يقوم آخر بتشغيل آلاف المكالمات البحثية، الفرز، وتدفقات العمل. مع تحقيق الدخل من ShareAI Builder، يمكن للمُنشئ توجيه حركة مرور الذكاء الاصطناعي عبر ShareAI، تحديد هامش، والسماح للعملاء ذوي الاستخدام الثقيل بالدفع مقابل الاستنتاج الذي يولدونه.

عندما تكون جاهزًا لرسم الجانب التجاري، افتح وحدة تحكم المطور. للتخطيط للتنفيذ، احتفظ بـ وثائق ShareAI قريباً.

قائمة التحقق للإنتاج لإطارات عمل وكلاء الذكاء الاصطناعي

• احتفظ بمفاتيح واجهة برمجة تطبيقات ShareAI على جانب الخادم.
• قم بتسمية كل مسار وكيل قبل الإطلاق.
• تتبع الاستخدام حسب العميل أو مساحة العمل أو الميزة أو الوكيل.
• افصل المسارات ذات التفكير العالي عن مسارات الأدوات منخفضة التكلفة.
• اختبر الإطار باستخدام مسار نموذج احتياطي واحد على الأقل.
• قم بتسجيل النموذج، وقت الاستجابة، استخدام الرموز، سبب الخطأ، والمسار النهائي.
• تجنب وضع مفاتيح المزود داخل المطالبات أو قوالب الوكيل المصدرة.
• قرر أي خطوات الوكيل قابلة للفوترة للعميل قبل زيادة حركة المرور.

أصغر عملية نشر مفيدة هي وكيل واحد، مسار واحد، نسخة احتياطية واحدة، وملصق استخدام واحد. بمجرد أن يصبح هذا المسار قابلاً للقياس، قم بتوسيع النمط إلى خطوة الوكيل التالية.

الأسئلة الشائعة

ما هي أطر عمل وكلاء الذكاء الاصطناعي؟

تساعد أطر عمل وكلاء الذكاء الاصطناعي المطورين في تحديد سلوك الوكيل، الأدوات، الذاكرة، سير العمل، الحالة، وحلقات التنفيذ. وهي تختلف عن طبقة الوصول إلى النموذج التي تقرر أي نموذج يخدم كل طلب.

لماذا يتم توصيل أطر عمل وكلاء الذكاء الاصطناعي بواجهة برمجة تطبيقات واحدة؟

واجهة برمجة تطبيقات واحدة تجعل الوصول إلى النموذج أسهل للتغيير. يمكن للفرق توجيه خطوات الوكيل المختلفة إلى نماذج مختلفة، مقارنة إشارات السوق، وتقليل الاعتماد على تكامل مزود واحد.

هل ShareAI إطار عمل لوكلاء الذكاء الاصطناعي؟

لا. ShareAI هو سوق ذكاء اصطناعي وواجهة برمجة تطبيقات. لا يقوم ببناء تطبيق الوكيل. يمكن أن يكون خلف إطار عمل الوكيل كطبقة الوصول إلى النموذج، التوجيه، الاستخدام، الفوترة، والتسييل.

هل يمكنني استخدام ShareAI مع LangChain؟

نعم، عندما يتم تكوين تكامل LangChain لاستدعاء نقطة نهاية إكمال الدردشة الخاصة بـ ShareAI باستخدام مفتاح API الخاص بـ ShareAI واسم نموذج مدعوم. اختبر طلب API المباشر قبل توصيله بالسلسلة الكاملة.

هل يمكن لبناة الوكلاء المرئيين استخدام هذا النمط؟

غالبًا، نعم. إذا كان الأداة المرئية تدعم مزود نموذج مخصص أو نقطة نهاية متوافقة مع OpenAI، فإن الإعداد عادةً يتطلب نقطة النهاية، مفتاح API، اسم النموذج، وأين تخزن الأداة بيانات اعتماد المزود.

كيف يجب أن أختار النماذج لخطوات الوكيل المختلفة؟

ابدأ بالمهمة. استخدم نماذج أقوى للتخطيط والاستجابات ذات القيمة العالية، ونماذج منخفضة التكلفة للتصنيف البسيط أو التنسيق، ومسارات احتياطية للخطوات التي لا يمكن أن تفشل بصمت.

كيف يساعد الفشل التلقائي الوكلاء الذكيين؟

يوفر الفشل التلقائي للوكيل مسار نموذج آخر عندما تكون المسار المفضل غير متاح، بطيء، مكلف للغاية، أو غير مناسب للطلب. يكون أكثر فائدة عند اختباره قبل زيادة حركة المرور الإنتاجية.

هل يمكن للبناة تحقيق دخل من استخدام إطار عمل الوكيل؟

نعم، عندما يمتلك الباني التطبيق أو سير العمل أو الإضافة أو روبوت الدردشة أو منتج الوكيل خارج ShareAI ويوجه حركة مرور استنتاج الذكاء الاصطناعي الخاصة به عبر ShareAI. يمكن للباني تحديد هامش أو رسوم إضافية لتلك الحركة.

من يدفع مقابل استخدام الوكيل الموجه؟

في نموذج الباني، يدفع العميل أو مساحة العمل أو المستخدم أو الحساب الذي يولد استخدام الذكاء الاصطناعي الموجه لـ ShareAI مقابل ذلك الاستخدام. تدفع ShareAI للباني شهريًا بناءً على الأرباح الناتجة من الهامش أو الرسوم الإضافية المُعدة.

هل يكسب المزودون والمطورون بنفس الطريقة؟

لا. يكسب البناة من حركة مرور التطبيقات التي يوجهونها عبر ShareAI. يكسب المزودون من خلال برامج المزود المعتمدة عن طريق المساهمة بسعة الحوسبة المؤهلة في شبكة ShareAI.

ماذا يجب أن أتتبع قبل الإطلاق؟

تتبع اسم الوكيل، المستخدم أو مساحة العمل، مسار النموذج، زمن الاستجابة، استخدام الرموز، معدل الأخطاء، أحداث التراجع، والميزة أو إجراء العميل الذي أدى إلى الاستدعاء. تجعل تلك البيانات قرارات التسعير والتوجيه أسهل بكثير لاحقًا.