بث استجابة الدردشة

قم بتعيين stream: true لتلقي الاستجابة تدريجيًا. احتفظ باتصال HTTP مفتوحًا، قم بتحليل أحداث SSE الكاملة وألحق كل دلتا محتوى مرة واحدة.

curl --no-buffer --fail-with-body https://api.shareai.now/api/v1/chat/completions \
  -H "Authorization: Bearer $SHAREAI_API_KEY" \
  -H "Content-Type: application/json" \
  --data '{"model":"MODEL_IDENTIFIER","messages":[{"role":"user","content":"Explain server-sent events briefly."}],"stream":true}'

قراءة حدود الأحداث#

يفصل SSE الأحداث بخط فارغ. يمكن أن تقسم قطع الشبكة قيمة JSON أو تحتوي على أحداث متعددة، لذا لا تقم بتحليل كل قراءة شبكة كاستجابة JSON كاملة. قم بفك تشفير UTF-8 تدريجيًا واحتفظ بالبيانات غير المكتملة حتى يكتمل الحدث.

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"Hello"},"finish_reason":null}]}

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

عرض المحتوى مرة واحدة#

الإلحاق choices[0].delta.content عند وجوده. حافظ على المسافات البيضاء والكلمات المكررة. يمكن أن يكون جزء فقط أو نهائي بدون محتوى. تعامل مع [DONE] كمنهي التدفق.

معالجة أخطاء التدفق#

تحقق من حالة HTTP قبل الدخول إلى محلل SSE. بعد بدء التدفق، قم بمعالجة event: error حدث وانقطاع غير متوقع. قم بوضع علامة على الإجابة المقطوعة كغير مكتملة ودع المستخدم يعيد المحاولة بشكل صريح. لا تقم بإلحاق إجابة ثانية تم إنشاؤها بشكل مستقل إلى الإخراج الجزئي.

الإلغاء من تطبيقك#

استخدم آلية الإلغاء الخاصة بعميل HTTP عندما يوقف المستخدم التوليد. حافظ على الإلغاء، وفشل الشبكة، والإجابة المكتملة كحالات منفصلة في واجهة المستخدم. لا تعد بأن إغلاق اتصال العميل يعكس الاستخدام الذي تم معالجته بالفعل.