Khắc phục sự cố thiết bị và mô hình

Bắt đầu với trạng thái quan sát được#

Ghi lại không gian làm việc của Provider, tên thiết bị, mã định danh chính xác của mô hình và thời gian xảy ra sự cố. Sau đó, tìm bước đầu tiên bị lỗi bên dưới. Tránh thay đổi nhiều cài đặt cùng lúc; so sánh trước và sau sẽ dễ hiểu hơn.

Sự cố	Kiểm tra trước	Sau đó kiểm tra
Thiết bị bị thiếu	Đúng Provider và không gian làm việc.	Đã hoàn tất đăng nhập/kết nối và mạng hiện tại của thiết bị.
Đã kết nối, không chia sẻ	Mô hình đủ điều kiện đã được cài đặt và kích hoạt.	Lỗi tải mô hình và khả năng tính toán sẵn có.
Không thể tải mô hình	Biến thể chính xác và yêu cầu phần cứng hiện tại.	Bộ nhớ GPU được sử dụng bởi các quy trình khác, lưu trữ, trình điều khiển và nhật ký runtime.
API từ xa trả về 403	Loại thông tin xác thực đúng, UUID của Provider và UUID của thiết bị.	Cả hai công tắc đã được kích hoạt, trạng thái token và mối quan hệ kết nối/chia sẻ.
Lệnh được chấp nhận, trạng thái không thay đổi	Kết nối thiết bị thực tế và kết quả lệnh.	Các mô hình đã cài đặt/kích hoạt và hoạt động phiên sau đó.
Không có tác vụ	Tính khả dụng và đủ điều kiện được quan sát.	Nhu cầu hiện tại và quyền truy cập mô hình; trực tuyến không đảm bảo công việc.

Yêu cầu phần cứng phụ thuộc vào từng mô hình cụ thể#

Sử dụng các yêu cầu được hiển thị cho mô hình và phiên bản ứng dụng đã chọn. Nhu cầu bộ nhớ GPU thay đổi theo lượng hóa, ngữ cảnh và đồng thời. Các ước tính tham số-lịch sử đến VRAM không xác định tính đủ điều kiện hiện tại.

Chuẩn bị chẩn đoán hữu ích#

• Phiên bản ứng dụng/runtime chính xác và hệ điều hành.
• Thông tin GPU và bộ nhớ liên quan đến mô hình bị lỗi.
• Mã định danh của Provider/thiết bị/mô hình không chứa thông tin bí mật.
• Thời gian, trạng thái HTTP, mã lỗi và mã định danh tác vụ/phiên khi có sẵn.

Nơi để tiếp tục#

Liên hệ Hỗ trợ hoặc xem lại yêu cầu truy cập thiết bị.