Kỹ thuật đồ thị cho hệ thống đa tác nhân: Quản lý công việc của tác nhân

Các hệ thống đa tác nhân không thất bại như các chatbot đơn giản. Chúng thất bại qua các bước chuyển giao: bộ lập kế hoạch gọi sai chuyên gia, bước truy xuất bỏ qua một ràng buộc, một nút công cụ tiêu tốn quá nhiều, hoặc một nhiệm vụ chạy dài tiếp tục định tuyến công việc đắt đỏ đến cùng một mô hình biên.

Đó là lý do tại sao kỹ thuật đồ thị đang trở thành một ngành thực tiễn cho các nhóm xây dựng tác nhân trong sản xuất. Đồ thị là bản đồ hoạt động cho công việc của tác nhân. Nó xác định các nút nào có thể hành động, các cạnh nào có thể được thực hiện, trạng thái được mang ở đâu, khi nào cần sự phê duyệt của con người cho bước tiếp theo, và các cuộc gọi mô hình nên được định tuyến qua một lớp API được kiểm soát ở đâu.

Tại sao Kỹ thuật Đồ thị Quan trọng Hiện nay

Các hệ thống tác nhân ban đầu thường trông giống như một vòng lặp: nhận một mục tiêu, gọi một mô hình, sử dụng một công cụ, kiểm tra kết quả, lặp lại. Các hệ thống tác nhân hiện đại đang trở nên có cấu trúc hơn. Các khung như LangGraph mô tả đồ thị thông qua trạng thái, các nút và các cạnh. Google đã thúc đẩy khả năng tương tác Agent2Agent cho các bước chuyển giao tác nhân. MCP cung cấp cho các ứng dụng AI một cách tiêu chuẩn để kết nối với công cụ, dữ liệu và quy trình làm việc.

Những thành phần đó làm cho các hệ thống tác nhân trở nên mạnh mẽ hơn, nhưng chúng cũng làm cho đường dẫn thực thi khó suy luận hơn. Một khi các tác nhân có thể ủy quyền, phân nhánh, thử lại, và gọi các công cụ bên ngoài, chi phí và rủi ro của hệ thống không còn nằm trong một lời nhắc duy nhất. Chúng được phân phối trên toàn đồ thị.

Xem Đồ thị như Kiến trúc Sản xuất

Một đồ thị tác nhân sản xuất nên đủ rõ ràng để một kỹ sư có thể trả lời sáu câu hỏi mà không cần đọc từng lời nhắc:

• Các nút nào được phép gọi một mô hình?
• Các nút nào có thể sử dụng công cụ hoặc hệ thống bên ngoài?
• Các chuyển đổi nào yêu cầu sự xem xét của con người?
• Mô hình hoặc lớp mô hình nào phù hợp cho từng bước?
• Nơi nào thực hiện việc thử lại, phương án dự phòng và giới hạn ngân sách?
• Làm thế nào để đội ngũ tái tạo lại những gì đã xảy ra sau một lần chạy không tốt?

Đây không chỉ là một bài tập về khả năng quan sát. Nó cũng là một bài tập về sản phẩm và biên lợi nhuận. Một nút phân loại rủi ro thấp, một nút truy xuất, một nút tạo mã, và một nút đánh giá cuối cùng không nhất thiết phải sử dụng cùng một mô hình. Khi mỗi nút sử dụng mô hình đắt nhất theo mặc định, đồ thị trở thành một bộ khuếch đại chi phí.

Vị trí của ShareAI trong Đồ thị

ShareAI cung cấp cho các đội ngũ một API duy nhất để truy cập hơn 150+ mô hình AI, với định tuyến thông minh, phương án dự phòng, tín hiệu thị trường, và giá theo từng token. Trong một hệ thống tác nhân dựa trên đồ thị, điều đó làm cho lớp gọi mô hình dễ thay đổi hơn mà không cần viết lại đồ thị.

Một nhà xây dựng có thể giữ bộ điều phối, khung ứng dụng, cơ sở dữ liệu, hàng đợi, và thời gian chạy tác nhân bên ngoài ShareAI, sau đó sử dụng API ShareAI để truy cập mô hình tại các nút cần suy luận. Đồ thị vẫn kiểm soát luồng công việc. ShareAI kiểm soát truy cập mô hình, tính linh hoạt định tuyến, và con đường thương mại xung quanh việc sử dụng.

Sự phân biệt đó rất quan trọng. ShareAI không phải là động cơ đồ thị. Nó là thị trường mô hình và lớp API giúp các đội ngũ giữ lựa chọn mô hình mở khi hệ thống tác nhân phát triển.

Danh sách kiểm tra kỹ thuật đồ thị thực tiễn

Trước khi một hệ thống đa tác nhân đến tay khách hàng, hãy lập bản đồ đồ thị theo các điều khoản vận hành:

1. Liệt kê mọi nút. Bao gồm các tác nhân, chức năng xác định, cuộc gọi công cụ, cổng phê duyệt, bộ định tuyến, bộ đánh giá, và công việc nền.
2. Gắn nhãn mọi cuộc gọi mô hình. Theo dõi mục đích nhắc nhở, kích thước đầu vào dự kiến, kích thước đầu ra dự kiến, và lớp mô hình chấp nhận được.
3. Tách định tuyến khỏi điều phối. Để biểu đồ quyết định điều gì nên xảy ra tiếp theo, và để lớp mô hình quyết định mô hình nào đủ điều kiện để phục vụ một cuộc gọi cụ thể.
4. Đặt ngân sách ở cấp biểu đồ và cấp nút. Đặt giới hạn cho mỗi lần chạy, mỗi người dùng, mỗi khách thuê, và mỗi nút nếu có thể.
5. Sử dụng các mô hình rẻ hơn cho công việc hẹp. Phân loại, trích xuất, định dạng, và đánh giá lần đầu thường không cần cùng một mô hình như lý luận mở.
6. Xác định hành vi dự phòng. Quyết định khi nào thử lại, khi nào định tuyến đến một mô hình khác, và khi nào thất bại đóng.
7. Yêu cầu phê duyệt cho các hành động không thể đảo ngược. Các điểm kiểm tra của con người nên nằm trước các tác động bên ngoài như gửi tin nhắn, thực hiện mua hàng, xóa hồ sơ, hoặc thay đổi dữ liệu khách hàng.
8. Ghi lại danh tính biểu đồ. Ghi lại phiên bản biểu đồ, ID lần chạy, ID nút, ID mô hình, ID công cụ, khách thuê, và ngữ cảnh người dùng.
9. Phiên bản hóa các lời nhắc và công cụ. Một biểu đồ chỉ có thể gỡ lỗi nếu nhóm có thể tái tạo chính xác các hướng dẫn và cấu trúc công cụ được sử dụng tại thời gian chạy.
10. Xem xét biên độ trước khi ra mắt. Nếu tác nhân là một phần của sản phẩm hướng tới khách hàng, chi phí mô hình phải được hiển thị trước khi giá được cố định.

Góc nhìn của Nhà Xây Dựng: Chi phí Đồ Thị Trở Thành Biên Lợi Nhuận Sản Phẩm

Đối với Nhà Xây Dựng, kỹ thuật đồ thị không chỉ là về độ tin cậy. Nó còn là việc giữ cho việc sử dụng AI phù hợp với mô hình kinh doanh sản phẩm.

Nếu một ứng dụng cho phép khách hàng chạy các tác nhân nghiên cứu, tác nhân hỗ trợ, tác nhân mã hóa, hoặc tác nhân quy trình làm việc, mỗi đường dẫn đồ thị có thể tạo ra một hồ sơ chi phí khác nhau. Một luồng tóm tắt ngắn có thể dễ dàng được bao gồm trong một gói cơ bản. Một cuộc điều tra đa tác nhân sâu có thể cần giới hạn sử dụng, nạp tiền trả phí, hoặc phụ phí.

Mô hình Bảng điều khiển ShareAI Builder giúp chủ sở hữu ứng dụng kết nối các ứng dụng bên ngoài với ShareAI, thiết lập biên lợi nhuận hoặc phụ phí AI của họ, và cho phép khách hàng thanh toán trực tiếp cho ShareAI theo mức sử dụng. Điều đó mang lại cho Nhà Xây Dựng một con đường rõ ràng hơn từ các cuộc gọi mô hình bên trong đồ thị tác nhân đến giá cả khách hàng bền vững.

Thiết Kế Đồ Thị Trước Khi Nó Thiết Kế Cấu Trúc Chi Phí Của Bạn

Đồ thị tác nhân có xu hướng phát triển một cách âm thầm. Một người lập kế hoạch có thêm một chuyên gia. Một chuyên gia có thêm một công cụ. Một quy trình làm việc hỗ trợ có thêm một đường dẫn đánh giá của con người. Một phương án dự phòng trở thành một cuộc gọi mô hình thứ hai. Không có lựa chọn nào trong số đó nhất thiết là sai, nhưng mỗi lựa chọn đều thay đổi bề mặt chi phí và kiểm soát.

Bước đi hữu ích là làm cho đồ thị hiển thị sớm. Giữ sự điều phối rõ ràng, định tuyến các cuộc gọi mô hình qua một lớp có thể thay đổi khi các mô hình thay đổi, và định giá việc sử dụng hướng tới khách hàng trước khi công việc của tác nhân trở nên quá đắt để hiểu.

Bắt đầu bằng cách khám phá chợ mô hình ShareAI và tài liệu ShareAI.

Câu hỏi thường gặp

Kỹ thuật đồ thị cho các hệ thống đa tác nhân là gì?

Kỹ thuật đồ thị là thực hành thiết kế các nút, cạnh, trạng thái, phê duyệt, cuộc gọi công cụ, và cuộc gọi mô hình tạo nên một quy trình làm việc đa tác nhân. Nó tập trung vào cách công việc di chuyển qua hệ thống, không chỉ vào cách mỗi lời nhắc được viết.

Kỹ thuật đồ thị khác gì so với kỹ thuật lời nhắc?

Kỹ thuật lời nhắc cải thiện các hướng dẫn được đưa ra cho một mô hình. Kỹ thuật đồ thị xác định tác nhân hoặc chức năng nào sẽ chạy tiếp theo, công cụ nào có sẵn, mô hình nào nên được gọi, và khi nào một lần chạy nên dừng, phân nhánh, thử lại, hoặc yêu cầu phê duyệt.

Tôi có cần LangGraph để sử dụng các ý tưởng kỹ thuật đồ thị không?

Không. LangGraph là một ví dụ hữu ích về điều phối tác nhân dựa trên đồ thị, nhưng ý tưởng cốt lõi áp dụng cho bất kỳ hệ thống nào nơi nhiều tác nhân, công cụ, cuộc gọi mô hình, và các điểm quyết định được kết nối trong một quy trình làm việc.

Mô hình định tuyến nằm ở đâu trong đồ thị tác nhân?

Định tuyến mô hình thuộc về mọi nút cần suy luận. Đồ thị quyết định rằng cần một cuộc gọi mô hình; lớp định tuyến quyết định mô hình đủ điều kiện nào nên xử lý cuộc gọi đó dựa trên chi phí, độ trễ, khả dụng và sự phù hợp với nhiệm vụ.

ShareAI có thể thay thế trình điều phối tác nhân của tôi không?

Không. ShareAI không phải là trình điều phối hoặc khung ứng dụng. Đây là một thị trường AI do con người vận hành và API giúp các Nhà xây dựng truy cập và định tuyến các cuộc gọi mô hình từ các ứng dụng mà họ sở hữu và vận hành ở nơi khác.

Kỹ thuật đồ thị có thể giảm chi phí AI như thế nào?

Nó làm cho các đường dẫn đắt đỏ trở nên rõ ràng. Khi các nhóm biết nút nào gọi mô hình, tần suất các nút đó chạy và loại mô hình nào mỗi nút yêu cầu, họ có thể chuyển công việc đơn giản hơn sang các mô hình chi phí thấp hơn và dành các mô hình tiên tiến cho các bước có giá trị cao.

Các Nhà xây dựng nên theo dõi gì trong đồ thị tác nhân hướng tới khách hàng?

Các Nhà xây dựng nên theo dõi người thuê, người dùng, phiên bản đồ thị, nút, mô hình, token, độ trễ, chi phí, sự kiện dự phòng và trạng thái sử dụng có thể tính phí. Những trường này giúp dễ dàng hỗ trợ khách hàng và bảo vệ biên lợi nhuận AI.

Kỹ thuật đồ thị có liên quan đến các ứng dụng ưu tiên quyền riêng tư hoặc tự lưu trữ không?

Có. Các ứng dụng ưu tiên quyền riêng tư và tự lưu trữ vẫn cần kiểm soát rõ ràng về nơi dữ liệu chảy, các điểm cuối mô hình nào được sử dụng và hành động nào của khách hàng cần phê duyệt. Đồ thị giúp tài liệu hóa những ranh giới đó.

MCP thay đổi thiết kế đồ thị như thế nào?

MCP có thể làm cho các công cụ và nguồn dữ liệu dễ dàng được lộ ra cho các tác nhân, nhưng nó cũng làm tăng nhu cầu kiểm soát truy cập, ranh giới công cụ, xem xét lược đồ và quyền trên từng nút. Quyền truy cập công cụ nên là một phần của thiết kế đồ thị, không phải là suy nghĩ sau cùng.

Khi nào đồ thị nên bao gồm sự phê duyệt của con người?

Sự phê duyệt của con người thuộc về trước các hành động không thể đảo ngược hoặc có rủi ro cao, chẳng hạn như gửi tin nhắn ra bên ngoài, thay đổi trạng thái thanh toán, xóa dữ liệu, nâng cấp các trường hợp hỗ trợ hoặc đưa ra quyết định ảnh hưởng đến tài khoản khách hàng.

Bước đầu tiên hướng tới một đồ thị tác nhân được quản lý là gì?

Vẽ quy trình làm việc hiện tại dưới dạng các nút và chuyển đổi, sau đó đánh dấu mọi cuộc gọi mô hình, cuộc gọi công cụ, điểm phê duyệt, thử lại, phương án dự phòng và giới hạn ngân sách. Bản đồ đó thường tiết lộ các sửa chữa đầu tiên về chi phí và độ tin cậy.