মাল্টি-এজেন্ট সিস্টেমের জন্য গ্রাফ ইঞ্জিনিয়ারিং: এজেন্ট কাজ পরিচালনা করুন

বহু-এজেন্ট সিস্টেমগুলি সাধারণ চ্যাটবটের মতো ব্যর্থ হয় না। এগুলি হ্যান্ডঅফের মাধ্যমে ব্যর্থ হয়: পরিকল্পনাকারী ভুল বিশেষজ্ঞকে কল করে, পুনরুদ্ধার ধাপটি একটি সীমাবদ্ধতা এড়িয়ে যায়, একটি টুল নোড খুব বেশি ব্যয় করে, অথবা একটি দীর্ঘমেয়াদী কাজ ব্যয়বহুল কাজ একই ফ্রন্টিয়ার মডেলে রাউটিং করে রাখে।.

এ কারণেই গ্রাফ ইঞ্জিনিয়ারিং প্রোডাকশনে এজেন্ট তৈরি করা দলগুলির জন্য একটি ব্যবহারিক শৃঙ্খলা হয়ে উঠছে। গ্রাফটি এজেন্ট কাজের জন্য অপারেটিং মানচিত্র। এটি সংজ্ঞায়িত করে কোন নোডগুলি কাজ করতে পারে, কোন এজগুলি নেওয়া যেতে পারে, কোথায় স্টেট বহন করা হয়, কখন একজন মানুষের পরবর্তী ধাপ অনুমোদন করতে হবে, এবং মডেল কলগুলি একটি নিয়ন্ত্রিত API স্তরের মাধ্যমে কোথায় রাউট করা উচিত।.

কেন এখন গ্রাফ ইঞ্জিনিয়ারিং গুরুত্বপূর্ণ

প্রাথমিক এজেন্ট সিস্টেমগুলি প্রায়ই একটি লুপের মতো দেখাত: একটি লক্ষ্য গ্রহণ করা, একটি মডেল কল করা, একটি টুল ব্যবহার করা, ফলাফল পরিদর্শন করা, পুনরাবৃত্তি করা। আধুনিক এজেন্ট সিস্টেমগুলি আরও কাঠামোগত হয়ে উঠছে। যেমন ফ্রেমওয়ার্ক LangGraph স্টেট, নোড এবং এজের মাধ্যমে গ্রাফ বর্ণনা করে. । গুগল প্রচার করেছে Agent2Agent আন্তঃপরিচালনীয়তা এজেন্ট হ্যান্ডঅফের জন্য। MCP AI অ্যাপ্লিকেশনগুলিকে একটি মানক উপায় প্রদান করে সংযোগ করার জন্য টুল, ডেটা এবং ওয়ার্কফ্লো.

এই উপাদানগুলি এজেন্ট সিস্টেমগুলিকে আরও সক্ষম করে তোলে, তবে এগুলি কার্যকরী পথটিকে যুক্তিসঙ্গতভাবে বোঝা আরও কঠিন করে তোলে। একবার এজেন্টগুলি ডেলিগেট, শাখা, পুনরায় চেষ্টা এবং বাহ্যিক টুল কল করতে পারে, তখন সিস্টেমের খরচ এবং ঝুঁকি আর একটি একক প্রম্পটে সীমাবদ্ধ থাকে না। এগুলি গ্রাফ জুড়ে বিতরণ করা হয়।.

গ্রাফটিকে প্রোডাকশন আর্কিটেকচার হিসাবে বিবেচনা করুন

একটি প্রোডাকশন এজেন্ট গ্রাফ যথেষ্ট স্পষ্ট হওয়া উচিত যাতে একজন প্রকৌশলী ছয়টি প্রশ্নের উত্তর দিতে পারে প্রতিটি প্রম্পট না পড়েই:

• কোন নোডগুলি একটি মডেল কল করার অনুমতি পায়?
• কোন নোডগুলি টুল বা বাহ্যিক সিস্টেম ব্যবহার করতে পারে?
• কোন ট্রানজিশনগুলির জন্য মানব পর্যালোচনা প্রয়োজন?
• প্রতিটি ধাপের জন্য কোন মডেল বা মডেল শ্রেণি উপযুক্ত?
• পুনরায় চেষ্টা, বিকল্প ব্যবস্থা এবং বাজেট সীমা কোথায় প্রয়োগ করা হয়?
• একটি খারাপ রান হওয়ার পরে দল কীভাবে যা ঘটেছিল তা পুনর্গঠন করবে?

এটি শুধুমাত্র একটি পর্যবেক্ষণ ব্যায়াম নয়। এটি একটি পণ্য এবং মার্জিন ব্যায়ামও। একটি কম-ঝুঁকিপূর্ণ শ্রেণিবিন্যাস নোড, একটি পুনরুদ্ধার নোড, একটি কোড-উৎপাদন নোড এবং একটি চূড়ান্ত পর্যালোচনা নোড একই মডেল ব্যবহার করা উচিত নয়। যখন প্রতিটি নোড ডিফল্টভাবে সবচেয়ে ব্যয়বহুল মডেল ব্যবহার করে, তখন গ্রাফটি একটি খরচ বৃদ্ধিকারক হয়ে ওঠে।.

গ্রাফে ShareAI কোথায় ফিট করে

ShareAI দলগুলিকে ১৫০+ AI মডেলের জন্য একটি একক API প্রদান করে, স্মার্ট রাউটিং, বিকল্প ব্যবস্থা, মার্কেটপ্লেস সংকেত এবং পে-পর-টোকেন মূল্য নির্ধারণ সহ। একটি গ্রাফ-ভিত্তিক এজেন্ট সিস্টেমে, এটি মডেল-কল স্তরটি গ্রাফটি পুনরায় লেখার প্রয়োজন ছাড়াই পরিবর্তন করা সহজ করে তোলে।.

একজন নির্মাতা ShareAI-এর বাইরে অর্কেস্ট্রেটর, অ্যাপ ফ্রেমওয়ার্ক, ডাটাবেস, কিউ এবং এজেন্ট রানটাইম রাখতে পারে, তারপর শেয়ারএআই এপিআই যেসব নোডে ইনফারেন্স প্রয়োজন সেখানে মডেল অ্যাক্সেসের জন্য এটি ব্যবহার করতে পারে। গ্রাফ এখনও কর্মপ্রবাহ নিয়ন্ত্রণ করে। ShareAI মডেল অ্যাক্সেস, রাউটিং নমনীয়তা এবং ব্যবহারের চারপাশে বাণিজ্যিক পথ নিয়ন্ত্রণ করে।.

এই পার্থক্যটি গুরুত্বপূর্ণ। ShareAI গ্রাফ ইঞ্জিন নয়। এটি মডেল মার্কেটপ্লেস এবং API স্তর যা দলগুলিকে এজেন্ট সিস্টেমগুলি বিকশিত হওয়ার সাথে সাথে মডেল পছন্দ খোলা রাখতে সহায়তা করে।.

একটি ব্যবহারিক গ্রাফ ইঞ্জিনিয়ারিং চেকলিস্ট

একটি মাল্টি-এজেন্ট সিস্টেম গ্রাহকদের কাছে পৌঁছানোর আগে, অপারেশনাল শর্তে গ্রাফটি ম্যাপ করুন:

1. প্রতিটি নোড তালিকাভুক্ত করুন।. এজেন্ট, নির্ধারক ফাংশন, টুল কল, অনুমোদন গেট, রাউটার, মূল্যায়ক এবং ব্যাকগ্রাউন্ড কাজ অন্তর্ভুক্ত করুন।.
2. প্রতিটি মডেল কল লেবেল করুন।. প্রম্পটের উদ্দেশ্য, প্রত্যাশিত ইনপুট আকার, প্রত্যাশিত আউটপুট আকার এবং গ্রহণযোগ্য মডেল শ্রেণি ট্র্যাক করুন।.
3. অর্কেস্ট্রেশন থেকে রাউটিং পৃথক করুন।. গ্রাফকে সিদ্ধান্ত নিতে দিন কী ঘটবে পরবর্তী, এবং মডেল স্তরকে সিদ্ধান্ত নিতে দিন কোন যোগ্য মডেল একটি নির্দিষ্ট কল পরিবেশন করবে।.
4. গ্রাফ এবং নোড স্তরে বাজেট নির্ধারণ করুন।. যেখানে সম্ভব, প্রতি-চালনা, প্রতি-ব্যবহারকারী, প্রতি-টেন্যান্ট, এবং প্রতি-নোড সীমা নির্ধারণ করুন।.
5. সংকীর্ণ কাজের জন্য সস্তা মডেল ব্যবহার করুন।. শ্রেণীবিভাগ, নিষ্কাশন, বিন্যাস, এবং প্রথম-পাস পর্যালোচনার জন্য প্রায়শই একই মডেল প্রয়োজন হয় না যেমন খোলা-সমাপ্ত যুক্তি।.
6. ব্যাকআপ আচরণ সংজ্ঞায়িত করুন।. সিদ্ধান্ত নিন কখন পুনরায় চেষ্টা করবেন, কখন অন্য মডেলে রাউট করবেন, এবং কখন ব্যর্থ হবেন।.
7. অপরিবর্তনীয় ক্রিয়ার জন্য অনুমোদন প্রয়োজন।. মানব চেকপয়েন্টগুলি বাহ্যিক পার্শ্বপ্রভাবের আগে থাকা উচিত যেমন বার্তা পাঠানো, কেনাকাটা করা, রেকর্ড মুছে ফেলা, বা গ্রাহকের ডেটা পরিবর্তন করা।.
8. গ্রাফ পরিচয় লগ করুন।. গ্রাফ সংস্করণ, রান আইডি, নোড আইডি, মডেল আইডি, টুল আইডি, টেন্যান্ট, এবং ব্যবহারকারী প্রসঙ্গ সংগ্রহ করুন।.
9. প্রম্পট এবং টুলের সংস্করণ নির্ধারণ করুন।. একটি গ্রাফ শুধুমাত্র ডিবাগযোগ্য যদি দলটি রানটাইমে ব্যবহৃত সঠিক নির্দেশাবলী এবং টুল স্কিমা পুনরুত্পাদন করতে পারে।.
10. চালুর আগে মার্জিন পর্যালোচনা করুন।. যদি এজেন্টটি একটি গ্রাহক-মুখী পণ্যের অংশ হয়, তবে মূল্য নির্ধারণের আগে মডেলের খরচ দৃশ্যমান হতে হবে।.

নির্মাতার দৃষ্টিকোণ: গ্রাফ খরচ পণ্যের মার্জিন হয়ে ওঠে।

নির্মাতাদের জন্য, গ্রাফ ইঞ্জিনিয়ারিং শুধুমাত্র নির্ভরযোগ্যতার বিষয়ে নয়। এটি এআই ব্যবহারের পণ্য ব্যবসায়িক মডেলের সাথে সামঞ্জস্য রাখার বিষয়ে।.

যদি একটি অ্যাপ গ্রাহকদের গবেষণা এজেন্ট, সাপোর্ট এজেন্ট, কোডিং এজেন্ট, বা ওয়ার্কফ্লো এজেন্ট চালানোর অনুমতি দেয়, তবে প্রতিটি গ্রাফ পথ একটি ভিন্ন খরচ প্রোফাইল তৈরি করতে পারে। একটি সংক্ষিপ্ত সারাংশ প্রবাহ একটি বেস প্ল্যানে অন্তর্ভুক্ত করা সহজ হতে পারে। একটি গভীর বহু-এজেন্ট তদন্তে ব্যবহারের সীমা, অর্থপ্রদানের শীর্ষ আপ, বা একটি অতিরিক্ত চার্জ প্রয়োজন হতে পারে।.

মডেল ShareAI নির্মাতা কনসোল অ্যাপ মালিকদেরকে বাইরের অ্যাপ্লিকেশনগুলোকে ShareAI-এর সাথে সংযুক্ত করতে, তাদের AI মার্জিন বা অতিরিক্ত চার্জ সেট করতে, এবং গ্রাহকদের সরাসরি ব্যবহারের জন্য ShareAI-কে অর্থপ্রদান করতে সাহায্য করে। এটি নির্মাতাদের এজেন্ট গ্রাফের ভিতরে মডেল কল থেকে টেকসই গ্রাহক মূল্য নির্ধারণের জন্য একটি স্পষ্ট পথ দেয়।.

আপনার খরচ কাঠামো ডিজাইন করার আগে গ্রাফ ডিজাইন করুন।

এজেন্ট গ্রাফগুলো সাধারণত নীরবে বৃদ্ধি পায়। একজন পরিকল্পনাকারী আরেকজন বিশেষজ্ঞ অর্জন করে। একজন বিশেষজ্ঞ আরেকটি টুল অর্জন করে। একটি সাপোর্ট ওয়ার্কফ্লো একটি মানব পর্যালোচনা পথ অর্জন করে। একটি ফ্যালব্যাক একটি দ্বিতীয় মডেল কল হয়ে ওঠে। এই পছন্দগুলোর কোনোটিই প্রয়োজনীয়ভাবে ভুল নয়, তবে প্রতিটি খরচ এবং নিয়ন্ত্রণ পৃষ্ঠকে পরিবর্তন করে।.

কার্যকর পদক্ষেপটি হল গ্রাফটি আগে থেকেই দৃশ্যমান করা। অর্কেস্ট্রেশন স্পষ্ট রাখুন, মডেল কলগুলোকে এমন একটি স্তরের মাধ্যমে রুট করুন যা মডেল পরিবর্তনের সাথে পরিবর্তিত হতে পারে, এবং গ্রাহক-মুখী ব্যবহারের মূল্য নির্ধারণ করুন এজেন্ট কাজ বোঝার জন্য খুব ব্যয়বহুল হওয়ার আগে।.

অনুসন্ধান শুরু করুন ShareAI মডেল মার্কেটপ্লেস থেকে এবং ShareAI ডকুমেন্টেশন.

প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী

বহু-এজেন্ট সিস্টেমের জন্য গ্রাফ ইঞ্জিনিয়ারিং কী?

গ্রাফ ইঞ্জিনিয়ারিং হল নোড, এজ, স্টেট, অনুমোদন, টুল কল এবং মডেল কল ডিজাইন করার প্রক্রিয়া যা একটি বহু-এজেন্ট ওয়ার্কফ্লো তৈরি করে। এটি কেবল প্রতিটি প্রম্পট কীভাবে লেখা হয়েছে তার উপর নয়, বরং কাজটি কীভাবে সিস্টেমের মাধ্যমে চলে তার উপরও মনোযোগ দেয়।.

গ্রাফ ইঞ্জিনিয়ারিং কীভাবে প্রম্পট ইঞ্জিনিয়ারিং থেকে আলাদা?

প্রম্পট ইঞ্জিনিয়ারিং একটি মডেলকে দেওয়া নির্দেশনাগুলো উন্নত করে। গ্রাফ ইঞ্জিনিয়ারিং সংজ্ঞায়িত করে কোন এজেন্ট বা ফাংশন পরবর্তী চালানো হবে, কোন টুলগুলো উপলব্ধ, কোন মডেলটি কল করা উচিত, এবং কখন একটি রান থামানো, শাখা করা, পুনরায় চেষ্টা করা, বা অনুমোদনের অনুরোধ করা উচিত।.

গ্রাফ ইঞ্জিনিয়ারিং ধারণাগুলো ব্যবহার করতে কি আমার LangGraph প্রয়োজন?

না। LangGraph গ্রাফ-ভিত্তিক এজেন্ট অর্কেস্ট্রেশনের একটি উপযোগী উদাহরণ, তবে মূল ধারণাটি যেকোনো সিস্টেমে প্রযোজ্য যেখানে বহু এজেন্ট, টুল, মডেল কল এবং সিদ্ধান্ত পয়েন্টগুলো একটি ওয়ার্কফ্লোতে সংযুক্ত থাকে।.

এজেন্ট গ্রাফে মডেল রাউটিং কোথায় ফিট করে?

মডেল রাউটিং প্রতিটি নোডে প্রয়োজন যেখানে ইনফারেন্স প্রয়োজন। গ্রাফ সিদ্ধান্ত নেয় যে একটি মডেল কল প্রয়োজন; রাউটিং স্তর খরচ, লেটেন্সি, উপলব্ধতা এবং কাজের উপযুক্ততার উপর ভিত্তি করে কোন যোগ্য মডেল সেই কলটি পরিচালনা করবে তা সিদ্ধান্ত নেয়।.

ShareAI কি আমার এজেন্ট অর্কেস্ট্রেটর প্রতিস্থাপন করতে পারে?

না। ShareAI একটি অর্কেস্ট্রেটর বা অ্যাপ ফ্রেমওয়ার্ক নয়। এটি একটি মানুষ-চালিত AI মার্কেটপ্লেস এবং API যা বিল্ডারদের তাদের মালিকানাধীন এবং অন্যত্র পরিচালিত অ্যাপ্লিকেশন থেকে মডেল কল অ্যাক্সেস এবং রাউট করতে সাহায্য করে।.

গ্রাফ ইঞ্জিনিয়ারিং কীভাবে AI খরচ কমাতে পারে?

এটি ব্যয়বহুল পথগুলি দৃশ্যমান করে তোলে। একবার দলগুলি জানতে পারে কোন নোডগুলি মডেল কল করে, কতবার সেই নোডগুলি চালানো হয় এবং প্রতিটি নোডের জন্য কোন মডেল ক্লাস প্রয়োজন, তারা সহজ কাজগুলি কম খরচের মডেলে সরিয়ে নিতে পারে এবং উচ্চ-মূল্যের ধাপগুলির জন্য সীমান্ত মডেল সংরক্ষণ করতে পারে।.

গ্রাহক-সামনে এজেন্ট গ্রাফে বিল্ডারদের কী ট্র্যাক করা উচিত?

বিল্ডারদের টেন্যান্ট, ব্যবহারকারী, গ্রাফ সংস্করণ, নোড, মডেল, টোকেন, লেটেন্সি, খরচ, ফ্যালব্যাক ইভেন্ট এবং বিলযোগ্য ব্যবহার অবস্থার ট্র্যাক করা উচিত। এই ক্ষেত্রগুলি গ্রাহকদের সমর্থন করা এবং AI মার্জিন রক্ষা করা সহজ করে তোলে।.

গ্রাফ ইঞ্জিনিয়ারিং কি প্রাইভেসি-প্রথম বা স্ব-হোস্টেড অ্যাপগুলির জন্য প্রাসঙ্গিক?

হ্যাঁ। প্রাইভেসি-প্রথম এবং স্ব-হোস্টেড অ্যাপগুলির এখনও ডেটা কোথায় প্রবাহিত হয়, কোন মডেল এন্ডপয়েন্টগুলি ব্যবহৃত হয় এবং কোন গ্রাহক ক্রিয়াগুলি অনুমোদনের প্রয়োজন তা নিয়ে স্পষ্ট নিয়ন্ত্রণ প্রয়োজন। গ্রাফ সেই সীমানাগুলি নথিভুক্ত করতে সাহায্য করে।.

MCP কীভাবে গ্রাফ ডিজাইন পরিবর্তন করে?

MCP এজেন্টদের কাছে টুল এবং ডেটা সোর্সগুলি সহজে প্রকাশ করতে পারে, তবে এটি অ্যাক্সেস নিয়ন্ত্রণ, টুল সীমানা, স্কিমা পর্যালোচনা এবং প্রতি-নোড অনুমতির প্রয়োজনীয়তা বাড়ায়। টুল অ্যাক্সেস গ্রাফ ডিজাইনের অংশ হওয়া উচিত, পরবর্তী চিন্তা নয়।.

কখন একটি গ্রাফে মানব অনুমোদন অন্তর্ভুক্ত করা উচিত?

মানব অনুমোদন অপরিবর্তনীয় বা উচ্চ-ঝুঁকিপূর্ণ ক্রিয়াগুলির আগে অন্তর্ভুক্ত করা উচিত, যেমন বাহ্যিকভাবে বার্তা পাঠানো, বিলিং অবস্থার পরিবর্তন, ডেটা মুছে ফেলা, সাপোর্ট কেস বাড়ানো বা গ্রাহক অ্যাকাউন্টকে প্রভাবিত করে এমন সিদ্ধান্ত নেওয়া।.

পরিচালিত এজেন্ট গ্রাফের দিকে প্রথম পদক্ষেপ কী?

বর্তমান ওয়ার্কফ্লোটি নোড এবং ট্রানজিশন হিসেবে আঁকুন, তারপর প্রতিটি মডেল কল, টুল কল, অনুমোদন পয়েন্ট, পুনরায় চেষ্টা, ফ্যালব্যাক এবং বাজেট সীমা চিহ্নিত করুন। সেই মানচিত্র সাধারণত প্রথম খরচ এবং নির্ভরযোগ্যতার সমাধানগুলি প্রকাশ করে।.