Marcos de Agentes de IA: Conecta una API a múltiples modelos

Los marcos de agentes de IA son donde los equipos definen el comportamiento del agente: objetivos, herramientas, memoria, transferencias, bucles y las reglas para cuándo un agente debe detenerse. Pero la capa de acceso al modelo es una decisión diferente. Si cada marco de agente está conectado directamente a un proveedor, el producto hereda los precios, límites de tasa, interrupciones, cambios de modelo y reglas de cuenta de ese proveedor.

Es por eso que los marcos de agentes de IA funcionan mejor cuando el marco llama a una API de modelo estable y la capa de modelo maneja la elección, el enrutamiento, la conmutación por error, la visibilidad de uso y la facturación. ShareAI encaja en esa capa. La aplicación del agente permanece fuera de ShareAI, mientras que ShareAI ofrece a los desarrolladores una API para más de 150 modelos, señales del mercado, uso por token y una ruta de Constructor cuando el tráfico del agente debe monetizarse.

Por qué los Marcos de Agentes de IA Necesitan una Capa de Acceso al Modelo

Un marco de agente debería ayudarte a definir el trabajo. No debería forzar cada llamada de modelo, paso de herramienta y decisión de respaldo en una ruta de proveedor codificada rígidamente.

Un agente de producción generalmente tiene diferentes tipos de llamadas de modelo. Un planificador puede necesitar un razonamiento más fuerte. Un clasificador puede necesitar bajo costo y baja latencia. Un resumidor puede necesitar una ruta más económica. Una respuesta visible para el cliente puede necesitar un modelo de mayor calidad y un respaldo más seguro. Tratar todos esos pasos como un modelo predeterminado hace que el costo y la confiabilidad sean más difíciles de controlar.

ShareAI le da a la aplicación una capa de modelo estable. Los desarrolladores pueden comparar modelos, probar opciones y enrutar tráfico a través de una API en lugar de mantener integraciones de proveedores separadas para cada marco o paso del agente.

El Patrón Básico de Conexión

La mayoría de las integraciones siguen el mismo patrón:

• Mantén tu marco de agente responsable de la lógica del flujo de trabajo, herramientas y estado.
• Apunta el cliente de modelo del marco al endpoint de completaciones de chat de ShareAI.
• Usa una clave API de ShareAI desde tu entorno del lado del servidor.
• Elige la ruta del modelo que se ajuste a cada paso del agente.
• Registra el uso por usuario, espacio de trabajo, característica o ruta del agente antes del lanzamiento.

Este patrón es especialmente útil cuando tu marco ya admite un cliente de modelo de chat compatible con OpenAI. LangChain documenta cómo su integración ChatOpenAI puede usar una URL base configurable, que es el patrón que muchos equipos usan al enrutar a través de un proxy, puerta de enlace o API de modelo compatible. Documentación de LangChain ChatOpenAI.

Paso 1: Probar la solicitud de ShareAI

Antes de cambiar una configuración del framework, realiza una solicitud directa del lado del servidor. Esto te proporciona una línea base limpia para las credenciales, la selección del modelo y la forma de la respuesta.

curl -X POST "https://api.shareai.now/v1/chat/completions" \"

Mantén la clave en el servidor. No la expongas en el código del navegador, repositorios públicos, complementos del lado del cliente o plantillas compartidas de agentes. Cuando la solicitud tenga éxito, mueve el mismo endpoint y clave a la configuración del framework.

Paso 2: Apuntar el framework a ShareAI

Para frameworks basados en código, el patrón suele ser una URL base, una clave API y un nombre de modelo. En LangChain, esto puede verse así:

import os

Para herramientas que usan variables de entorno, configura las variables API del modelo del framework con la clave de ShareAI y la URL base en el entorno de despliegue, luego reinicia el runtime del trabajador o agente.

SHAREAI_API_KEY="tu-clave-del-lado-del-servidor"

Para herramientas visuales, busca configuraciones de proveedor de modelos o configuraciones de proveedor personalizado. La documentación de Dify, por ejemplo, separa los proveedores del sistema de los proveedores personalizados en su configuración de proveedor de modelos: Documentación del proveedor de modelos de Dify. Las etiquetas exactas varían según el producto, pero las entradas prácticas suelen ser las mismas: clave, endpoint, modelo y alcance de uso.

Paso 3: Dividir las rutas de los agentes por tarea

Una vez que el framework pueda llamar a ShareAI, evita enviar cada paso al mismo modelo por costumbre. Una mejor configuración asigna rutas de modelo según el tipo de tarea.

• Planificación de la ruta: utiliza un modelo más fuerte para la descomposición, elección de herramientas y razonamiento prolongado.
• Ruta rápida: utiliza un modelo de menor costo para clasificación, reescritura, extracción o formato.
• Ruta visible para el cliente: utiliza el modelo que mejor equilibre calidad, latencia y confiabilidad para la respuesta final.
• Ruta de respaldo: elige un modelo de respaldo que pueda completar la misma tarea cuando la ruta preferida se degrade.

Aquí es donde un enfoque de una sola API se vuelve útil. El marco no necesita una integración separada para cada decisión del proveedor. La aplicación puede mantener un patrón de llamada estable mientras el equipo cambia las rutas según cambien el precio, la latencia, la disponibilidad o la calidad.

Si ya estás ejecutando múltiples agentes, trata esto como parte de tu modelo operativo, no solo como una configuración de código. El Operaciones de flota de agentes de IA guía más amplia explica cómo encajan el enrutamiento, los precios y la propiedad una vez que un agente se convierte en muchos.

Dónde encaja la monetización del Constructor

Algunos flujos de trabajo de agentes son centros de costos internos. Otros son características de productos orientadas al cliente. Si un Constructor posee una aplicación, complemento, flujo de trabajo, chatbot o producto de agente fuera de ShareAI, ese tráfico de agentes puede convertirse en parte de un modelo de negocio basado en el uso.

El Constructor aún construye y posee la aplicación fuera de ShareAI. ShareAI maneja el uso de inferencia de IA enrutada, el pago del cliente por ese uso enrutado, la configuración de margen o recargo, y el pago mensual al Constructor basado en las ganancias generadas.

Eso importa para los marcos de agentes porque los agentes pueden crear un uso desigual. Un cliente puede ejecutar unos pocos resúmenes de soporte por mes. Otro puede ejecutar miles de llamadas de investigación, triaje y flujo de trabajo. Con la monetización de ShareAI Builder, el Constructor puede enrutar el tráfico de IA a través de ShareAI, establecer un margen y permitir que los clientes con uso intensivo paguen por la inferencia que generan.

Cuando estés listo para mapear el lado comercial, abre el Consola del Constructor. Para la planificación de la implementación, mantén el documentación de ShareAI cerca.

Lista de Verificación de Producción para Marcos de Agentes de IA

• Mantén las claves API de ShareAI del lado del servidor.
• Nombra cada ruta de agente antes del lanzamiento.
• Rastrea el uso por cliente, espacio de trabajo, función o agente.
• Separa las rutas de razonamiento avanzado de las rutas de utilidad de bajo costo.
• Prueba el marco con al menos un camino de modelo de respaldo.
• Registra el modelo, la latencia, el uso de tokens, la razón del error y la ruta final.
• Evita colocar claves de proveedor dentro de los prompts o plantillas de agentes exportadas.
• Decide qué pasos del agente son facturables al cliente antes de que crezca el tráfico.

El despliegue más pequeño útil es un agente, una ruta, un respaldo y una etiqueta de uso. Una vez que ese camino sea medible, expande el patrón al siguiente paso del agente.

Preguntas frecuentes

¿Qué son los marcos de agentes de IA?

Los marcos de agentes de IA ayudan a los desarrolladores a definir el comportamiento del agente, herramientas, memoria, flujos de trabajo, estado y bucles de ejecución. Son diferentes de la capa de acceso al modelo que decide qué modelo atiende cada solicitud.

¿Por qué conectar los marcos de agentes de IA a una API?

Una API mantiene más fácil cambiar el acceso al modelo. Los equipos pueden dirigir diferentes pasos del agente a diferentes modelos, comparar señales del mercado y reducir la dependencia de una integración de proveedor.

¿Es ShareAI un marco de agentes de IA?

No. ShareAI es un mercado y API de IA. No construye la aplicación del agente. Puede estar detrás de un marco de agentes como la capa de acceso al modelo, enrutamiento, uso, facturación y monetización.

¿Puedo usar ShareAI con LangChain?

Sí, cuando la integración de LangChain está configurada para llamar al endpoint de completaciones de chat de ShareAI con una clave API de ShareAI y un nombre de modelo compatible. Pruebe la solicitud directa de la API antes de integrarla en la cadena completa.

¿Pueden los constructores de agentes visuales usar este patrón?

A menudo, sí. Si la herramienta visual admite un proveedor de modelos personalizado o un endpoint compatible con OpenAI, la configuración generalmente se reduce al endpoint, clave API, nombre del modelo y dónde la herramienta almacena las credenciales del proveedor.

¿Cómo debo elegir modelos para diferentes pasos del agente?

Comience con la tarea. Use modelos más potentes para la planificación y respuestas de alto valor, modelos de menor costo para clasificaciones simples o formateo, y rutas de respaldo para pasos que no pueden fallar silenciosamente.

¿Cómo ayuda la conmutación por error a los agentes de IA?

La conmutación por error le da a un agente otra ruta de modelo cuando la ruta preferida no está disponible, es lenta, demasiado costosa o inadecuada para una solicitud. Es más útil cuando se prueba antes de que crezca el tráfico de producción.

¿Pueden los constructores monetizar el uso del marco de agentes?

Sí, cuando el constructor posee la aplicación, flujo de trabajo, complemento, chatbot o producto de agente fuera de ShareAI y dirige su tráfico de inferencia de IA a través de ShareAI. El constructor puede establecer un margen o recargo para ese tráfico.

¿Quién paga por el uso del agente dirigido?

En el modelo del constructor, el cliente, espacio de trabajo, usuario o cuenta que genera el uso de IA dirigido paga a ShareAI por ese uso. ShareAI paga al constructor mensualmente según las ganancias generadas por el margen o recargo configurado.

¿Ganan los proveedores y los constructores de la misma manera?

No. Los constructores ganan del tráfico de aplicaciones que dirigen a través de ShareAI. Los proveedores ganan a través de programas de proveedores aprobados al contribuir con capacidad de cómputo elegible a la red de ShareAI.

¿Qué debo rastrear antes del lanzamiento?

Rastree el nombre del agente, usuario o espacio de trabajo, ruta del modelo, latencia, uso de tokens, tasa de errores, eventos de respaldo y la función o acción del cliente que activó la llamada. Esos datos facilitan mucho las decisiones de precios y enrutamiento más adelante.