Weave for Agents est en préversion publique. Les fonctionnalités, les API et l’interface utilisateur de la vue Agents peuvent encore évoluer avant la disponibilité générale.
@weave.op, consultez plutôt Tracer des applications LLM.
Avant de commencer
weave et initialisez votre projet. Cette étape enregistre votre équipe et votre projet auprès de Weave afin que le SDK achemine les spans vers le bon emplacement dans l’interface utilisateur.
- Python
- TypeScript
[YOUR-TEAM] par le nom de votre équipe W&B et [YOUR-PROJECT] par le nom de votre projet W&B.weave.init() avant tout appel à start_session(), start_turn(), start_llm() ou start_tool(). Toutes les fonctions de traçage des agents ne font silencieusement rien lorsque le traçage est désactivé ou que l’appel à init est absent. Vous pouvez donc laisser l’instrumentation dans le code de production et la contrôler via la configuration.Le modèle de données des agents
Le diagramme suivant montre comment un agent englobe plusieurs sessions, une session englobe plusieurs tours de conversation, et ainsi de suite.
Une session regroupe les tours de conversation à l’aide d’un attribut
conversation_id partagé plutôt que d’un span parent. Ainsi, chaque tour de conversation démarre sa propre trace OTel. Cette conception prend en charge le traçage distribué et l’exécution en parallèle. Le client envoie les spans directement au collecteur OTel, sans agrégation côté serveur.
API de traçage des agents
with en Python, ou try/finally en TypeScript), ou que vous pouvez fermer manuellement en appelant .end().
Démarrer une session
start_session() / startSession() définit un attribut conversation_id sur tous les spans enfants afin de regrouper les tours de conversation dans l’onglet Agents. Si vous fournissez un session_id, il doit rester stable tout au long de la conversation. Réutilisez le même ID pour ajouter de nouveaux tours de conversation à une session existante. Si vous n’indiquez pas de session_id, le SDK génère automatiquement un UUID.
La session active est stockée dans le contexte (un ContextVar en Python ou AsyncLocalStorage en Node.js), de sorte que tout code exécuté dans le même contexte asynchrone peut la récupérer avec weave.get_current_session() / weave.getCurrentSession() sans avoir à passer explicitement l’objet session.
- Python
- TypeScript
Démarrer un tour de conversation
start_turn() / startTurn() crée un nouveau span invoke_agent qui devient la racine d’une nouvelle trace OTel. Weave utilise ce span pour représenter un échange complet entre l’utilisateur et l’agent dans la vue chronologique.
Lorsqu’elle est appelée comme fonction autonome, elle détermine la session active à partir du contexte et hérite de son ID de conversation. Si aucune session n’est active, Weave crée le tour de conversation sans conversation_id et ne le regroupe pas avec d’autres tours de conversation.
- Python
- TypeScript
Démarrer un appel LLM
start_llm() / startLLM() crée un span chat imbriqué sous le tour de conversation en cours. Weave utilise ce span pour afficher l’utilisation des jetons, le nom du modèle, les messages d’entrée et de sortie, ainsi que le raisonnement dans la vue Agents.
- Python
- TypeScript
llm avant qu’il ne se ferme :
- Python
- TypeScript
provider_name / providerName explicitement. Weave ne le déduit pas de la chaîne du modèle.
Démarrer un appel d’outil
start_tool() / startTool() crée un span execute_tool. Le span devient l’enfant du span OTel actif dans le contexte (généralement le span chat de l’appel LLM qui a généré l’appel d’outil).
- Python
- TypeScript
- Python
- TypeScript
Schémas d’utilisation pour le traçage des agents
Messagereprésente une seule entrée dans une conversation : une entrée de l’utilisateur, une réponse de l’assistant, un prompt système ou le résultat d’un outil. Affectez cette valeur àllm.input_messages/llm.inputMessagespour enregistrer ce que le modèle a reçu et produit.Usagecapture le nombre de jetons dans la réponse du LLM et doit être affecté àllm.usage.
Gestionnaire de contexte ou schéma try-finally
start_llm() / startLLM() ou start_tool() / startTool() sans avoir à conserver de référence explicite au parent. Cela fonctionne d’un module à l’autre tant que le code s’exécute dans le même contexte asynchrone. Pour récupérer les objets actifs depuis n’importe quel point de la pile d’appels, utilisez weave.get_current_session() / weave.getCurrentSession(), weave.get_current_turn() / weave.getCurrentTurn(), et weave.get_current_llm() / weave.getCurrentLLM().
- Python
- TypeScript
Démarrage et arrêt manuels
.end() explicitement lorsque vous ne pouvez pas recourir à des blocs with ou à try/finally. Par exemple, lorsque des spans sont ouverts et fermés dans des appels de fonction distincts, ou lorsque vous gérez le cycle de vie asynchrone en dehors d’une coroutine. Il vous incombe d’appeler .end() sur chaque objet que vous créez, afin que les spans se ferment et soient envoyés au collecteur.
- Python
- TypeScript
Conventions sémantiques
Comment les spans s’affichent dans l’interface Weave
https://wandb.ai/[YOUR-TEAM]/[YOUR-PROJECT]/weave/agents.
- La Sessions list affiche toutes les sessions avec une mini-carte de l’activité des tours de conversation.
- La sur plusieurs tours de conversation session view s’ouvre lorsque vous cliquez sur une session et affiche chaque tour de conversation, ses appels LLM, ses exécutions d’outils, le nombre de jetons et le feedback associé.
- Chaque span
chataffiche les messages d’entrée, les messages de sortie, le nom du modèle et l’utilisation. - Chaque span
execute_toolaffiche le nom de l’outil, les arguments et le résultat.