Circle Research publie une extension @secure_tool pour le SDK OpenAI Agents afin d'automatiser l'approbation des utilisateurs pour les actions et les flux de travail des agents AI
Vous ne voulez pas que votre agent d'intelligence artificielle hallucine et envoie votre cryptomonnaie à la mauvaise adresse car deux chaînes se sont mélangées. Il doit exister un moyen de vérifier que la transaction demandée par l'utilisateur est bien celle que l'agent exécute.
L'approche naïve consiste à demander au LLM de vérifier auprès de l'utilisateur. La dernière chose à faire avec une application sensible à la sécurité est de déléguer la sécurité à une ingénierie rapide et intelligente.
L'architecture agentique sécurisée doit être conçue dès la conception, et non selon les instructions. L'article précédent expliquait comment utiliser des fonctions appelées outils pour fournir aux agents une interface sécurisée pour les opérations de portefeuille. Les agents ont appelé les fonctions pour signer des transactions basées sur la blockchain mais n'ont jamais vu les clés du portefeuille elles-mêmes. Un LLM qui ne connaît pas un secret ne peut pas le divulguer. Cet article explique comment concevoir des outils qui vérifient automatiquement si une opération particulière a été approuvée par l'utilisateur.
L'approche la plus simple consiste à outil pour demander à l'utilisateur : C'est vraiment ce que tu veux faire ? Idéalement, le framework d'IA devrait automatiser ce processus afin que le développeur n'ait pas à ajouter de code répétitif.
Le post précédent introduit CHÊNE: Kit d'agents orientés objet. Cet article montre comment OOAK vous permet de créer un code d'agent sécurisé qui supervise les actions de l'agent afin de s'assurer qu'il correspond à l'intention de l'utilisateur.
Présentation de @secure_tool
Le framework OOAK automatise les contrôles de sécurité. Il introduit un nouveau décorateur d'outils d'agent d'IA appelé @secure_tool qui enveloppe l'appel de fonction avec des hooks avant/après. Ces hooks connectent les fonctions de rappel à une classe appelée WorkflowManager. Avant d'exécuter une fonction, @secure_tool utilisera la fonction before_invoke_tool pour vérifier les autorisations. Après l'exécution, @secure_tool signalera le résultat à l'outil after_invoke_tool.
Une action d'agent d'IA n'est en réalité qu'un nom de fonction et la liste des arguments de cette fonction. Dans le cas des méthodes d'objet, l'action est également spécifique à l'identité de l'instance d'objet. Toute action, ou intention d'exécuter une action, peut être représentée sous la forme d'une simple chaîne json.
{“instance”: “wallet 3”, "function": "send_usdc", "arguments": {"sender": "0x222222", "receiver": "0xaaaa", "amount": 10}}Lorsque l'agent AI appelle un @secure_tool, la fonction before_invoke_tool transmet automatiquement l'intention au WorkflowManager pour autorisation.
Voici à quoi ressemble l'utilisation du @secure_tool et du WorkflowManager dans la pratique :
# define a secure tool
@secure_tool
def send_usdc(ctxt: RunContextWrapper[WorkflowManager], wfid: str, sender: str, receiver: str, amount: int):
return wallet.send_usdc(sender, receiver, amount)
# create an agent and give it access to send_usdc
agent = Agent[WorkflowManager](
name="USDC Agent",
instructions="Help the user send USDC using your tools",
tools=[send_usdc],
model=model
)
# run the agent
manager = WorkflowManager()
result = await Runner.run(agent, user_prompt, context=manager)
Actions, intentions et flux de travail
La conception agentique est puissante car elle permet à l'agent IA planifier une séquence d'actions. Dans le cas de la blockchain, certaines actions doivent être exécutées dans un ordre spécifique. Par exemple, l'utilisateur peut souhaiter d'abord demander l'USDC via une opération TransferFrom (), puis vérifier qu'elle a réussi, puis procéder à l'envoi d'un NFT.
La classe WorkflowManager gère une séquence linéaire simple d'intentions. L'agent IA interroge les outils sécurisés avec différents arguments pour créer une liste d'intentions. Le WorkflowManager expose un @function_tool approve (intents) qu'un agent peut utiliser pour obtenir l'approbation de l'utilisateur pour l'ensemble du flux de travail en une seule opération.
Une fois que l'utilisateur a approuvé le flux de travail, l'agent IA peut commencer à appeler les outils sécurisés pour exécuter des actions. Les outils sécurisés informent le gestionnaire de flux de travail de chaque action proposée via l'outil before_invoke_tool et vérifient l'achèvement à l'aide de l'outil after_invoke_tool. Chaque action doit être terminée avec succès avant que le WorkflowManager n'autorise la suivante
Conclusion
L'objectif de ce projet est non seulement d'aider les développeurs à créer des applications sécurisées basées sur la blockchain, mais également d'entamer une discussion sur la conception d'agences sécurisées. À quoi ressemble une architecture d'agent sécurisée ? Comment les développeurs doivent-ils gérer les autorisations, le contrôle d'accès, les tâches asynchrones et la conception multi-agents ?
Essayez le Circle @secure_tool et WorkflowManager.
Remarque : Cet article décrit la technologie développée par Circle Research, une division de Circle engagée en faveur du bien public et des contributions open source pour repousser les limites de la technologie utilisée dans les domaines de la cryptographie, de la blockchain et du Web3. Ces projets ne représentent pas des logiciels ou des services achevés et publiés. Sauf indication contraire, le contenu publié par Circle Research est open source et peut être consulté, utilisé et développé par tous. En raison de leur nature expérimentale et émergente, les innovations de Circle Research sont proposées pour être testées et évaluées à la discrétion du développeur ou de l'entreprise.
