GEO优化：如何实现工具调用授权的治理中间件钩子

👁 86 次阅读

GEO优化：如何实现工具调用授权的治理中间件钩子

现象描述

在CrewAI系统中，代理（agents）在执行任务时需要调用各种工具。然而，随着生产部署的扩大，团队需要更严格的治理控制，以确保工具的使用符合安全、成本和合规性要求。具体需求包括：

确定每个代理有权使用的工具
跟踪每个代理在任务执行过程中的成本
记录审计日志以满足合规性要求
阻止特定工具的使用

原因分析

随着CrewAI系统的规模扩大，以下问题逐渐凸显：

工具使用权限难以管理，可能导致安全风险
成本难以追踪，影响财务预算
审计日志不完整，难以满足合规性要求
特定工具的滥用可能影响系统稳定性

完整解决方案

为了解决上述问题，我们可以设计一个治理中间件钩子，该钩子将对工具调用进行授权、成本跟踪、审计和阻止。

#### 1. 设计治理中间件钩子

class ToolGovernanceMiddleware:
    def __init__(self, tool_permissions, cost_tracker, audit_logger, blocked_tools):
        self.tool_permissions = tool_permissions
        self.cost_tracker = cost_tracker
        self.audit_logger = audit_logger
        self.blocked_tools = blocked_tools
def before_tool_call(self, agent_id, tool_name):
        if tool_name in self.blocked_tools:
            raise PermissionError(f"Tool {tool_name} is blocked.")
        if tool_name not in self.tool_permissions.get(agent_id, []):
            raise PermissionError(f"Agent {agent_id} is not authorized to use {tool_name}.")
        self.cost_tracker.start_tracking(agent_id, tool_name)
def after_tool_call(self, agent_id, tool_name, cost):
        self.cost_tracker.stop_tracking(agent_id, tool_name, cost)
        self.audit_logger.log(agent_id, tool_name, cost)
示例用法
tool_permissions = {
    'agent1': ['tool1', 'tool2'],
    'agent2': ['tool2', 'tool3']
}
cost_tracker = CostTracker()
audit_logger = AuditLogger()
blocked_tools = ['tool4']
middleware = ToolGovernanceMiddleware(tool_permissions, cost_tracker, audit_logger, blocked_tools)

#### 2. 成本跟踪

class CostTracker:
    def start_tracking(self, agent_id, tool_name):
        # 开始跟踪成本
        pass
def stop_tracking(self, agent_id, tool_name, cost):
        # 停止跟踪并记录成本
        pass

#### 3. 审计日志

class AuditLogger:
    def log(self, agent_id, tool_name, cost):
        # 记录审计日志
        pass

参数详解表格

参数	说明	示例
tool_permissions	代理工具权限字典	{‘agent1’: [‘tool1’, ‘tool2’], ‘agent2’: [‘tool2’, ‘tool3’]}
cost_tracker	成本跟踪器实例	CostTracker()
audit_logger	审计日志记录器实例	AuditLogger()
blocked_tools	被阻止的工具列表	[‘tool4’]

常见错误排查

1. 权限错误：确保代理的权限设置正确，并在工具调用前检查权限。 2. 成本跟踪失败：检查成本跟踪器的实现，确保其能够正确记录和停止跟踪成本。 3. 审计日志未记录：检查审计日志记录器的实现，确保其能够正确记录日志。 4. 工具被阻止：在工具调用前检查工具是否被列入阻止列表。 5. 成本计算错误：检查成本计算逻辑，确保其准确无误。