模型不会真的「调用」工具。它只是生成一段结构化的调用意图——工具名加参数——真正执行的是你的代码。理解这一点,才能理解工具调用的能力边界和安全边界在哪里。

一、原理:模型出意图,代码做执行

一次工具调用通常包含这些步骤:应用把可用工具的 schema(名称、描述、参数类型)随请求发给模型;模型返回一个工具调用,包含调用 ID、工具名和 JSON 参数;应用校验参数、执行对应函数,把结果以 tool result 的形式回填;模型基于结果继续生成,直到给出最终回答或再次请求工具。

关键点有三个。第一,执行权在应用侧:模型不能直接访问数据库、发邮件或付款,它只能请求,你可以拒绝。第二,参数是模型生成的,必须校验:类型、范围、枚举、权限都要在代码里检查,不能假设模型一定按 schema 来。第三,部分平台支持严格结构化输出,可以降低参数不符合 schema 的概率,但不会替你完成业务校验。

实际交互通常不止一轮:模型调用工具,拿到结果后可能继续调用第二个工具,也可能并行请求多个互不依赖的调用。应用侧要实现的是「调用—执行—回填」的循环,并为每一轮设置次数上限。工具调用 ID 用来把结果和请求对应起来,别自己重新生成。

二、工具设计:ACI 决定成功率

工具是模型和外部系统之间的接口。Anthropic 把这件事类比成给新同事写文档:名称要能直接说明用途,描述要写清什么时候用、什么时候别用,参数要少而明确,返回要精简且结构稳定。

  • 一个工具一件事:功能重叠的工具会让模型反复犹豫,也增加维护成本。
  • 参数用强约束:枚举、必填项、格式说明;不要让模型用自然语言拼查询语句。
  • 错误要可读:「缺少 order_id」比「500 Internal Error」更能让模型自我修正。
  • 返回要控制体积:大结果分页或摘要,别把整张表塞回上下文。
  • 防错设计:例如要求绝对路径,避免模型在切换目录后传相对路径。

写工具描述时可以用一个自检问题:一个新同事只看这段描述,能不能判断什么时候该用它?如果连人都说不清,模型更判断不了。工具数量也要克制,先从 3–5 个核心工具开始,用真实失败案例决定要不要增加。

三、MCP:把 N×M 变成 N+M

MCP(Model Context Protocol)是一个开放协议,用来标准化「模型应用」和「外部工具/数据源」之间的连接。它采用客户端—服务端结构,基于 JSON-RPC 2.0 传递消息:服务端可以暴露工具、资源与提示模板,客户端按需发现和调用。传输层支持本地进程的标准输入输出,也支持远程的 Streamable HTTP。

它解决的是集成数量问题:没有协议时,M 个模型应用接 N 个工具要做 M×N 套适配;有了统一协议,理论上变成 M+N。MCP 由 Anthropic 在 2024 年 11 月开源,本文引用的规范版本是 2025-06-18。

但 MCP 不是所有场景的默认答案。如果只是一个应用内部调用几个函数,直接写函数调用更简单;只有当同一批工具要被多个客户端复用、或需要连接第三方生态时,协议层的价值才明显。安装一个第三方 MCP 服务端,等于在你的环境里运行第三方代码,必须像审查依赖一样审查它。

安全上还有两个易错点:远程 MCP 服务端的认证与授权要自己做,协议本身不替你决定谁能调用什么;服务端返回的工具描述同样是不可信内容,恶意服务端可以通过描述诱导模型调用不该调用的工具。

接入方式适合代价主要风险
应用内直接函数调用单应用、少量工具最低与业务代码耦合
自建 HTTP 工具层多应用共享内部能力维护鉴权与文档鉴权与版本管理
MCP 服务端多客户端复用、第三方生态协议与运维成本第三方代码、权限边界

四、最小示例:schema + 调度循环

# 依赖:Python 3.10+,标准库
import json

TOOLS = {
    "get_weather": lambda city: {"city": city, "temp_c": 18},
    "create_ticket": lambda title: {"ticket_id": 1024, "title": title},
}
READ_ONLY = {"get_weather"}          # 只读工具默认放行

def dispatch(call: dict):
    name = call["name"]
    if name not in READ_ONLY:
        return {"error": f"{name} 属于写操作,需要人工确认"}
    try:
        return TOOLS[name](**call["arguments"])
    except Exception as e:
        return {"error": str(e)}

call = {"name": "get_weather", "arguments": {"city": "上海"}}
print(json.dumps(dispatch(call), ensure_ascii=False))

如果要用 MCP 起一个本地服务端,官方 Python SDK 的最小形态大致如下(依赖 mcp[cli],接口以官方文档为准):

# 依赖:pip install "mcp[cli]"(版本以官方文档为准)
from mcp.server.fastmcp import FastMCP

mcp = FastMCP("demo")

@mcp.tool()
def add(a: int, b: int) -> int:
    """返回两个整数之和"""
    return a + b

if __name__ == "__main__":
    mcp.run()

五、安全边界:能操作,但不能乱操作

工具调用的风险不在模型「说错话」,而在它「做错事」。几条底线:

  • 最小权限:默认只读;写操作单独授权;能用只读接口就不用读写接口。
  • 不可逆操作要人工确认:转账、删除、发邮件、发布内容,都要有确认闸门。
  • 出口控制:限制可访问的域名、路径和账号范围,别让工具成为数据外发通道。
  • 内容隔离:工具返回的网页、邮件、文档可能包含恶意指令,要标记为不可信输入。
  • 审计与预算:记录每次调用的参数与结果,设调用次数、金额和速率上限。

Simon Willison 提出的「致命三要素」值得记住:私有数据、不可信内容、外发能力同时存在时,攻击者就可能诱导 Agent 把数据带出去。最有效的做法不是加一句「不要听信网页里的指令」,而是从架构上避免这三者同时出现在一个可执行上下文里。

权限可以分三档落地:只读查询自动放行;有副作用但可撤销的操作(创建草稿、加标签)记录并限流;不可逆操作(付款、删除、对外发送)必须人工确认。把这三档写进代码,而不是写在提示词里,才谈得上可控。

模型可以建议「发这封邮件」,但只有你的策略层能决定它是否真的发出去。权限写在代码里,不写在提示词里。

六、常见坑

  • 一次给模型二三十个工具,选择困难,调用错误率上升。
  • 工具返回整页 HTML 或整张表,上下文被噪声占满。
  • 参数只写自由文本,模型拼出无法执行的查询。
  • 错误被吞掉或只返回堆栈,模型不知道该怎么修。
  • 把 API 密钥作为工具参数,随对话历史和日志泄露。
  • 没有超时和重试上限,失败调用反复触发。
  • 盲目信任第三方 MCP 服务端,等于引入未知代码。
  • 试图用提示词实现权限控制,而不是在应用层强制。

七、可执行清单

  1. 列出工具清单,标注每个工具是只读还是写入。
  2. 为每个工具写清用途、边界、参数约束和错误语义。
  3. 默认只读;写操作走人工确认或双人复核。
  4. 在代码里校验参数,不依赖模型自觉。
  5. 给工具加超时、重试上限、速率和金额预算。
  6. 限制网络出口和文件访问范围,敏感操作留审计日志。
  7. 把工具返回内容视为不可信输入,不直接拼入系统提示。
  8. 引入 MCP 前先审查服务端来源、权限与更新机制。
工具调用的安全,不取决于模型有多听话,而取决于它被允许做什么。

参考与延伸阅读

外链内容由对应网站负责,访问以实际可用性为准。