LLM开发基础2-Agent 中间层:上下文、工具和权限

深入拆解开发 Agent 中间层的四个核心机制。上下文管理通过关键词检索、向量检索、结构化检索和混合检索解决模型能看到什么的问题,上下文组装和压缩决定信息呈现质量。工具调用通过 JSON Schema 定义、参数校验、超时处理、失败重试和审计日志让模型获得行动能力。MCP 协议标准化了工具接入但缺失权限模型。数据库连接需要默认只读、行数限制、脱敏、审批和凭据隔离等多层安全约束。权限和沙箱配置取决于项目风险等级,没有通用正确配置。

LLM开发基础1-开发者眼中的大模型三层:模型、Agent 和应用

用一个三层框架帮助工程师理解大模型在软件开发中的应用。基模型层是发动机,只生成文本不执行 IO。中间层是传动系统,管理上下文、工具调用、协议和权限。应用层是驾驶舱,封装为 IDE 插件、CLI Agent 等产品形态。文章逐一梳理了 GPT-5.5、Claude Opus 4.8、Gemini 3.1、Qwen3.7-Max、Kimi K2.6、GLM-5.1 和 DeepSeek-V4 的官方信息,并讨论了跨层误解的常见来源和诊断方法。


本站由 Somnifex 使用 Stellar 1.33.1 主题创建。

本站由 又拍云提供CDN加速/云存储服务

本站所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。