基于能力空间的企业级多模型路由网关设计本文讨论一套面向企业应用的多模型路由网关方案。系统沿用现有模型接口,在网关内部完成请求规范化、上下文整理、能力需求识别、模型选择、供应商适配、结果校验和故障回退。路由器不直接预测模型名称,而是判断任务需要的基础能力及难度,再结合模型能力画像、接口支持、成本、延迟和合规限制完成选模。文章同时说明了上下文管理、能力维度设计、模型评测、轻量路由模型选型、训练数据构造、策略引擎和数据闭环等关键环节,并列出仍需通过企业内部数据验证的问题。2026-07-23
LLM开发基础2-Agent 中间层:上下文、工具和权限深入拆解开发 Agent 中间层的四个核心机制。上下文管理通过关键词检索、向量检索、结构化检索和混合检索解决模型能看到什么的问题,上下文组装和压缩决定信息呈现质量。工具调用通过 JSON Schema 定义、参数校验、超时处理、失败重试和审计日志让模型获得行动能力。MCP 协议标准化了工具接入但缺失权限模型。数据库连接需要默认只读、行数限制、脱敏、审批和凭据隔离等多层安全约束。权限和沙箱配置取决于项目风险等级,没有通用正确配置。2026-06-08
LLM开发基础1-开发者眼中的大模型三层:模型、Agent 和应用用一个三层框架帮助工程师理解大模型在软件开发中的应用。基模型层是发动机,只生成文本不执行 IO。中间层是传动系统,管理上下文、工具调用、协议和权限。应用层是驾驶舱,封装为 IDE 插件、CLI Agent 等产品形态。文章逐一梳理了 GPT-5.5、Claude Opus 4.8、Gemini 3.1、Qwen3.7-Max、Kimi K2.6、GLM-5.1 和 DeepSeek-V4 的官方信息,并讨论了跨层误解的常见来源和诊断方法。2026-06-08