企业为什么要把 Agent 放在本地：数据不出域之外的理由

下午三点，业务同事把一份还没盖章的合同全文，连同对方报价表，粘进了公网大模型对话框——只为“帮我标红风险条款”。对话框秒出结果，同事很开心。法务与安全听到后并不开心：这份文件去了哪台服务器？会不会进训练或日志？出了事谁背锅？

到了 2026 年，这类事故不再是“先试试再说”的可爱实验。金融、制造、医疗、政务，以及对上市公司内控敏感的企业，法务、安全、业务负责人会同时问三件事：数据去哪了？谁能看？出错怎么追责？

本地 Agent / 私有化智能体，正是从这些问题长出来的选项——不只是“数据不出域”四个字的口号。

这一贴，暴露的是控制边界，不是“员工不懂事”

公网对话框适合写邮件草稿、润色公开文案。它不适合成为合同、客户清单、工艺参数的默认入口。问题往往出在流程：企业没有提供同等方便且合规的内网问答或 Agent，一线就会用最顺手的公共工具。禁止令贴在墙上没用——没有替代通道，禁令只会把风险赶进影子 IT。

本地部署要回答的，是可核对的边界：

• 文档索引存在哪，推理发生在哪；
• 日志是否留在内网，能否对接现有权限做检索前过滤；
• 断网或断外联时，核心链路是否还能跑；更新是否走本地介质。

行业里对受监管与敏感数据的共识越来越清楚：公有 SaaS 默认并不总能过审计；私有 / 专有云 / 机房内的 RAG 与推理，是为了把检索与生成留在可控安全域。写进招标或内控清单时，用的往往是可验证表述（部署位置、日志范围、权限继承），而不是一句“我们很重视安全”。

还要警惕伪私有化：名义装在本地，模型更新或日志上报时悄悄外联。选型时把“断网能否运行、更新怎么走”问死。2026 年常见的本地栈（如 Ollama / vLLM + 向量库 + 编排层）可以跑通 Demo，但 Demo 通不等于审计过关。

Agent 一旦“有手”，风险模型就变了

聊天机器人主要风险是说错话；Agent 的风险是做错事——改工单、触达客户、触发脚本、读写业务系统。Agent 越贴近 ERP / CRM / 作业系统，越需要清晰的访问与执行边界。

这时本地化更容易落实的是控制面，而不只是“模型放哪”：

• 工具调用沙箱，出站网络默认拒绝；
• 操作审计与审批流绑定；
• 与企业 IAM 对齐，检索结果按人可见（源系统 ACL 继承，而不是“全库谁都能问”）。

本地买的是带操作能力的系统的控制边界。 只把推理留在内网、工具却随意出站，等于门装了一半。业界把“Agent 行为可追溯、可审计”当成选型硬条件，和模型分数几乎同等重要——这不是口号，是出事时能不能还原现场。

成本与延迟：稳定负载下，财务模型才说得通

当查询量稳定、场景固定时，完全依赖外部 API 常见三类刺痛：费用随业务波动剧烈；高峰延迟不可控；供应商策略一变，生产直接抖。

本地推理不是必然更便宜——要算 GPU / 机器与运维。但在稳定负载下，财务往往更好做：CAPEX 或年框，对不可预测的 Token 账单。产线侧助手、实时质检一类场景，延迟本身也可能是刚需。

知识资产也需要一个可检索的家。合同、工单、规格书、制度在加速堆积。没有私有 RAG，AI 要么靠员工临时粘贴上下文（又回到开头那一幕），要么什么都不知道。把检索索引留在自己的基础设施内，是把非结构化知识变成可运营资产的前提——不是项目验收时的附件。

生产侧另一个刺耳观察：大量 Agent 试点走不到上线，卡点常常是数据治理、集成摩擦、缺评测与运维，而不是模型分数不够。本地部署不会自动解决这些问题，但它逼你更早面对权限、日志与系统边界——这些本就是生产必答题。

云端、混合、本地：怎么跟老板说

一句话对齐即可：

• 云端 API：验证快、弹性强，数据与依赖在外部；
• 混合：敏感检索本地，生成可按策略分流——很多团队的现实落点；
• 本地：控制强，前期投入与运维责任更高。

没有永远正确的架构，只有与风险偏好、数据级别、负载形状匹配的架构。本地 Agent 是认真的一档，不是道德高地。

也要诚实列出可以先不上本地的情况：场景不涉敏感且调用量很小；团队没有基本运维能力又不愿采购托管运维；业务还在验证值不值得做，用云端 PoC 更快。PoC 阶段用公网可以，但不要把合同全文当测试集。

常见路径是：先培训，让团队会定义场景与评测 → 用 API 中转快速验证效果 → 对确认有价值且敏感的链路再做本地 Agent / RAG → 复杂集成上 FDE 驻场推进。醴陵真好本地 Agent 标准版 ¥50,000 起（含私有化部署、RAG 知识库、1 个月技术支持），企业版 ¥120,000 起，RAG 知识库建设 ¥20,000 起，交付强调可审计框架。卡在“该不该私有化”时，先画清数据级别与场景边界，通常比先比价更重要。

给董事会的非技术表述可以更短：关键知识与操作留在可控边界内，系统可审计、可迭代。 它换不来“永远不需要人”，也换不来“一次投入终身免维护”。承认维护责任，预算反而更好批——因为听起来像真实系统，而不是魔法。

需要一起判断边界时，微信搜「醴陵真好」，或把场景一页纸发到 contact@412200.net。