5 min read
每当你把客户合同、病历记录或销售表格粘贴进聊天机器人，这些文字就离开了你的电脑。对大多数任务来说，这没问题。但有些任务不行，而到了 2026 年，你终于有了一个现实可行的替代方案：本地 AI，也就是完全在你自己的笔记本电脑上运行、不向互联网发送任何内容的 AI 模型。本指南从一人企业的角度，对本地 AI 和云端 AI 进行正面比较，帮你判断哪些工作该放在哪里。
为什么这个选择突然变得重要
两年前，在自己的电脑上运行 AI 还只是拥有昂贵显卡的工程师的爱好。如今，免费的桌面应用让它几乎变成了点几下鼠标的事，主流公司也在产品中加入本地选项。例如，据报道，Perplexity 在 11 月初为其 Mac 版 Computer 智能体新增了完全本地运行的模式，并建议使用配备 36 GB 内存的较新款 Apple silicon Mac。
与此同时，客户提出的问题也越来越尖锐。如果你曾经需要向客户解释自己用了哪些工具，我们的指南如何告诉客户你在使用 AI讲解了文书方面的事项。本文则聚焦技术层面：数据究竟去了哪里。
一句话说清两种方案
- 云端 AI（ChatGPT、Claude、Gemini、Copilot）：模型在服务商的服务器上运行。你能用到最强大的模型、网页搜索、文件工具和连接器，但你的文字会由第三方按照其条款进行处理。
- 本地 AI（例如 Ollama 或 LM Studio 这类运行开源模型的应用）：模型在你的电脑上运行。任何内容都不会离开这台机器，可以离线使用，而且免费，但模型规模较小，安装和维护也要你自己负责。
正面对比：起决定作用的六个因素
1. 隐私与保密
胜出：本地 AI。当模型在你的笔记本电脑上运行时，没有服务器日志，不需要研读数据保留政策，你的文字也绝不会被用于训练。大型云服务商的商业版确实承诺不会用你的数据训练模型，这是一种真实的保护，但它终究是第三方的承诺，而不是物理上的事实。如果合同规定客户数据不得离开你的系统，那么只有本地方案能明确合规。
2. 回答质量
胜出：云端 AI，而且优势明显。能在普通笔记本电脑上运行的模型，擅长总结、改写、提炼要点和起草日常邮件。但在长链推理、复杂数学、细腻的写作以及任何需要最新信息的任务上，它们明显较弱。把它当作“能干的初级助理”，而不是“资深专家”。
3. 成本
胜出：取决于你的硬件。本地应用和开源模型每月不花一分钱。但一个值得用的模型需要充足的内存。粗略来说，16 GB 内存可以流畅运行小模型，而 32 GB 或以上则能用上好得多的模型。如果你已经有一台较新的电脑，本地方案基本等于免费。如果你得专门为此买一台新笔记本，那么每月 $20 的云端方案用上好几年都还划算。
4. 功能
胜出：云端 AI。网页搜索、图片生成、语音模式、文件创建、连接你的邮箱和日历：这些正是云端助手遥遥领先的地方。本地应用提供一个聊天窗口，有些还能针对你硬盘上的文档提问。这很有用，但工具箱比较有限。
5. 可靠性与离线使用
胜出：本地 AI。本地模型在飞机上能用，在客户没有信号的地下室办公室能用，在云服务宕机时也能用。而且它永远不会一夜之间发生变化。云端模型会被更新、改名或在不同套餐之间调整（Google 的 AI Plus 订阅用户刚刚失去了 Pro 模型），你精心调好的提示词第二天早上可能就表现不同了。
6. 意想不到的安全风险
各有利弊。本地 AI 消除了第三方风险，但下载软件和模型文件的风险就落到了你自己身上。只从官方网站安装应用，并通过应用本身下载知名模型。带连接器的云端助手则有另一种风险：恶意邮件或网页可能试图诱导 AI 泄露数据，我们的提示词注入入门指南解释了这种手法。
评分一览
- 隐私：本地
- 回答质量：云端
- 每月成本：本地（前提是你已有合适的硬件）
- 功能：云端
- 离线与稳定性：本地
- 安全：风险类型不同，两者都并非毫无风险
结论：采用“双通道”体系
对几乎所有一人企业来说，正确答案都不是二选一，而是两者并用，并为每项任务该走哪条通道定下清晰的规则。
本地通道（敏感、日常）：
- 总结客户合同以及医疗、法律或财务文件
- 从保密会议记录中提取待办事项
- 改写提到姓名、账号或健康信息的邮件
- 基于任何受保密协议（NDA）约束的材料起草内容
云端通道（公开、复杂）：
- 营销文案、博客文章和社交媒体内容
- 需要联网的调研
- 推理质量很重要的策略问题
- 图片、幻灯片、电子表格以及任何需要连接器的工作
用一个简单的测试来决定走哪条通道：如果这段文字原封不动地出现在服务商的日志里，我能接受吗？能接受，就用云端。不能接受，就用本地，或者先删去可识别身份的细节，再用云端。
大约 30 分钟搭建本地通道
- 查看你的内存。在 Mac 上，打开“关于本机”。在 Windows 上，依次打开“设置”、“系统”、“关于”。如果不到 16 GB，本地 AI 会很慢；可以考虑继续使用云端，同时认真做好信息脱敏。
- 从官方网站安装一个应用。LM Studio 的界面对非技术用户最友好。Ollama 更轻量，如果你能接受输入几条命令，它也很受欢迎。
- 下载一个中等规模的模型，选应用根据你的内存推荐的那个。先从小的开始，之后随时可以试更大的。
- 用一项真实但风险低的任务来测试，例如总结一份你已经很熟悉的旧合同，再把结果和你确知的事实进行对比。
- 把你的通道规则写成一句话，贴在显示器上。
别抱过高的期望。本地模型每次回答可能需要好几秒，偶尔还会漏掉细节。由于它在你自己的硬件上运行，它的“工作记忆”也更小，我们在为什么 AI 会忘记长对话的开头一文中解释了这一限制。一次只给它一份文档。
下一步怎么做
如果你每周哪怕只处理一次保密的客户资料，就在这个月把本地通道搭建起来。如果你的电脑比较新，这完全不花钱，而且下次客户问起他们的数据去了哪里时，你就能给出一个干净利落的答案。如果你的工作主要是公开的营销和调研，那就继续用云端，把这半小时花在别的事情上。你是否已经把敏感工作排除在云端 AI 之外了？欢迎在评论区分享你的规则。
