什么是推理模型?新手指南:为什么有些 AI 回答要等 30 秒

Close-up of dark and light wooden chess pieces on a board against a soft blue background

5 min read

你是否曾向 AI 助手提问,看着它显示“正在思考……”长达二三十秒,而另一次却瞬间作答?或者注意到一个写着“think longer”(多想一会儿)或“extended thinking”(扩展思考)之类的小开关,心里琢磨要不要打开它?

你看到的正是当下 AI 领域最有用、却最少被讲清楚的概念之一:推理模型。本指南用大白话解释它是什么、为什么对小企业很重要,以及如何针对每项任务判断慢速模式是否值得使用。无需任何技术背景。

一段话说清什么是推理模型

普通的 AI 聊天模型通过逐个预测回复中的下一个词来作答,并且会立刻开始输出答案。推理模型(有时也称为“思考”模型)则经过训练,会先在一个隐藏或部分可见的草稿区里把问题想透:拆分成步骤、检查自己的推导、尝试其他思路,然后才写出最终答案。OpenAI 在推出首批推理模型时,于《Learning to Reason with LLMs》一文中介绍了这种方法(LLM 即大语言模型,是 ChatGPT 等工具背后的 AI 类型)。如今,各大主流助手都提供了某种形式的推理功能。

打个比方:普通模型就像一位朋友张口就答;推理模型则是同一位朋友说:“等一下,我拿纸笔算一算。”

在你已经在用的工具里,它出现在哪里

名称经常变化,新的模型版本每隔几个月就会推出,所以请关注概念本身,而不是标签。实际使用中,你会通过以下几种方式遇到推理功能:

  • 模型选择器:其中某些选项被描述为更适合“复杂任务”或“推理”。
  • 开关或按钮:标签类似“Think”(思考)、“Think longer”(多想一会儿)或“Extended thinking”(扩展思考)。
  • 自动切换:助手会根据你的问题自行决定要思考多深。

各家公司都公开记录了这些功能。Anthropic 解释了 Claude 的扩展思考是如何运作的,Google 则介绍了 Gemini 的思考功能,包括可以设置“思考预算”,也就是给模型的推导量设定上限。这些页面是写给开发者看的,但核心理念在普通聊天应用中是一样的。

为什么一人创业者应该关注

三个实际原因:

  1. 在棘手问题上给出更好的答案。定价计算、比较合同条款、在诸多限制下安排日程,或找出某个商业想法的漏洞,当模型一步一步推导时,效果都会明显提升。
  2. 它会消耗更多使用额度。思考需要额外的算力。在付费方案中,推理模式通常有更严格的使用限制;而对于使用 API(开发者使用的付费接入方式)的人来说,思考过程是要计费的。我们在介绍使用额度如何运作以及如何让额度撑得更久的文章中解释过这一点为何重要。
  3. 它更慢。做价格审核时等三十秒没问题;但如果你只是想在一分钟内快速回一封邮件,就会很烦人。

换句话说,推理是一种工具,而不是应该一直开着的升级功能。

什么时候开启推理(什么时候不必)

一条简单的经验法则:如果一个聪明人需要纸笔才能解决,就用推理;如果对方路过时随口就能回答,就不用。

适合推理模式的任务

  • 算清楚涨价之后扣除手续费和折扣是否仍然赚钱
  • 比较两份条款和起订量各不相同的供应商报价
  • 根据客户的空闲时间、路途耗时和你自己的承受范围安排每周日程
  • 审查合同或提案中的漏洞与矛盾
  • 对计划做压力测试:“这件事最可能失败的三个原因是什么?”
  • 理清一个算出错误总数的混乱电子表格公式

快速模式就足够的任务

  • 起草一封友好的邮件或社交媒体文案
  • 改写一段文字
  • 头脑风暴名称或标题创意
  • 总结一份简短的文档
  • 为客户翻译一条简短的消息(发送前请人工检查)

新手要避免的三个错误

1. 以为“思考”就等于“正确”

推理模型在多步骤问题上的错误更少,但仍然会出错,而且可能在一长串看似合理的推导之后,非常自信地给出错误答案。重要的数字一定要核对。我们的识别 AI 幻觉指南在这里同样适用。

2. 问题提得太模糊

多思考也弥补不了缺失的信息。如果你问“我该涨价吗?”却不告诉它你的成本、销量和竞争对手,它只会围绕猜测认真推理。请给它真实的数字。

3. 把可见的“思考过程”当成全部

有些工具会显示模型推理过程的摘要。它有助于了解模型是如何处理问题的,但它只是摘要,并不能保证完整记录了每一步。请根据最终答案本身来评判。

第一步:五分钟对比测试

理解推理的最好方法,就是在你自己的业务上亲眼看看差别。今天就试试:

  1. 选一个真实的决定,比如是否推出节日折扣,以及它会对利润产生什么影响。
  2. 用真实数字写出问题:你的售价、每单成本、正在考虑的折扣,以及预计大约有多少订单。
  3. 问两次:一次用普通的快速模式,一次开启推理或“think longer”。
  4. 比较两个答案。推理版本是否发现了快速版本遗漏的内容,比如支付手续费,或者为了保本需要额外增加的订单量?
  5. 让它站在对立面辩论。我们关于如何从 AI 获得诚实反馈的建议,与推理模式搭配使用效果很好。

大多数人做完这个测试后,都会清楚地凭直觉判断出慢速模式什么时候划算。这种直觉比记住任何模型名称都更有价值,因为下个季度名称又会变。

简而言之

推理模型是一种先把问题想透再作答的 AI。它更慢、消耗更多使用额度,但在多步骤思考上明显更强。涉及数字、限制条件或重大利害的决定,就用它;日常写作就用快速模式。无论哪种情况,重要的内容都要核对。

这周你的桌上有哪个决定值得拿出纸笔?那就是你向推理模式提出的第一个问题。

相关阅读

发表评论

滚动至顶部