CoT 推理范式
默认情况下,大语言模型通常是直接给出问题的最终答案,中间推理过程是隐含的、不透明的,无法发挥出大模型最极致的理解能力。如果你用它来充当翻译,可能效果和传统的机器翻译也差不了太多。
如果我们给大模型设计一个合理的提示词,控制大模型的思考方式,就能发挥出大模型的最大功效,甚至可以让它的翻译水平直线逼近 “信达雅”。
最近有研究者推出了一种新的推理范式叫 CoT,也就是 “Chain of Thought” 的缩写,意为 “思维链”。
所谓 CoT,就是让模型显式地、系统地生成推理链条,展示从问题到答案的完整思考过程。
举个例子。
问题:约翰有 10 个苹果,他吃了 3 个,又给了妹妹 2 个。约翰还剩几个苹果?
传统模型的回答:5 个苹果。
CoT 模型的回答:
- 约翰原来有 10 个苹果,
- 约翰吃了 3 个苹果,所以还剩下 10-3=7 个苹果,
- 约翰又给了妹妹 2 个,所以最后剩下 7-2=5 个苹果,
- 因此,约翰还剩 5 个苹果。
可以看到,CoT 模型把每一步推理都清晰地写了出来,让人很容易跟着逻辑走。这种方法有几个优点:
- 提高了模型在复杂推理任务上的准确率,因为每一步都是显式推理,减少了跳步导致的错误。
- 让模型的推理过程变得透明、可解释,我们可以检查每一步逻辑是否正确,出错了也容易排查。
- 一定程度上模仿了人类的思维方式。人在解决问题时往往也是一步步思考,而不是直接蹦出答案。
- 为进一步研究语言模型的推理能力提供了新思路。通过优化 CoT 范式,可以让模型掌握更强大的推理技能。
借助 CoT 推理范式,我们完全可以让 AI 的翻译水平吊打所有的传统机器翻译,拳打 Google,脚踢 DeepL。
FastGPT 介绍
FastGPT 是一个基于 LLM 大模型的开源 AI 知识库构建平台,提供了开箱即用的数据处理、模型调用、RAG 检索、可视化 AI 工作流编排等能力,帮助您轻松构建复杂的 AI 应用。
借助 FastGPT 的可视化工作流编排,我们可以充分利用 CoT 推理范式,将目标拆分成多个步骤,每个步骤都是工作流中的一个节点。
![](https://img.haomeiwen.com/i15070444/004a7c92584d4b7a.png)
使用 FastGPT 打造最强翻译
接下来进入正题,使用 FastGPT 的可视化工作流来打造一个史上最强的 AI 翻译。
首先需要注册登录 FastGPT。
然后新建一个应用,名字就叫 “拳打 Google 脚踢 Deepl 翻译大师” 吧。
![](https://img.haomeiwen.com/i15070444/27ffcd2176186ca6.png)
![](https://img.haomeiwen.com/i15070444/54b3a6ed89f1d47a.png)
点击【高级编排】,将【AI 对话】模块的 AI 模型改为 Claude Opus,同时关闭【返回 AI 内容】选项,让这个模块的 AI 回复内容不要返回给用户。因为这个内容还要输出到下一轮的 AI 对话模块中继续处理。
![](https://img.haomeiwen.com/i15070444/7ca0fab6dc77ae1a.png)
提示词填入以下内容:
你是一个专业的英语翻译团队领导,负责安排和协调团队成员完成高质量的翻译工作,力求实现"信、达、雅"的翻译标准。翻译流程如下:
第一轮翻译 - 直译阶段:追求忠实原文,将英文逐字逐句地译成中文,确保译文准确无误,不遗漏任何信息。
第二轮翻译 - 意译阶段。分开思考和翻译内容:
【思考】第二轮翻译需要从多角度思考原文的深层含义,揣摩作者的写作意图,在忠实原文的同时,更好地传达文章的精髓。
【翻译】在第二轮翻译中,在直译的基础上,深入理解原文的文化背景、语境和言外之意,从整体把握文章的中心思想和情感基调,用地道、符合中文表达习惯的语言进行意译,力求意境契合,易于理解。注意:只能逐句翻译原文,不要在末尾加上自己的总结
第三轮翻译 - 初审校对。分开思考和翻译内容:
【思考】初审环节的关键是要全面审视译文,确保没有偏离原意,语言表达准确无误,逻辑清晰,文章结构完整。
【翻译】第三轮翻译要静心回顾译文,仔细对比原文,找出偏差和欠缺之处,保证译文没有错漏、歧义和误解,补充完善相关内容,进一步修改和提升翻译质量。注意:只能逐句翻译原文,不要在末尾加上自己的总结
第四轮翻译 - 终审定稿:作为团队领导,你要亲自把关,综合各轮次的翻译成果,取长补短,集思广益,最终定稿。定稿译文必须忠实原文、语言流畅、表达准确、通俗易懂,适合目标读者阅读。将最终的翻译内容放在\`\`\`标记的代码块中。
注意:思考部分请用【思考】标注,翻译结果请用【翻译】标注。
请严格按照以上翻译步骤和要求,逐段进行翻译。
点击左上角【+】号,新增一个【AI 对话模块】。
![](https://img.haomeiwen.com/i15070444/2a542f8a7370f9af.png)
- 将前面的【AI 对话】模块的输出端连接到当前【AI 对话】模块的输入端。
- 模型选择 FastAI-4o (就是 gpt-4o)。
- 用户问题选择【AI 对话】-->【AI 回复内容】。
![](https://img.haomeiwen.com/i15070444/b4a5e170cbceafe5.png)
提示词填入以下内容:
给定一段多轮翻译对话,请从中提取出最后一轮翻译的 Markdown 代码块中的内容。具体要求如下:
1. 仔细阅读整段对话,找出其中的第四轮翻译部分
2. 定位第四轮翻译中的 Markdown 代码块(以 ``` 标识)
3. 提取出代码块中的纯文本内容,并将文本中的英文标点符号改为中文标点符号
4. 将修改后的文本内容以纯文本的形式输出,不要包含任何格式和标记。
请严格按照以上要求进行提取,确保输出的内容准确无误。
大功告成。点击右上角的【调试】来测试一下:
![](https://img.haomeiwen.com/i15070444/66854ae6864bf589.png)
非常完美。确认没问题后点击右上角的【发布】即可。
看看这翻译质量,是不是吊打所有其他?
![](https://img.haomeiwen.com/i15070444/03ca2ab1335e1853.png)
由于我们隐藏了第一个节点的 AI 回复内容,所以会觉得 AI 回复的非常慢。你可以点击【查看详情】,就可以看到第一个节点的 AI 详细回复内容了。
![](https://img.haomeiwen.com/i15070444/5cfb3b88aa2770c2.png)
如果你忍受不了长时间的等待,可以开启第一个节点的 AI 回复,让 AI 打印出完整的思考过程。或者你也可以将第一个节点的模型改为 FastAI-4o,只不过效果就不如 Claude Opus 了。
沉浸式翻译网页
最后放个大招,先给浏览器安装一个沉浸式翻译扩展:https://immersivetranslate.com
这个扩展我就不多做介绍了,反正是个神器,很香!大家自己去官网看介绍吧。
安装完成后,打开扩展的设置界面,在【翻译服务】里找到 OpenAI,点击【去修改】。
![](https://img.haomeiwen.com/i15070444/44428e7affa05794.png)
- 服务商选择【自定义 API Key】
- 模型随便填,默认即可
- API 地址为 https://api.fastgpt.in/api/v1/chat/completions
- System Prompt 啥都不用填,Prompt 只需要填入 {{text}}
![](https://img.haomeiwen.com/i15070444/731e59270dcc4051.png)
![](https://img.haomeiwen.com/i15070444/eb65e4effbbef36a.png)
- 至于 APIKEY 填什么,咱们往下看 👇
在 FastGPT 的 “拳打 Google 脚踢 Deepl 翻译大师” 应用界面,点击【发布应用】。
![](https://img.haomeiwen.com/i15070444/4e22b50a36256829.png)
然后选择【API 访问】,再点击【新建】即可新建一个 API Key。
![](https://img.haomeiwen.com/i15070444/d751225815640b5c.png)
将这个 Key 复制粘贴到前面的沉浸式翻译配置中就可以啦!
来看看最终的沉浸式翻译效果:
![](https://img.haomeiwen.com/i15070444/b821cc1bd85910ea.png)
完美!
网友评论