维特根斯坦说,“语言的边界,即思想的边界”。任何超出语言界限的东西,都是不可知的无稽之谈。简单说你想不到的东西,你也说不出来。人类无法访问自己的心智模型,我们只能访问描绘我们心智模型的语言模型。语言不只是静态的知识,它里面蕴含了思维过程,也就是所谓的逻辑、推理、规划等。AI领域长期认为图像,视觉,语言,结构化数据等等对于智能都是平等的。它们都是所谓训练数据。但是直到大语言模型,Large Language Model 出来之后,大家才发现,自然语言是智能的核心。

今天GPT太弱,七位数乘法都不会做。但人也不会做,调用工具就行了。GPT核心,第一它会语言,马克思讲人和动物的区别是人会语言。第二,它会制造和使用工具。—王小川

证明者和验证者

OpenAI 发现 如果一个比较弱的小型模型能被大模型的方案说服,那么这个方案人类更容易理解。

Checklist: “Should I build an agent”

问题Workflow 适用条件Agent 适用条件
Is the task complex enough?No → WorkflowsYes → Agents
Is the task valuable enough?<$0.1 → Workflows>$1 → Agents
Are all parts of the task doable?No → Reduce scopeYes → Agents
What is the cost of error/error discovery?High → Read-only/human-in-the-loopLow → Agents