苦涩的教训:算力终将战胜聪明

苦涩的教训:原来这是一种更高的智慧 #

Richard Sutton 说,长期来看,简单粗暴的算力总是会击败精巧复杂的人类设计。

这个观察让我开始思考一个更深层的问题:人类智慧的本质到底是什么?

两种不同的路径 #

深蓝击败卡斯帕罗夫时,我注意到一个有趣的对比。

人类下棋靠的是模式识别、直觉判断、经验积累。我们能"看出"一个棋局的好坏,能感受到攻守的节奏,能预判对手的意图。

深蓝下棋靠的是暴力搜索。每秒计算两亿种可能,没有直觉,没有经验,甚至不知道什么叫"意图"。

结果是,暴力搜索赢了。

AlphaGo Zero 的启示 #

更有意思的是 AlphaGo Zero。

它不需要人类棋谱,不需要专家知识,只是自己和自己下棋。最终它超越了所有依赖人类智慧的围棋程序。

这让我开始怀疑:我们一直以为的"智慧",会不会其实是一种局限?

ChatGPT 时代的冲击 #

这个怀疑在 ChatGPT 出现后变得更加强烈。

几年前,自然语言处理领域有无数精巧的方法。每个任务都有专门的算法,每个问题都有量身定制的解决方案。我们用语言学知识指导模型,用人类理解优化系统。

然后 GPT 出现了。它什么都不懂,只是在预测下一个词。但它碾压了几乎所有专门设计的系统。

一个不舒服的认知 #

这让我意识到一个不舒服的事实:也许人类智慧的特点——抽象、归纳、模式识别——在某些情况下不是优势,而是包袱。

我们总是试图"理解"问题,然后设计"聪明"的解决方案。但也许最有效的方法就是不试图理解,直接用算力去逼近答案。

我们的智慧让我们觉得应该用最少的资源做最多的事,但现实告诉我们,有时候最好的策略就是用更多的资源做更简单的事。

两种智慧的冲突 #

我开始觉得,这里存在两种根本不同的智慧观念:

一种是人类式的智慧:精巧、高效、基于理解和洞察。

另一种是计算式的智慧:简单、直接、基于枚举和统计。

这两种智慧之间存在根本性的张力。人类智慧追求的是用更少的计算做更多的事,计算智慧相信的是用更多的计算解决根本问题。

算力的哲学 #

算力为什么总是胜出?

不是因为它更"聪明",而是因为它更接近问题的本质:在足够大的搜索空间里,正确答案总是存在的。

人类智慧试图通过理解和抽象来缩小搜索空间,但这个过程可能会把正确答案也排除掉。

算力不试图理解,它直接搜索。虽然看起来笨拙,但它不会错过任何可能性。

ChatGPT 的讽刺 #

ChatGPT 让这个对比变得特别讽刺。

我们花了几十年时间研究语言的结构、语义的表示、知识的推理。我们试图让机器"理解"语言,就像人类一样。

结果最成功的语言模型完全不理解语言。它只是在统计层面模拟人类的语言行为。

这是对人类智慧的讽刺,还是对智慧本身的重新定义?

一种新的谦卑 #

现在我开始以不同的角度看待这个问题。

也许算力的胜利不是对人类智慧的否定,而是在提醒我们什么时候应该用哪种方法。

人类智慧在资源有限的情况下是必要的,但在资源充足的情况下,也许我们应该学会放手。

重新理解"苦涩" #

这个教训为什么被称为"苦涩"?

因为它挑战了我们对智慧的根本理解。它告诉我们,有时候最聪明的做法就是不要试图变得聪明。

但换个角度看,这可能是一种更高层次的智慧:知道什么时候应该依靠人类的洞察力,什么时候应该相信计算的力量。

这种智慧要求我们放下对"聪明"的执着,承认有些问题的最好解法就是简单粗暴。

也许这不是苦涩,而是解脱。