多模态之殇

我的本科室友WHS是我见过最聪慧和努力的人之一。

如果不是幸运地做了他的室友,我恐怕很难知道电子系的热门老师们会在保研季开始前就主动询问最优秀的学生(即便毫无交集)是否要来读博以便预留名额,然后一齐等待那么几名学生的挑挑拣拣。当然,会被挑拣的都难称得上最优选择,这似乎是人生不能避免的遗憾和常态。最终他选择了师从Andrew Yao。

即便时隔多年,与WHS的一些有意思的谈话仍然仿佛声声在耳,如今回想起来竟展现出极其精准的预见性。

2020年,彼时ChatGPT尚未问世,代码补全工具Tabnine的基座模型是今天看来宛如石器时代的GPT-2,ICLR投稿量也仅仅是现今的十分之一。那时WHS的研究方向是用RL——突然想起是他给我从头推导了一遍Policy Gradient/TRPO/PPO等重要算法带我入门了RL,我对此万分感激——来解决一些组合问题。长久以来,我对数学保持着万分的敬畏,深知攀登至高处所需的卓绝毅力非我所具备——同寝室的三年里,WHS每每伏案至凌晨三四点研究着数学系开设的一系列分析课程乃至后续的代数几何。

突然有一天,他跑过来和我说数学已经没有希望了,因为一切形式化规则化的东西都将被AI取代。我并不以为然。那时候我对AI的理解还是,换一换Trick调一调参数就是一篇全新的paper(这一年Dario提出了LLM的scaling law),指望着这些东西解决哥德巴赫猜想?绝无可能。站在时间长河的对岸回望,我既不如WHS了解数学,也不如他了解AI。2017年入学的时候我是机械学院下的热能工程系,后来转去电机系,最后再转去电子系,一心要加入到AI的浪潮中去,现在想想也只是在追逐一个更好的前途和更好的工作,而非真的对AI有什么深刻的思考与信仰。

另一次谈话是我们讨论所谓哲学的三大问题,他和我说,也许这三问根本不是问题。也是从这一天,我才了解所谓的分析哲学和语言转向(linguistic turn)。后来在找工作的时候,每每听到HR说多模态方向今年hiring freeze,我已经很难回忆起为什么当初选择多模态,但心绪总是止不住地回到讨论分析哲学的那个下午,我终归没有领会到谈话中深深蕴含的启示。如今的AI startup如同雨后春笋,每一个都想挑战ChatGPT所设立的范式。每当我听到一个“智能并非来自语言”的美妙story,我就会想倘若维特根斯坦尚在人世,面对这样粗糙的论断恐怕要忍不住发笑了。

时至今日,人们还是不知道什么是真正的智能,就像人们不知道哲学三问的最终答案一样,但这并不妨碍人们认为AGI终将到来。人们想要像鸟一样自由翱翔,但人永远生不出健壮的双翅。机器想要像人一样拥有智能,但是芯片生不出碳基的大脑。

原本我也对多模态的前景感到灰暗,尤其是在Coding Agent商业模式一统天下的情景下,直到在飞往新加坡的航班上,坐在我旁边的年轻女士看了五个半小时的红果AI短剧。

我相信一切终于会变好的。

← 回目录