传奇作家Sebastian的26年新作,Deepmind创始人的传记,也带来了对AI、对人类基本命题的巨大思考。作者的写法很赞,思考也相当深刻,今天读起来十分有意义。哈萨比斯的很多想法无疑已经被确认是正确的,那么最关键可能就是:这个世界的真相真可能是更接近模拟的,基本的构成单元都是信息,无论是物质、能量,甚至是生命。照例做些摘要。
是什么驱动人们的行动?人生的意义何在?哈萨比斯坚信,除非社会真正理解变革性技术发明者的内心动机,否则人们永远不会信任他们。因此他同意让我来做深入采访。哈萨比斯说道,研发AI的真正原因早已超越了康德和费曼的理论,其目标是更接近某种可以被称为“神”的存在——那个可能设计了我们周遭一切的智能。
AI研究的目标居然是找到造物主,换句话说更好的理解这个世界!似乎是第一次,商业探索也能成为科学研究的一种方式,不得不说是非常伟大的一件事。哈萨比斯为了让人相信,才决定接受采访,把内心深处的想法说出来,这也正是真正的难能可贵之处。大家今天对AI还在关注ARR、CAPEX这类商业指标,确实有些事浅显了。
他想到了一个办法。他决定借助AI来探索物理学中那些无穷无尽的奥秘。科学的进步向来离不开新工具的助力:望远镜让人类得以观察太空;X机让医生无须手术就能看到人体内部。AI将成为最强大的工具,不仅能拓展人类的视野,更能提升人类的理解能力。
这个角度特别好,要把AI发展成新的科学工具,新的望远镜、新的X光机。当然也可以成为新的生产公司、新的管理工具,这个工具的角度,而不是替代人的角度才是真正有意义的。反过来讲,当一个人的价值在工具之外找不到价值时,确实被淘汰了,不是被更好的工具,而是被社会,主要是在社会中找不到自己的位置了。人的位置,在社会中最好不是工具型的定位,因为这种工具其实本身就是对人的异化。可惜现在的很多人,在恐慌焦虑AI时,却未能看穿这一点。
他意识到,一台超人类计算机不仅仅是实现科学目标的手段,他本身可能就是目标。因为在计算机科学的助力下,信息才是现实的基本单位。传统上被认为是现实基本构成要素的能量和物质,相比之下远没有那么有说服力。只有信息才能为解释所有经验事实提供基础,粒子的行为、能量的流动,甚至人类的意识,都可以被视为信息处理的例子。侯世达认为,生物学本质上是一个信息处理系统,定义生命的不是肌肉或组织,而是赋予他们生命的信号。我认为信息是构成现实的基本单位。然而这只是顿悟的一部分,如果信息是构成现实的基本单位,那么在此基础之上的又是什么?对香农来说,答案是计算,即处理信息、传输信息并从中获取意义的过程。
信息是基本单位,信息之上是计算、传输以及获取意义。AI算力成为了目标本身,更大的算力、更多的信息会给人类带来革命性的变化,这其实是人类对火、蒸汽、电力之外的另一个自然现象的捕捉,新一次的人类革命刚刚开始。
哈萨比斯不得不反思自己的魅力与固执之间,讲故事的天赋与自我欺骗的风险之间、激励他人的神奇能力与无意中伤害他人的风险之间的那条微妙界限。哈萨比斯不是唯一一个面临这种困境的人,从乔布斯到马斯克,许多杰出的企业家都用他们的故事改变了现实,模糊了可能与不可能的界限,带来了既令人振奋由具有破快性的后果。
能有这种反思还真是难能可贵的,即认识到自己的优点,也能看到不足,看能看到二者之间的微妙界限。以故事改编现实,所谓扭曲现实的力量这么理解起来并不神秘,是因为其中的信息,无论是内容本身,还是讲述故事方式带来的坚定、执着的信息,让听众被说服了。这就是信息的力量。
世界的结构本质上是由心智创造的,我想用我的神经科学研究来证明这一点:现实可能是一种模拟。心智诠释世界。现实可能是由心智构建的,哈萨比斯重复道,我认为这就是康德想要表达的意思。
Mind/心智真是个尚未研究清楚的命题。不过清楚的是,现实可能还真是一种模拟。只要用心觉察,这个其实能够感受到,至少模拟的概率并不低。其实应该更多用这种模拟的视角、游戏的视角来看这个世界。
AI不应该以模仿人类的能力来衡量,因为人类不完善的认知能力并不能作为一个合理的基准。相反,智能真正的标志是通用型。莱格和赫特共同提出一个总结性的表述:智能衡量的是一个主体在各种环境中实现目标的能力。
AGI的定义有很多,智能也难以定义。不过这个衡量在各种环境中自主实现目标的能力还是很恰当。
我们将技术视为一种倍增力量。我们的目标是投入一份力量,获得100万份回报。否则,你怎么可能做出足够大的改变呢?哈萨比斯构想的是一种将对世界产生巨大影响的技术,而苏莱曼则致力于探索世界需要怎样的改变。
找到最大的杠杆、回报最高的杠杆。
关于打造deepmind平台的要素,哈萨比斯有三个想法,第一个是信念。没有人能够说清楚AGI将如何被打造出来,但哈萨比斯坚持认为这是可以实现的,人类大脑的存在就证明了通用智能的可能性。哈萨比斯明白他的信念必须渗透到他的研究团队中去。我们只想要真正的信徒。第二个要素是时间。第三个要素是一种能让科学家发挥最佳水平的文化。哈萨比斯习惯通过各种方式手机想法,比如看电影、读书或大学酒吧中聊天,他本能地知道如何发现每个团队成员的特殊才能。
信念,因为相信所以看见,这个相信源自于人脑的实证;时间+文化,得以将相信的技术逐步实现。
人们认为宗教是一件事,科学是另一回事,把它们放在一起很奇怪。但在我的世界里,人文主义、精神追求和科学融为一体。如果你问生活的真正意义是什么,我会认为是追求自我认知。我想这就是我们的人生目标,否则世界为什么会是这个样子?计算机为什么会存在?半导体又有什么意义?为什么沙子加上一点铜,就能创造如此多的奇迹?这些事情的存在,显然是为了让我们去探索。无论是你称之为上帝的设计,还是宇宙的本质,或者是一场模拟,我对所有这些可能性都持开放态度。我认为这是我们这段探索旅程中将要发现的一部分。
人生的意义是追求自我认知。如果不去更好的认知这个世界,为什么要来一趟呢?
他观察道:最成功的创始人并非一心只想创办公司,他们肩负的使命更接近于创立一种信仰。彼得帝尔对哈萨比斯评价:天才的卓越往往体现在特定的使用上,他们往往非常适合完成某项特定的任务。对于哈萨比斯来说,他的使命是创办一家AGI公司。
信仰对了大多数能成功,因为相信所以看见,前提也是相信对了,而不是盲信。
哈萨比斯是神经科学博士出身,一直认为,AGI的实现需要整合多个组件:基于卷积神经网络的感知系统、各种类型的记忆(长期和短期)、模拟人类规划过程的搜索算法。基于这种兼容并包的理念,哈萨比斯组建了一支涵盖多个专业领域的研究团队,核心思路是对多种方法同时下注,然后向那些显示出潜力的方法倾斜资源。
AGI的实现必然不是直线,必然是个复杂的多要素的过程,同时下注是对的。可以相信的是,LLM不是终点,世界模型也不是终点,依然有待探索。但无论如何,算力这件事都是基础。
AI的发展有点像工业革命,哈萨比斯继续说道,它以某种方式发展起来,其实带有一定的偶然性。一旦发现了石油,正确的做法就是“开采它”。但事情本不必如此,起初我也不认为会是这样。GPT早起版本的变现和我的预期一样,只是些略显拙劣的记忆者,只能给出勉强过得去的答案,完全没有接地的感觉。
AI和工业革命的类比,居然是从“本不必如此”开始的,有一定偶然性,但今天已经成了一种必然。我们可以在偶然性上存疑,但没必要在看到必然后依然嘴硬。
OpenAI和Deepmind的困境形成了镜像:Deepmind是营利性公司,但希望为强大的AI搭建非盈利治理架构;OpenAI是非营利组织,但需要借助资本机制募资。双方都认为,资本主义和后资本主义的混合模式才是出路。
有趣的又一个殊途同归,不过太短暂了。今天的两家公司都是营利性的了,毕竟离不开资本主义的伟大算力基础,即便如此未来却有可能是回归到非营利的了,那时共产主义也差不多实现了吧。所以这个角度上看,通往共产主义的可能不是社会注意,而是AGI。
24年5月,Deepmind推出AlphaFold3,这个版本不仅能解析蛋白质的形状,还能预测蛋白质和其他类型分子之间的相互作用。世界似乎正在见证发明本身的革新,人类可能在10年内实现一个实际的科学进步。科学领域是AI能创造价值的地方,这一点毋庸置疑。但语言模型不一样,它的滥用显而易见。
LLM的局限不仅在于其幻觉,在于其语言不落地的预测不准确性,除非语言也是上帝设计的。但AlphaFold3则截然不同,真实地解决了一个科学问题,这才是AI的更伟大应用。
哈萨比斯想知道,一个没接地的模型能否为真正重要的事情,比如理论物理的进步做出贡献。欧文给出了回答:20世纪最伟大的发现当属爱因斯坦的相对论。而爱因斯坦所做的只是阅读资料、简单笔记、进行思想实验,这些都没有所谓的接地。此外,如果语言模型能完成大多数认知任务,他们就有可能为在物理世界中行动的机器人提供动力,因此语言可能是AI真正实现接地的途径。
爱因斯坦的方法论说明语言+想象力其实对于很伟大的科学发现就够了,但可能未必所有都能如此。今天的AI还是LLM的狂热,已经很有价值了。
奥特曼很喜欢引用奥本海默的这句话:技术之所以会出现,是因为它具备可能性。
这就是新技术诞生的必然性吧。