这本书读起来还是蛮有意思的，很有深度，也有广度。从认识论，到智能，再到意识到社会的话题十分有趣，还紧密连接着。难得能有作者有这么丰富的知识和思考。从这个视角来理解当前的AI命题，很有意义，不少观点也很具有启发意义。最直接的感受时，人类智能的复杂性并非简单的人工智能能够超越的，但可以是很好的互补。照例做些摘要。
我想逐渐建立一种世界观，这种世界观中，我总是能将我可以笃信的东西和我不知道的东西区分开来。我们的目标应该是尽可能地突破知识的边界，同时也应该意识到我们自己的局限性。在我探索的过程中，我很快确定了与知识相关的话题才是重点，因此，意识和语言是其中的关键。
语言很可能是人类智慧的关键。离散的词和神经元对应，才有了更深刻的意识和思维。这个角度看，大语言模型能够用攻破人类语言，长期看是件非常重要的事情。
几十年来，我一直在努力研究人类智能，以及计算机是否有可能接近人类的智慧。人们能否通过研究人类行为——同时避免陷入简单化的陷进——而得出某些有用的、实际的结论。我得出的结论是，世界是两个截然不同但又互补的实体的综合，即物质（能量）和信息——可以看到和可以想到的东西。
这就是构成世界的二元论：物质+信息。
我们在理解世界的过程中，提出了三类关于知识的基本问题，其一是目的论问题，why，我们期望从现象中找到一个目的；其二是本体论问题，what，他涉及存在的本质；其三是认知论问题，how，关注如何实现、怎样实现。对于目的论和本体论的问题，我们没有任何逻辑的或经验的标准来判断答案是否合理。只有当问题被表述为明确定义的概念之间的关系时，才值得尝试从认知论的角度去回答他们。
认知论问题才是计算机可以解决的。目的论和本体论其实是人类的一个假设，还无法证伪或证实。
信息学已经成长为一个独立的知识领域。过去科学家总是试图把世界万物解释为粒子排列组合的结果，将整体解释为各个部分的总和。这种还原论方法希望复杂现象能够通过简单现象的叠加“涌现”出来。但这种方法无法解释什么是信息，以及什么是计算。
涌现是当下并未很好解释的科学领域，复杂性的解释是一种，但并不清晰。这种涌现的本质背后可能就是意识的来源了。
知识是有用的信息，他应该具有一定程度的真实性和有效性。首先知识能让我们对周围的发生的事情，包括物理世界、社会及其产物，有更深刻的认识。这类知识既包括科学知识，也包括共享的经验知识。其次是知识可以让我们实现目标。知识与满足需求是相关的，后者则需要采取行动来改变人或外部环境的状态。
分层的方法能让我们一块一块地理解这个世界。每一个层次都有其特定的抽象级别，有其特有的概念和规律。当我们从一个层次上次到更高的一个层次时，由于大量组建的相互作用，新的属性“涌现”了出来，这些组件形成的整体产生了更为复杂的行为。
人工神经网络+大算力带来的涌现已经令人惊叹了，继续下去只能越来越好。
连续事实上一种非常有用的抽象，时空连续的假设在经典物理学中已经被证明是非常有用的。而由于时间是所有观察量的共同参数，随着时间的推移，观测量也以同步的方式变化。目前几乎所有的经典物理学和技术学科都依赖连续的数学模型；连续模型还有一个特点，即收敛性。但计算机却只能处理离散的问题，这限制了他们模拟具有收敛性事件的能力。计算机的内存是有限的，表示无穷小量的数位一定会超出计算机的存储容量。
物理定律是通过归纳的过程产生的，但这个过程在逻辑上是武断的。人类通过实现发现了这些定律。然而，这种为了发现支配物理现象的规律而进行观察、归纳的过程在计算系统中是行不通的。其原因在于，在物理世界中我们有一个被简单规律支配的“一致性”行为，而在计算机世界中，我们观察不到这样的行为。爱因斯坦说，宇宙最不可理解的事情就是它是可以理解的。物理的基本定律非常简单，普通的因果关系可以用简单的线性关系来表征。而计算系统，即使是最基本的形式，也很难让人理解。绝大多数这样的系统是非线性的。此外，由于信息的离散性，计算系统就其本质而言是混沌的。有趣的是，计算系统的行为和属性与经济和社会现象具有许多相似之处。
离散还是连续，一致还是不一致，是否涌现，都是很睿智的观察和洞见。
人类有两种思维方式，一种是较慢却有意识加工的思维，这是程序性的并且需要运用推理规则。我们使用慢速思维去有意识的解决问题；第二种是快速却自动/下意识完成的思维，这种自动思维是人类智能中最重要的部分。两种思维方式之间有显著的协助和互补，有意识的慢速的思维系统逐渐创造出一些流程，随后由快速系统进行自动化之行。慢速思维是机遇我们理解事物的心智模式，这种模式和计算机的编程计算类似，而快速思维是有意识学习的结果，通过反复训练，内化为一种自动模式，与人工神经网络的计算模型一样。
思考快与慢的进一步解释，潜意识的部分是训练后的模型；慢思维是持续优化并复杂推理的模型。
人类的一个主要优势在于，我们的自然语言是离散的——短语由单词组成，单词由音节组成。如果语言不是离散的，而是连续的，我们会像鸟儿一样用口哨说话。这将严重制约我们的理解和表达能力。我相信我连续到离散的过渡与有意识思维的发展密不可分。
我们知道，（1）意识思维处理信息的能力有限，只占我们行为和反应的一小部分；（2）意识思维是连续的——我们可以随时将注意力集中到某个对象上；（3）人类大脑能够有意识地掌握的复杂关系是有限的。计算机显然可以帮助人类扩展智力，扮演类似于人类潜意识的“协同处理器”的角色。
语言的有趣之处，也可能才是真正的意识和智慧来源之一。
我们必须重视亨利柏格森的观点，他认为在理解世界方面，直接经验和直觉要比科学和理性更重要。事实上，意识可以分析处理的信息量/带宽是很少的，而潜意识吸收和整合信息的能力要强大的多。
实践的重要性，在于实践过程中潜意识收集和整合了大量的信息，而不只是意识处理的那一点点。
人是如何产生新想法的？在创造过程中有一个特殊时刻，思路会变得开阔，头脑会变得清晰。灵感就像火花一样，为我们呈现出可能数小时逻辑分析也没能找到的解决方案。解决方案的出现带有神奇的意味，就好像那些杂乱无章的思想突然被组织了起来，并为我们指明了方向。在已经积累的经验和知识中蕴含着巨大的潜力，创造者就是这一种潜力的转化者。
灵光一现的背后其实是潜意识把大量数据做深度训练，训练出了更优模型，得到了更好的结论！
我对幸福的理解是，一个人通过承担合理的风险来实现自己目标的持续的能力。这是一种思维，通过制定适当的策略与环境互动的游戏。幸福是动态的，当人的某些目标得到满足后，可能会出现其他新的目标。幸福就是与目标保持一定的距离——既不太远也不太近，并朝着目标不断前进。至于最佳的状态，取决于每个人的性格。幸福与理解世界和了解自己的能力直接相关，但最重要的是创造和想象，这就是教育和经验发挥关键作用的地方。
这个幸福的定义值得学习。
当语言和概念退化时，价值观就开始崩塌。作为最有价值的公共物品之一，语言及概念承载着我们的知识和共识。当词语失去其共同的概念价值时，他们就像一种无用的、贬值的货币，社会作为一个整体发挥作用的能力便开始退化。清晰的语言营造了信任和诚实的氛围，而含糊不清则为违规和谎言敞开了大门。
语言腐败是很可怕的事情。神圣的不再神圣，就可以被践踏了。概念其实是人类智能大模型训练出的结果，退化就是模型被抛弃了。