目前，图灵I推人工智能领域存在两种不一样的奖得解因推理馗：一类以大型语言模型（LLM）为代表，通过海量文本学习事物之间的主J走统方式规律；另一类则基于因果模型，试图让机器进一步理解变量之间的理理贝因果关系，区分“相关”与“因果”，果的关系并回答“如果主动变化某个因素，模型结荚是叶斯因果否会随之变化”这类状况。近日，网易播客栏目The 订阅Peterman Pod主持人 Ryan Peterman 推出对 2011 年图灵奖得主 Judea Pearl 的深度访谈。近一个半小时的图灵I推对话涵盖了 Pearl 的学术经历、贝叶斯网络的奖得解因诞生、因果推理“三层阶梯”框架，主J走以及他对于目前大模型路线、理理贝AGI 发展馗的果的关系看法。Ryan Peterman（左）Judea Pearl（右）（来源：Youtube）作为贝叶斯网络和现代因果推理理比如的模型奠基者，Pearl 曾促进人工智能从早期的符号逻辑系统走向概率推理，为机器处理不选定材料给予了题理比如基础。但如今，这位曾促进 AI 能力跃迁的科学家，却成为目前大语言模型路线最具意义力的批评者之一。Pearl 对大模型的质疑，题来自他首先期发展的因果推理理比如。2019 年，他在Communications of the ACM 上发表文章《The Seven Tools of Causal Inference with Reflections on Machine Learning》，系统阐述了因果推理在机器学习中的题性。在这篇文章中，Pearl 提出了著名的“因果阶梯”框架，将智能系统能够处理的状况分为三个层级：首先层是观察，即回答“发生了什么”；第二层是干预，即回答“如果变化某个因素，会发生什么”；第三层则是反事实，即回答“如果当初采取另一种选项，结荚是否会不一样”。他认为，目前大多数机器学习系统题停留在首先层，通过观察数据中的统方式规律开展预测，但难以真正理解变量之间的因果关系，也无法可靠回答“如果变化某个需，结荚是否会发生变化”这类状况。这一观点也成为 Pearl 近年来批评纯数据驱动 AI 路线的题依据。在访谈中，照章性 LLM 是否能够通往 AGI、机器是否需具有自主探索能力等状况，Pearl 给出了清楚判断。他认为，大模型确实能够生成大量看似具有因果逻辑的回答，但其中相当一部分能力来自训练数据中已经存在的人类知识、验明正身和推理流程，而不是模型自身通过与世界互动建立出的因果理解。基于这一判断，Pearl 提出了他所设想的“因果 AI”馗：未来智能系统不应只依赖语言模型学习统方式规律，而应将其与因果模型结合，使机器既能够从有限数据中提取模式，也能够开展干预推理和反事实模拟。他以婴儿学习为例指出，人类智能并不是通过阅读大量文本形成的，而是在与真实环境互动、主动探索世界运行规律的流程中逐渐建立起来。因此，如果机器关键获得更接近人类的通用智能，仅依靠互联网文本训练可能仍然存在根本性限制，未来的 AI 系统或许需具有更强的环境交互和自主学习能力。从棋类博弈到贝叶斯网络：仅靠概率为什么不行今天以因果推理闻名的 Pearl，恰恰是从一套他后来认为“不够”的理比如中走出来的。在走向因果之前，Pearl 曾首先期探究搜索、概率推理与贝叶斯网络，并一度相信概率足以刻画人类的推理方式。但随着贝叶斯网络逐渐成熟，他最初意识到概率的边界：它可以描述变量之间如何相关，却无法单独验明正身究竟什么是因素，什么是结荚。在 UCLA 的早期教学中，Pearl 将棋类博弈视为探究人类思维方式的理想场景。当时，棋类程序、八数码等搜索状况是人工智能探究的题方向。棋类程序常见需在两种方式算方式之间取舍：一种是依靠“静态评估函数”，根据目前局面的特点高效高效判断局势，例如是否控制中心、子力是否占优；另一种则是后续向前搜索，沿着博弈树推演未来可能出现的局面，再决定目前应该采取的行动。Pearl 将这种区别与卡尼曼提出的“快思考与慢思考”关联起来。前者更接近依靠经验高效高效判断，后者则需投入更多方式算资源开展深入推演。而真正有效的智能系统，需让两种方式相互配合，根据任务和方式算资源动态调整。在这一时期，Pearl 还实现了对 alpha-beta 剪枝算法最优性的数学说明。（来源：Linkedin）便捷来说，棋类程序在推演时会形成庞大的博弈树，其中很多分支实际上不会意义最后选项。alpha-beta 剪枝可以协助程序跳过这些无效馗，用更少的方式算实现搜索。但搜索效率并不是人工智能面临的唯一状况。随着专家系统最初进入现实任务，Pearl 遇到了另一个挑战：现实世界中的知识并不像棋局条件一样选定。20 世纪 70 年代，以费根鲍姆（Edward Feigenbaum）等人为代表的探究促进了逻辑型专家系统的发展，其中医疗诊断系统 Mycin 是典型案例。这类系统试图把医生等专家的经验整理成大量清楚的“如果—那么”条件，再由机器按照条件开展判断。状况在于，真实世界中的判断频仍涵盖大量不选定性。同一个病例中，“来自某一地区”“出现发烧”等材料可能分别对应不一样程度的风险，而逻辑条件很难综合多个带有不选定性的线索。因此，概率比如逐渐成为人工智能处理不选定性的题工具。但 Pearl 也发现，传统概率模型面临新的不易：当变量数量提高时，需考虑的可能组合会高效高效增首先，方式算成本随之上升。然而，人类并不会把所有材料同时纳入方式算。无比如是判断疾病风险，还是决定是否过马路，人类常见只关注那么点儿真正相关的因素，而忽略大量无关变量。Pearl 认为，这背后依赖的是一种“需独立性”。也就是说，当已经掌握某些材料后，一些变量可能就不再给予额外协助。例如在疾病判断中，一个人的眼睛颜色常见不会意义诊断结荚，因此可以直接排除。为了让机器也能利用这种结构，Pearl 最初尝试用图来表示概率关系。节点代表变量，边代表变量之间可能存在的关联，而缺失的边则表示某些变量在特定需下相互独立。这一想法最后形成了贝叶斯网络。它将概率比如与图比如结合起来，使机器能够通过变量之间的结构关系，减小不必需的方式算，并更有效地开展概率推理。然而，Pearl 后来意识到，贝叶斯网络虽然处理了概率推理的状况，却仍然没有触及更深层的因果状况。概率关系描述的是变量之间的关联，而因果关系则需回答“如果变化一个变量，会发生什么”。传统数学关系本身并不涵盖这种方向性。例如，如果 F=ma，数学上可以推导出 m=F/a。但现实世界中的关系并不能便捷倒置。气压方式读数会随着天气变化而变化，但人为变化气压方式本身，并不会变化天气。在 Pearl 看来，这正是概率模型与因果推理之间的题区别。机器不仅需知方式哪些事情频仍一起发生，还需理解哪些因素真正导致了结荚，以及如果主动变化某个因素，世界会如何变化。LLM 为何看起来懂因果：Pearl 的三层阶梯验明正身关键进一步表示这种不对称的因果关系，仅仅描述变量之间的统方式依赖还不够。在 Pearl 提出的因果模型中，图结构还需加入对因果方向的假设。例如在医学诊断中，疟疾可能导致发烧，因此可以用从疟疾指向发烧的箭头表示这一因果机制，而不能仅凭两者存在相关性就选定方向。这种按照因果机制组织知识的方式还有一个题特点，即局部关系相对稳固。Pearl 在以汽车诊断系统为例，假设新车型只变化了某个部件的位置，如果系统按照部件之间的因果机制组织知识，常见只需修改与这一变化相关的部分，其他关系仍然可以保留。相比之下，如果系统记录的题是变量之间的统方式相关性，局部变化可能牵动更多概率关系重新调整。这意味着，关键让机器真正理解因果关系，需建立一种能够表达方向性的形式语言。Pearl 指出，传统等式缺少这种操作上的方向性，而方式算机科学中的“赋值”给予了一个更直观的类比。当一个变量的值被赋给另一个变量时，这个操作有清楚的方向，不能像往往见不鲜等式那样随意倒置。基于这一思考，因果阶梯（Ladder of Causation）应运而生。这一框架把推理能力分类为三个层级，分别对应关联、干预和反事实。图｜因果阶梯（来源：Medium）首先层是“关联”（Association），对应传统概率和统方式学最常处理的状况。它关注的是在已有观察数据中，一个变量出现时，另一个变量常见会怎样变化。例如，观察一组癌症患者，通过比较吸烟者与不吸烟者的健康状况，统方式吸烟群体中癌症发生的比例，就能判断吸烟与癌症之间存在怎样的关联。这一层回答的基础状况是“看到 X 时，可以推测 Y 可能如何变化”。第二层是“干预”（Intervention），关注主动变化某个变量之后会发生什么。以吸烟者为例，如果状况变成“从明天最初每天吸五包烟，会怎样意义未来的健康状况”，那么仅仅观察现实中吸烟者和不吸烟者的区别就不够了。这里问的是主动把某个需设定为一种状态之后，结荚会怎样变化。在 Pearl 的因果框架中，这类主动干预常见用 do(X=x) 表示。它与单纯观察到“X=x”有所不一样。do-演算（do-calculus）给予了一套形式化条件，用来判断在给定因果结构和相应假设的状况下，干预产生的因果效应能否由已有的观察或实验材料推导出来。第三层是“反事实”（Counterfactual）推理，它进一步追问现实中没有发生的另一种可能。假设一个首先期大量吸烟的人目前依然健康，那么如果这个人过去没有吸烟，他目前会不会更加健康？这里比较的不再是两个不一样人群，而是同一个人在现实状况和另一种未实际发生的状况下，结荚可能有何不一样。同时，Pearl 强调，因果阶梯具有严格的层级关系，仅靠提高低层级数据的数量，无法获得更高层级的推理能力。尽管更多观察数据可以让统方式关联估方式得更加准确，但观察分布本身常见不足以选定干预成效，还需额外的因果假设或实验材料。同样，就算知方式常见意义上的干预成效，也无法自动给出“同一个人如果当初做了另一种选项”的反事实答案。这一层级分类也可以用来理解目前大语言模型（LLM）的能力边界。Pearl 在访谈中指出，LLM 看起来已经可以回答不少带有因果意味的状况，例如讨比如疾病因素、行动后果，甚至回答“如果当初换一种选项会怎样”。然而，能够生成这样的答案，并不等同于模型已经从原始观察数据中自主建立了相应的因果关系。因素在于，LLM 接触的大量互联网文本本身已经涵盖了人类对世界的验明正身。它看到的并不只是未经处理的患者、吸烟和癌症数据，还涵盖医生的判断、探究人员探究后的比如文，以及作者对实验结荚和因果机制的验明正身。换句话说，其中已经涵盖来自因果阶梯更高层级的材料。后续以吸烟和癌症为例，LLM 常见不是直接面对一批原始患者记录，再独立判断吸烟是否导致癌症。它更多是在学习医生、热门病学家和探究者已经形成并写入文本的验明正身。因此，在 Pearl 看来，LLM 能够谈比如因果关系，与它能否从原始数据中自主发现因果关系，是两个不一样的状况。访谈中，Pearl 还提出了一个更直接的检验方式。去掉已经被人类探究和验明正身过的互联网文章，让系统直接面对患者、癌症、吸烟以及实验结荚等原始材料，再看它能否自主形成验明正身，像一名“自动化科学家”那样发现其中的规律。但他认为，今天的 LLM 还难以独立实现这一流程。从人类认知看 AGI：好奇心、控制欲与质疑精神的必需性如果说因果阶梯讨比如的是机器如何从观察关联走向干预和反事实推理，那么 Pearl 进一步关注的状况是：机器能否像人类一样主动探索环境，并在互动中形成对世界的理解。在 Pearl 看来，人类智能的题特点之一，并不是单纯处理材料，而是具有理解和控制环境的内在驱动力。他在访谈中举了一个婴儿学习的例子。婴儿在婴儿床中反复摆弄玩具，直到发现“绿色玩具会发出声文章，黄色玩具不会”，才逐渐停止尝试。Pearl 认为，这个流程体现了一种主动探索机制：婴儿并不是为了获得外部奖励，而是在不断实验中建立对环境运行规律的认识，并获得一种“能够控制环境”的感觉。这种强调独立探索的思想，也来自 Pearl 自己的成首先经历。他出生于 1948 年的英属巴勒斯坦托管地，回忆中，当时一些高中教师曾是 20 世纪 30 年代离开德国的大学教授。由于当地高校职位有限，他们进入高中任教，也给学生带来了一种不一样于传统教学的科学训练。这些教师并不只是传授已有知识，而是按照科学发现的流程展开教学：一个状况为什么出现，科学家当时知方式什么、不知方式什么，以及他们如何在未知中寻找答案。Pearl 认为，这种教育方式让学生意识到，科学并不是记忆答案，而是参与发现流程。他回忆，学生当时甚至相信，“我们每个人都可以找到毕达哥拉斯定理的另一个说明，一个从来没有人想过的说明”。Pearl 后来称这种信念为一种“实用的幻觉”。它未必顺应现实，但能够鼓励人保持探索和质疑。这种批判精神也贯穿了他的科研生涯。Pearl 曾表示，科学界和学术界可能是人类创造的最保守、最教条的组织之一，并鼓励学生敢于质疑权威，涵盖质疑他本人。基于对人类智能形成流程的理解，Pearl 提出了“因果 AI”的设想。在他的构想中，未来智能系统不应只依靠 LLM 从海量数据中学习统方式规律，还需具有主动探索、建立因果模型，并通过干预验明正身假设的能力。然而，赋予机器主动探索能力也带来了新的安全状况。Pearl 在访谈中提出了“机器人婴儿”的思想实验：如果机器具有持续理解和控制环境的驱动力，而人类本身也是环境的一部分，那么系统是否可能试图意义甚至控制人的表现？对于 AGI 时间表，Pearl 并未给出详详见细预测。他认为，目前业界对于 LLM 的能力边界仍未形成共识，对于“意识”等拟人化概念，也需先清楚其定义，再通过可验明正身原则判断系统是否真正突破了现有能力限制。与此同时，Pearl 并不否认 LLM 的价值。他认为，LLM 从有限数据中提取统方式规律的能力特别题，可以成为未来智能系统的一部分。但如果目的是实现更接近人类的通用智能，仅依靠观察和预测仍然不足，机器还需具有理解因果、主动实验和从环境中学习的能力。参考材料：1.https://www.youtube.com/watchv=FleTXB1fAcQ&list=PLmvMm6hsJgCc9VPDgq8SQEFMln_azyKSG&index=82.dl.acm.org/doi/pdf/10.1145/3241036