# 三大流派世仇：符号主义、联结主义、统计学习 > AI 系列第 2 篇。把 AI 圈三十年的派系斗争捋一遍——符号主义、联结主义、统计学习各自起源、各自高光、各自寒冬，再看为什么今天的 LLM 是"联结主义打地基 + 统计学习当骨架 + 一点点符号主义假装在推理"的杂交怪物。 - URL: https://tenggouwa.com/posts/three-schools-of-ai/ - 发布: 2026-05-23 - 标签: ai, 流派, 历史, ai-series > AI 系列第 2 篇。上一篇我们用一条 80 年的时间线把 AI 串了起来。 > 这一篇钻进时间线背后——那场打了三十年还没真正分胜负的流派内战。 > 至于上一篇结尾留的"反向传播为什么等了 25 年"，再忍一篇，下一篇专门讲。 ## 0. 先把今天要打的"派"列出来 如果你只学过"AI 就是深度学习"，那你看到的是 2012 年之后的快照。把镜头拉远一点，你会看到三派人： ``` ┌──────────────────────────────────────────────────┐ │ Symbolic Connectionist Statistical │ │ 符号主义 联结主义 统计学习 │ │ "教它规则" "让它自己长出来" "数据说话" │ └──────────────────────────────────────────────────┘ │ ▼ 今天的 LLM 是这三派的私生子 ``` 这三派在过去 70 年里轮流坐庄、互相鄙视、互相打脸。每一次主流切换，都伴随着大量的论文、经费、研究者改行——以及一两个"圈外人完全没注意到"的转折点。 把这三派搞清楚，你以后看任何 AI 论文都不容易被术语带跑。 --- ## 1. 符号主义：1956 年那批人坚信的世界观 **核心信条**：智能 = 操纵符号 + 逻辑推理。 这是 AI 圈的"老贵族派"。它的起点就是上一篇提到的 1956 达特茅斯会议。McCarthy、Minsky、Newell、Simon——这群人都坚信一件事： > 人类思考的本质是符号操作。所以只要能把世界用符号表达清楚，再把推理规则写下来，机器就能"思考"。 听起来玄，举个例子你就懂： ``` 苏格拉底是人。 → 符号: human(socrates) 所有人都会死。 → 规则: ∀x. human(x) → mortal(x) 推理结论： → mortal(socrates) ``` 这套思路在 60 年代极有市场。原因不是它对——而是它**像人**。哲学家几千年都在搞这套，AI 圈刚起步，很自然地从这条路开始。 ### 高光：从 GPS 到 SHRDLU - **1957 年** —— Newell 和 Simon 搞了个叫 **GPS（General Problem Solver）** 的系统，号称能解决"任何能用符号表达的问题"。一时震动。 - **1970 年** —— Terry Winograd 写出 **SHRDLU**：一个能在虚拟积木世界里对话的程序，能听懂"把红方块放到蓝盒子上"这种命令，还能回答"为什么你刚才把那个方块放回去了"。 - **1980 年** —— **专家系统**（expert system）大规模商业化。MYCIN 诊断感染病、PROSPECTOR 找矿、XCON 给 DEC 配电脑。日本砸 8.5 亿美元搞「第五代计算机」也是这条路。 那一阵子全世界都觉得：**这就是 AI 的正道**。Hinton 那种搞神经网络的，被嘲是"在调一个永远调不好的黑盒"。 ### 崩塌：你写不下你怎么认出妈妈的脸 但 80 年代末，符号主义撞墙了。撞的不是技术墙，是**人**墙。 写专家系统需要两类人：领域专家 + 知识工程师。前者负责"把脑子里的规则讲出来"，后者负责"翻译成 if-then"。这一翻译，就发现一个尴尬事实—— **人类专家自己都没法把自己的判断完整地写下来。** ``` $ ask doctor "你怎么判断这个病人是不是细菌感染？" > 嗯…就是看着像。 $ ask doctor "看着像是什么意思？" > 就…经验吧。发烧、面色、听音… > 还有一种感觉，说不清楚。 ``` 这就是哲学家 Michael Polanyi 早在 1966 年就总结过的——**默会知识**（tacit knowledge）：我们知道的远比我们能说出来的多。 一旦规则写不全，专家系统就开始胡说八道。MYCIN 在标准病例上准确率超过医生，但碰到一个稍微古怪的病例就崩——因为它不会"举一反三"，它只会"查规则"。 **1987 年 —— 第二次 AI 寒冬来了**。专家系统公司大批倒闭，"AI" 这个词被科研圈嫌弃，找工作的人都改写"决策支持系统" / "智能数据库"。 符号主义没死。它退到了更小的角落——**知识图谱、Prolog 教学、定理证明器**。今天 Google 搜索框里"周杰伦的妻子是谁"那种结构化答案，背后还能看到符号主义的影子。 --- ## 2. 联结主义：被嘲笑了三十年，再杀回来 **核心信条**：智能 = 大量神经元的连接。别教它规则，让它自己长出来。 这派的祖宗是 1943 年那篇 McCulloch–Pitts 论文（上一篇讲过）。他们坚信另一套世界观： > 你不需要先理解智能是什么，再去造它。 > 你只需要造一个**长得像大脑的东西**，让它自己变聪明。 听起来很玄。但你想想——人类生小孩的时候，也没人给小孩写过 `if-then` 规则。小孩就是看、听、模仿，自己长出来。 ### 第一次高光与第一次惨败：1958 → 1969 - **1958 年** —— Frank Rosenblatt 在康奈尔搞出**感知机**（Perceptron）：第一台能学习的机器。媒体疯了：《纽约时报》写"美国海军将造出一台能走路、说话、看见、写字的电子大脑"。 - **1969 年** —— Marvin Minsky（注意，他是符号派旗手）和 Papert 出了那本臭名昭著的 *Perceptrons*，数学证明：单层感知机连"异或"都解不了。 这本书一脚把联结主义踹进 ICU。后面 17 年神经网络几乎发不出论文，Hinton 当时还是博士生，导师劝他换方向。他拒绝了。 ### 1986：火种 - **1986 年** —— Rumelhart / Hinton / Williams 三人组发表反向传播算法，理论上让多层网络可训练。 - **1989 年** —— Yann LeCun 用卷积神经网络识别手写邮政编码，部署到美国邮局——**这是神经网络第一次商业落地**。 但这股火很快被泼了水。原因有三： 1. **算力不够**：1990 年代的 CPU 跑一个多层网络要好几天。 2. **数据不够**：互联网还没普及，标注数据集小到可怜。 3. **理论上打不过 SVM**：90 年代统计学习派的 SVM（下一节细讲）在小数据集上稳赢神经网络。 整个 90 年代到 00 年代初，神经网络是 AI 圈最被嘲笑的一支。Hinton 后来回忆："我们就是一小撮异类。" ### 2006 → 2012：复活，再封神 - **2006 年** —— Hinton 提出 **Deep Belief Networks**，重新引入"deep learning"这个词。一开始没人在意。 - **2009 年** —— 李飞飞团队的 **ImageNet** 数据集出现，1400 万张标注图片。**这是联结主义复活的弹药库**。 - **2012 年 9 月 30 日** —— AlexNet 在 ImageNet 上把错误率从 26% 砍到 15%。圈内地震。 从那一刻起，**联结主义 == 主流 AI**。 > 一句你可以拿去吹的话： > **联结主义被嘲了 26 年，然后用 5 年统治了整个 AI 行业。它的胜利不是"思想胜利"，是"时机胜利"——算力、数据、一篇论文，三件套同时到位。** --- ## 3. 统计学习：把 AI 拆成"一个最优化问题" **核心信条**：智能 = 在数据里找概率分布。别讲故事，让数学说话。 这派起源最晚（80 年代中后期），但杀伤力最大。它的代表人物不是来自 AI 圈，是来自**统计学界**和**俄罗斯数学派**。 主要旗手：Vladimir Vapnik（SVM 之父）、Leo Breiman（随机森林）、Judea Pearl（贝叶斯网络）。这群人看 AI 的眼神都是"你们这帮人搞了三十年还没搞清楚什么叫'学习'？我来给你们讲讲什么叫**统计估计**。" ### 高光：1990s 到 2010s 的"中庸时代" ``` SVM ────▶ 文本分类、图像识别 SOTA（1995 → 2012） 随机森林 ────▶ 工业级表格数据预测，从信用评分到 Kaggle 贝叶斯网 ────▶ 医学诊断、推荐系统 HMM ────▶ 语音识别（Google / Siri 早期） LDA ────▶ 主题模型（看似没死，其实退化成 LLM 的脚注） ``` 这派的优势是**理论扎实**——你可以证明你的模型在多少样本下能达到多少误差，可以画出收敛曲线，可以解释"为什么"。 那一时期 ML 课程的标配是"SVM → 随机森林 → boosting → 贝叶斯"。神经网络只是最后一章的"特殊话题"，老师还要叮嘱一句"这玩意一般不好使，慎用"。 ### 它没"输"，它"被吸收" 2012 之后，统计学习派整体被冷落了——但**它没死**。它做了一件事：**钻进联结主义的骨架里**。 今天的深度学习有大量统计学习的语言： - 损失函数（交叉熵、负对数似然）——统计学的最大似然估计。 - 正则化（L1/L2、dropout）——统计学的过拟合控制。 - 评估方法（K-fold、AUC、PR 曲线）——统计学的标准工具。 - Scaling laws（GPT 系的关键发现）——本质是统计幂律拟合。 > Hinton 自己说过：**"深度学习的胜利，是统计学习派给我们装的子弹。"** 所以你今天看到深度学习里 70% 的术语，是统计学习派遗产。这派没赢"AI 圣杯"，但赢了"工程语言"。 --- ## 4. 1956 → 今天：三派轮流坐庄的真实时间线 把三派的兴衰画成一张表，会比时间线更清楚： | 年代 | 主流派 | 标志事件 | 寒冬触发 | |---|---|---|---| | 1956–1969 | 符号主义 | 达特茅斯会议、SHRDLU | *Perceptrons* 一书 | | 1970s | 全行业冷淡 | 第一次 AI 寒冬 | DARPA 撤资 | | 1980s | 符号主义复活 | 专家系统商业化 | 知识获取瓶颈 | | 1987–1993 | 全行业冷淡 | 第二次 AI 寒冬 | 日本五代机失败 | | 1995–2011 | **统计学习** | SVM、随机森林、Kaggle | 没寒冬，但被深度学习超越 | | 2012–2017 | **联结主义**（CV 阶段） | AlexNet、ResNet、AlphaGo | —— | | 2017–今天 | **联结主义 + 统计学习**（LLM 阶段） | Transformer、GPT、Claude | —— | 注意几件事： 1. **每一次主流切换，"上一派"都没死，只是退到角落**。今天你还能在 SQL 优化器里看到符号主义，在 Kaggle 比赛里看到统计学习，在 GPT 里看到联结主义。 2. **寒冬都不是技术问题，是预期管理问题**。每一次都是先吹得太大、后落地太慢。 3. **没有任何一派"赢到底"。**今天的 LLM 看似是联结主义的胜利，但它的损失函数是统计学习的、它输出的"思维链"是符号主义的。 --- ## 5. 今天的 LLM：一只三派 DNA 都有的怪物 来仔细拆一下 ChatGPT / Claude 是怎么"杂交"的： ### 联结主义打地基 模型架构是 Transformer——本质是一个超大号神经网络。1750 亿参数中的每一个数，都是反向传播一步步训出来的。**没有联结主义，连"参数"这个概念都不成立。** ### 统计学习当骨架 训练目标是"下一个 token 的最大似然估计"。每一步训练都在做： ``` loss = -log P(next_token | context) ``` 这就是**统计学习里教科书第一章的内容**。LLM 不是在"思考"，它是在做一个超大规模的**条件概率估计**。 ### 符号主义在表层伪装 但你跟 GPT 聊天时，它会一步一步推理："首先… 然后… 因此…"。这看起来像符号主义，对吧？ 真相是：**模型并不真的在做符号推理**。它只是在生成"长得像推理过程"的 token 序列。但—— 这种伪装本身就是有用的。 - **思维链（Chain of Thought）**：让模型先输出"推理过程"，再给答案。准确率显著提升。 - **结构化输出（structured output）**：强制模型输出 JSON / 表格。本质是用符号格式约束概率分布。 - **Tool use**：让模型调用外部函数（计算器、搜索）。一旦遇到精确符号操作，就交给外部工具——承认神经网络不擅长这个。 所以 LLM 是一只很奇怪的怪物： ``` 联结主义的身体 ◀── 统计学习的语言 ◀── 符号主义的外衣 (神经网络) (最大似然) (推理形式) ``` 每一层都来自不同的派系。每一派都"输了"，但每一派都活在 LLM 体内。 > 一句你可以拿去吹的话： > **AI 的三十年内战没有赢家。最终是大模型这个怪物，把三派都吸了进去——身体是联结主义的，骨架是统计学习的，皮肤是符号主义的。** --- ## 6. 三派思维方式的影响：你应该挑哪派？ 抛开学术，**实际工程里**这三派思维仍然有用： ### 数据多、特征杂、追求 SOTA → 联结主义 - 训神经网络，调架构，烧 GPU。 - 适合：NLP、CV、推荐、Agent。 - 代价：黑盒，调试靠玄学，算力贵。 ### 数据少、需要可解释、要符合监管 → 统计学习 - 线性回归、随机森林、贝叶斯。 - 适合：金融风控、医疗诊断、A/B 实验。 - 代价：表达能力有限，复杂模式抓不住。 ### 规则可枚举、错一次代价大 → 符号主义 - 编译器、税法计算、安全审计。 - 适合：硬约束逻辑、可形式化的领域。 - 代价：维护成本高，规则爆炸快。 实际项目里你可能三派混用。比如做一个客服系统： ``` 用户问题 ──▶ LLM 理解意图（联结主义） ──▶ 检索知识库 + 排序（统计学习） ──▶ 调用业务规则做最后裁决（符号主义） ``` 这就是为什么"全栈 AI 工程师"现在越来越需要三派的语言都懂一点。 --- ## 7. 给你的小作业 1. **挑一个你最近用过的 AI 产品（搜索、推荐、ChatGPT、自动驾驶），拆出它里面三派的成分各占多少。** 2. **找一个 80 年代的专家系统案例（MYCIN、XCON），思考一下：如果你今天用 LLM 重做它，会有什么不一样？** 3. **想一个场景，你**不会**用神经网络——给出三条理由。**（提示：可解释性、数据量、监管） 写不出来不要紧。带着这三个问题去读下一篇。 > **下一篇钩子**：1986 年那篇被冷落了 25 年的反向传播论文，到底说了什么？ > 为什么它"理论上对"了 25 年，工程上才"对"？ > 我们将用"下山找最低点"的比喻，把神经网络是怎么"学"的讲清楚—— > 你会发现，所谓深度学习，本质就是在一座非常陡的高维大山上，**用一个微小的手电筒摸黑下山**。