奇点降临？
奇点降临？对于正在成长的年轻人而言，如何在AI的巨大冲击下选择未来的专业方向是一个影响深远而又性命攸关的问题。
撰文 | 顾险峰
残酷肃杀的虎年终于过去，温煦明媚的兔年迎面而来。纽约大年三十的除夕之夜，清冷寂寥，恰是回顾总结的好时机。在未来的岁月长河中，对于 2022 年是否成为人类历史的奇点或许会有争议，但是无人不承认 2022 年是人类历史的拐点！全球范围的瘟疫、俄乌战争、核聚变、AI ，这些剧变都会给人类社会带来革命性的影响。
生成模型（AIGC）
2022 年，AIGC 发展日益强大，OpenAI 的 DALL-E2 , Stability AI 的 Stable Diffusion 生成模型和 ChatGPT 横空出世，再度震慑整个人类，为人类智力提出了强有力的挑战。Stable Diffusion 模型可以根据文字描述直接创作出具有惊人视觉效果的图像，在艺术创业比赛中击败人类艺术家，正在颠覆人类创造艺术的方式。ChatGPT 可以根据上下文，生成可以通过图灵测试的文本，行云流水，妙笔生花，广征博引，恣肆汪洋，令人类写手黯然失色。
笔者倾向于认为 Stabel Diffusion 模型和 ChatGPT 都是基于概率统计的基本原理，从数学角度而言可以用最优传输理论来解释。我们考虑 Stable Diffusion 模型，首先根据深度学习中的流形分布假设，我们将一幅 n×n 彩色图像视为 3n^2 维欧氏空间（图像空间）中的一个点。反之，图像空间中的一个点代表一幅图像，但是绝大多数点都是对于人类无意义的噪声图像。人类感兴趣的图像可以被视为 3n^2 维图像空间中的点云，靠近某个低维的流形（图像流形）M ，但是在图像流形上点云的密度并不均匀，我们用概率测度 μ 来表示，如此我们将有意义的图像集合用（M,μ) 来表示。流形 M 嵌入在图像空间 3n^2 之中，M∈R^(3n^2) ，M 的维数远远低于 3n^2 ，我们可以找到某个拓扑同胚，φ：M→R^m ，将 Ｍ（或者 Ｍ 中的某个区域）映射到参数空间 R^m 中，这里 R^m 被称为是隐空间，φ 被称为是编码映射。编码映射将图像分布 μ 推前映射到隐空间得到 φ*μ 。
这里我们可以看到生成模型的本质是将语义信息和图像信息解释成特定流形上的概率分布，从而计算两个分布之间的传输变换，或者更加广泛的，两个分布之间的联合概率分布。传输变换可以用热扩散，也可以用任意的传输变换，热扩散只是方便计算单向的传输。同时热扩散也必然带来模式坍塌和模式混淆。
如果我们考虑 ChatGPT，那么我们需要将所有可能的提问构成输入，根据上下文的回答构成输出，这时我们计算两个语义分布之间的联合概率分布。在当今时代，人类社会将所有可能出现的信息都保留在 Internet 之上，用如此包罗万象、庞大无遗的自然语言数据库训练出来的 ChatGPT 表现了惊人的语言能力。在日常生活工作中，几乎所有的模式化的文章都可以用 ChatGPT 来自动生成，并且其文章质量超乎手写的平均水平。比如，如果我们需要写一封措辞严谨，政治正确，态度谦恭，却又绵里藏针的 email ，ChatGPT 写的完胜人类。如果写一篇高屋建瓴、气势如虹、激情澎湃却又抽象空洞的演讲稿，ChatGPT 也是信手拈来。由此可见，目前人类社会中绝大多数的私人信件、模式化公文和商务文章都可以由 ChatGPT 自动完成。很多媒体中的大量文章也可能都是由 ChatGPT 生成。
涌现与相变
基于概率统计的学习模型居然具有如此之高的智能，这是令人非常惊艳。迄今为止，其内在原因依然无法解释。目前常见的观点认为当预训练模型的规模达到一定规模，就会发生所谓的“涌现”现象，从量变到质变，这个系统出现了“相变”，从而 GPT 具有了智能上的飞跃。物理上的伊辛模型用于解释相变现象，伊辛模型描述铁磁性物质的内部的原子自旋状态及其与宏观磁矩的关系。发生相变的系统一般是在分子之间有较强相互作用的系统，当系统温度达到临界值的时候，整个物质会突然失去磁性。伊辛模型广泛应用于整数优化，在 3D 视觉中起到关键作用。目前比较热门的“渗流”理论是伊辛模型的某种推广：我们考察一块海绵，抽象成一个无限大的图（graph），每条边以概率 ρ 连通，以概率 1-ρ 断开。我们考察图中是否存在一个无限长的连通分支，如果存在则海绵整体渗水，如果不存在，则海绵整体绝缘。若 ρ 为 0 ，则海绵整体绝缘；若 ρ 为 1 ，则海绵整体渗水。在ρ 从 0 到 1 渐变时，海绵整体形状从绝缘到渗水会发生突变，突变时刻对应的 ρ* 为相变的临界概率。这和一个年轻人学习一门学问的过程比较类似，开始他接触了很多概念和定理，对于这些知识点之间的联系有些模糊的理解。依随学习思考的深入，讨论交流的增加，知识点之间的联系得以加强，突然有一天，这位年轻人醍醐灌顶，融会贯通。婴儿学习语言也是比较类似，牙牙学语的时候记忆了词汇，但是无法理解，讲的话也是词不达意。但是依随频繁使用语言与大人交流，接触文学作品，影视语言节目，词汇之间的搭配日益固定下来，表达的精准度日益提升，终于有一天开始有了自己的特有文采。
但是，物理中的相变也有一些特点目前无法从 AI 中观察到。例如，如果我们将铁磁体做共形形变，那么铁磁体的临界温度（居里点）并不发生变化。这在渗流理论中也有体现。这对于生成模型的涌现是否有意义，目前无法回答。在凝聚态物理中，纤维丛的陈示性类理论成功地解释了并且预言了拓扑绝缘体中的相变，类似的思想为解释 AI 中的涌现也提供了思路。笔者相信如何为涌现（相变）建立数学理论将会成为热点问题。
拾人牙慧与独立思考
ChatGPT 很多时候表现得伶牙俐齿，左右逢源，但基本上是拾人牙慧，缺乏基本的逻辑推理，更谈不上独立思考。它就像一个儿童，通过模仿来学习，虽然经常机智抢答，但是只有 street smartness ，而没有 wisdom 。例如，我们问 ChatGPT ：“在蓝色盒子中有一个苹果，在蓝色盒子中也有一个红色盒子，红色盒子有个盒盖。如何拿到苹果？”ChatGPT 一本正经地回答：“拢共分两步：1. 打开红盒子的盒盖，红盒子在蓝盒子内部；2. 将手探入红盒子内部，取出苹果。虽然过程很简单，但是你要确保拥有取得苹果的许可。”我们看到，ChatGPT 缺乏基本的空间推理能力，但是拥有早熟的语言技巧。
如果我们问 ChatGPT 更加严肃的科学问题，ChatGPT 就开始一脸无辜而又无比自信地胡说八道，并且万般狡辩，却又能够自圆其说。例如我们问 ChatGPT ：“证明一下为什么高斯曲率是内蕴的？”ChatGPT 给出貌似严格的推理：“拢共分 5 步：1. 从高斯曲率定义出发，高斯曲率等于两个主曲率之积；2. 回想一下，曲面上某点的主曲率是该点处法向量变化速率的极大、极小值；3. 法向量的变化速率是曲面的内蕴性质，不依赖曲面参数的选取；4. 因此主曲率是内蕴的，它们之积也是内蕴的；5. 因此，高斯曲率也是内蕴的。”对于没有真正理解微分几何的人来说，ChatGPT 的解答滴水不漏，极具欺骗性。微分几何中的内蕴是指由黎曼度量决定的性质，与曲面在三维欧氏空间中的嵌入无关。而法向量由曲面嵌入所决定，因此是外蕴的。这意味着 ChatGPT 并不真正理解内蕴的涵义。但是，我们再问 ChatGPT ：“何谓内蕴？”它又给出正确的理解：“数学中的内蕴是指由几何物体本身所决定的性质，与其在更大空间中的嵌入无关。例如，两点间的测地距离是内蕴的，高斯曲率是内蕴的，因为它不依赖曲面的参数化，也与曲面在三维空间的嵌入无关。”这种自相矛盾的回答表明 ChatCPT 只是鹦鹉学舌般地记住了微分几何，并没有融汇贯通地真正理解。
而成体系的数学理论，其内在的概念和定理之间是通过强逻辑推演彼此联系的，而非基于浅表语言层面，通过弱逻辑的联合概率来推断上下文。ChatGPT 虽然在概率统计方向达到了自然语言理解的极至，但是在逻辑推演方面无法和人类匹敌，这必然是 AI 发展的未来方向。传统 AI 中的机器定理证明，符号计算等方面其实早已达到了令人叹为观止的程度。例如计算代数的 Grobner 基方法、吴方法等，这些方法将几何命题转换成代数表示，将命题的条件转换成一个理想，将结论转换成多项式，通过机械计算来判定结论多项式是否在条件理想之中。这种方法的效率和复杂度超过人类一般水平。如果将 ChatGPT 的自然语言理解和表达能力与符号演算、逻辑推理能力相结合，AI 还会进一步超越人类。
对计算机科学的挑战
ChatGPT 具有令人恐怖的编程能力。如果命令它用 C++ 编写计算机科学本科高年级的经典算法，例如图形学中的光线跟踪算法，计算几何中的 Delaunay 三角剖分算法，数值偏微分方程中的有限元方法等，ChatGPT 稍加思索就洋洋洒洒地一挥而就，并且程序质量比较可靠。而一般的计算机系学生需要经过几年的学习才能达到类似水平。这是否意味着计算机程序员很快会被 AI 所取代？
笔者在 1990 年代接受的计算机科学训练，当时清华大学的训练以严格而著称。计算机程序等于数据结构加算法。我们系统学习了各种经典的数据结构，例如平衡二叉树，哈希表、队列、堆栈和堆，也学习了经典算法，例如图论中的最大流、最小割，深度优先、宽度优先搜索算法。那时非常强调汇编语言的高效性，c 语言的指针和内存管理。当时也系统学习了各种代数数值计算方法，物理方程有限元解法。在过去的 30 年间，计算机领域沧海桑田，地覆天翻，各种语言层出不穷，Java 和 Python 目前大行其道，Go 和 Rust 等新兴语言日新月异，很多知识已经被时代所淘汰。
在寒假期间，笔者为了科研每天依然编程 10 小时左右。无时不刻不依赖基本的数据结构，例如有序队列、哈希表等，但是却从来没有自己动手写过底层的容器，而是直接用标准模板库（standard template library）。自从我们学了形式语言和编译原理，编译器出现之后，笔者再也没有写过汇编程序。自从 Matlab 等数值分析程序库成熟以来，笔者也没有写过底层的数值计算算法。但是，由于笔者的研究领域主要是拓扑几何的算法，而表达流形最为有效的数据结构严重依赖于指针，笔者一直用 c++ 编程，Java 和 python 对于计算拓扑和几何并不是得力工具。在寒假中，笔者主要编写 3 维流形的拓扑算法，动态拓扑结构的复杂性超过日常的空间想象力，几乎所有的精力都耗费在检查指针链接的错误上面。同时，对于最优传输中的强烈非线性蒙日-安培方程，由于没有通用的解法库，并且依赖于动态高维多面体的单纯复形数据结构，笔者只得自己动手编写。这意味着不同的领域需要用到不同的计算机语言和科学工具。计算机工具的发展是渐进积累的，而非彻底颠覆的。基础的知识体系和技能训练依然需要。同时，由于笔者在研究的算法是目前尚未出现的算法，ChatGPT 没有学习资料，自然也无从竞争。
从另一个角度来看，计算机科学的发展将人类的理论知识转化为算法，传统的算法和数据结构被底层开发工具封装。后面的开发者不需要理解已经被封装的理论知识，而只需要懂得如何使用即可。例如几乎所有的计算机视觉算法都被 OpenCV 所囊括，所有的计算几何算法都被 CGAL 所封装，所有的数值 PDE 方法都被 MatLab 所包括，所有的计算代数算法都被 Mathematica 、Maple 所包括。这种人类智慧成果通过工业软件来积累是历史的必然，这强迫每一代的计算机科学家必须站在他那一代的前沿。每一代人需要开发不同的前沿，需要不同的知识体系和技能结构，而前沿在加速拓展。而针对落在前沿之后的传统算法，人类将无法和 ChatGPT 竞争，因为 ChatGPT 可以通过 Internet和庞大的科技文献进行高效学习，人类将无法望其项背。这意味着 AI 将人类从庸常肤浅的智力劳动中解放出来，从而使人类可以集中精力于复杂深刻的智力劳动。
对年轻人的忠告
对于正在成长的年轻人而言，如何在 AI 的巨大冲击下选择未来的专业方向是一个影响深远而又性命攸关的问题。恰如数控机床的出现，淘汰了大量的手工作坊。在过去几十年的 IT 领域，大量的工作是“重复发明轮子”，AI 的发展会大量减少这个层次的工作机会。那么年轻人应该学习什么方向呢？
30 年前，笔者求学阶段，IT 产业处于刚刚萌芽的原始阶段，周围人的主流观点都强调“接地气”，反对学习“屠龙术”，清华计算机系的教育也极其重视直接动手的工程能力。但是理论组的黄连升等老师坚持让我们花费主要时间学习现代数学。通常，现代数学需要更加抽象的思维，概念理解的难度远超过工程类的课程，一些同班同学因为强烈反对学习当时貌似毫无实用价值的“屠龙术”而转班至其他方向。后来笔者一直在学术领域耕耘，深刻体会到年轻时代学习现代数学的重要性。
丘成桐先生多次教诲大家：“大自然是有内在结构的，人类文明的发展本质上就是认识理解这些自然结构，用数学和物理语言将这些结构表述出来。”而自然中具有根本重要性的结构并不很多，如果在生命中能够发现或者厘清某个结构，那对于人类而言自然是功德无量，这正是基础理论学者终身追求的目标。认识自然是第一步，改造自然更是人类的目的。将自然结构及其规律用算法语言来表达，将数学物理定律“固化”成计算机软件，这正是计算机科学家的终极目标。在过去 30 年中，如果洞彻喧嚣，我们可以看出整个计算机工业正是沿着这条路径循序渐进地发展。例如，物理学的发展将各种自然物理规律总结成偏微分方程，工业软件就是通过有限元来求解这些偏微分方程，从而帮助人们在力学、热力、电磁、流体等领域的设计，推动机械、汽车、电机、航空等领域的发展。
笔者所从事的领域本质上是从算法角度来研究拓扑和几何结构。笔者在 1990 年代的大学阶段，代数拓扑和微分几何还没有渗透到计算机科学领域。1990 年，陈省身先生访问清华，到笔者所在的课堂上给了一个演讲，那是笔者头一次听说纤维丛示性类和陈类的概念，但是并不真正理解。1993 年，笔者学习曲面微分几何，逐步理解高斯-博内定理实际上是曲面切丛的陈类。1996 年左右，笔者在波士顿遇到一位音乐方面的朋友，得到了一本代数曲线方面的教程，接触到黎曼-罗赫定理和阿贝尔-雅克比理论，但是不知所云。2000 年左右，丘先生教导笔者系统地学习黎曼面理论，逐步认识到阿贝尔-雅克比理论本质上是黎曼面上的全纯线丛的示性类理论，但是只体会到智力上的美学价值，对于其工程上的实际用处严重怀疑。2015 年左右，Tom Sederberg 教授教授将笔者引荐给 Tom Hughes 教授，Hughes 教授创建了等几何分析（Isogeometric Analysis）领域，需要高质量 CAD 表示，而这归结为结构化网格生成。2017 年，在哥伦比亚大学遇到张首晟教授，向他请教拓扑绝缘体的理论，张教授回答一句话“就是陈类”。2020 年左右，笔者和合作者们终于认识到结构化网格等价于某个特定全纯线丛的全局截面，其奇异点等价于示性类，由阿贝尔-雅克比方程所控制。
再如 1995 年左右，丘先生教授笔者如何用蒙日-安培方程求解 Minkowski 问题。1997 年左右，笔者学习计算几何中的包络算法。2013 年左右，笔者遇到汪徐家教授从而了解了蒙日-安培方程和最优传输理论的关系。2013 年开始，笔者和合作者用几何变分法给出 Alexandrov 定理的构造性证明，开发了一系列算法求解最优传输问题。2020 年左右，生成模型开始火爆全球，我们将生成模型中的模式坍塌归结为蒙日安培方程的正则性理论。可以预见生成模型会持续发展，目前扩散模型中的热力学扩散并非是本质的，用最优传输取代会带来效率上的提升。
第三个例子，1993 年笔者学习微分几何，开始理解几何中最为关键的结构就是黎曼度量，在计算机科学领域中大量的问题本质上都是关于如何挑选一个合适的黎曼度量，但是没有任何算法来通过曲率构造黎曼度量。1998 年左右，笔者发现个叫哈密尔顿的教授每个周末都来到哈佛，与丘先生整日整夜地讨论所谓的 Ricci 流，当时只知道 Ricci 流是证明庞加莱猜想的关键，但并不理解 Ricci 流的理论细节。2002 年在洛杉矶，刘克峰师兄家中为丘先生贺寿，遇到另一位周师兄，周师兄是 Ricci 流方面的专家，了解到 Ricci 流可以通过曲率构造黎曼度量。2003 年左右拜访罗峰教授，开始和罗教授将 Ricci 流理论推广到离散情形。2007 年直至 2013 年，一直发展离散 Ricci 流算法，但是缺乏存在性、唯一性的理论证明。2013 年，离散曲面 Ricci 流理论证明完成，2018 年正式发表于 Journal of Differential Geometry 。2020 年开始通过 Hughes 教授与工业界合作，2022 年 Beta-CAE 首次用等几何分析方法完成汽车碰撞数值模拟，其 CAD 模型就是用 Ricci 流生成。2022 年，笔者访问北美工业软件的头部公司，发现公司招募的一些年轻人多次学习了笔者线上课程“计算共形几何”，而在公司中的主要任务就是开发 Ricci 流相关的软件。迄今为止，黎曼度量结构的唯一构造性算法就是离散 Ricci 流，刚刚开始渗透到工业界。
通过这些亲身经历，笔者感慨良多。笔者一向认为这些自然结构的存在与人类社会无关，其客观规律迟早会被人类所认识并且利用。例如，工业界所有的几何问题都无法回避黎曼度量结构，因此人们迟早会认识到 Ricci 流算法的根本重要性。但是，人类社会具有非常现实和世俗的一面，真正深刻的理论被工业界认可依赖于社会环境、技术和商业的发达程度。例如工业软件领域，很多年来一直没有突破性进展，似乎与现代几何拓扑发展绝缘。但是近 10 年来，由于 Tom Hughes 发展出的等几何分析方法比有限元方法更具优势，Ansys ，Beta-cae ，Honda 等公司开始力推这种方法进行汽车模拟仿真，由此对 CAD 建模提出了更高的要求，Ricci 流方法开始显现不可替代的重要性，具有数百年历史的 Abel-Jacobi 理论才最终得以在工业界应用。笔者和工业软件头部公司的技术总管深入交流，发现 CAE 技术瓶颈不再是偏微分方程的数值解法，而是前端几何网格剖分和样条构造问题，而这些问题不再是传统机械力学、数值偏微分方程的问题，而是涉及到刚刚发展出来的微分几何、代数几何和 3-流形拓扑理论。
如果我们问 ChatGPT 有关计算机编程的工程方面的问题，ChatCPT 对答如流；如我们问 ChatGPT 关于代数拓扑、几何方面的算法，ChatGPT 无法给出令人满意的回答。可以预见，AI 的发展迫使人类从事更加复杂深刻、更加需要创造性的智力劳动，而这需要更加先进现代的基础理论作为支撑。过去几年，笔者有幸遇到了很多有才华、充满理想主义的年轻人。笔者鼓励他们本科期间多学基础数学和物理，到研究生阶段再根据自己的志趣选择偏学术或者偏实用的方向。
年终小结
2022 年笔者继续坚持线上的公开课程“计算共形几何”，也涵盖了“最优传输理论”。因为工业软件的迅猛发展和 AI 特别是 AIGC 生成模型的爆火，课程吸引了数万名同学。非常感谢广大同学们的大力支持！课程主要介绍了曲面代数拓扑、微分几何和共形几何的基本概念、定理和计算方法，也给出了代数曲线、黎曼面理论的一些关键定理，基本上是用比较初等的方法证明黎曼-罗赫定理和阿贝尔-雅克比定理。最优传输理论涵盖了经典的 Monge-Kantorovich-Brenier 理论，凸几何中的 Minkowski-Alexandrov 理论，流体力学的 Benamou-Brenier 理论。也解释了单纯复形的 dart 数据结构，持续同调算法，Hodge 分解算法，Ricci 流算法，几何变分的最优传输算法等等。今年笔者计划坚持开课，或许加一些三维流形拓扑算法，纤维丛示性类算法。
这篇文章的封面插图由 OpenAI 的 DALL-E2 生成，笔者输入的提示是：“AI 正在产生人类历史的奇点。”DALL-E2生 成了一张正在破碎的人类少女的脸，而少女的食指指着一张正在生长的机器人的脸。AI 生成的图像的确非常切题而传神，传神到直接描绘了人类被取代的恐惧。这令笔者感到了 DALL-E2 的挑衅意味。
最后，笔者需要证明这篇博文的确是由人类完成，而非由 ChatGPT 所炮制。于是笔者询问 ChatGPT ：“如何证明一篇文章是由人类写就，而非你所完成？”ChatGPT 热情地建议到：“你可以包括一些语法错误，人类经常犯，而 AI 语言模型通常不会。”这又让笔者感到了 ChatCPT 隐隐的嘲讽。不爽之余，笔者觉得最好还是包括一句 ChatGPT 的语料训练库中还没有包括的 2022 网络流行语：对所有的人类读者说一声“栓 Q ”！
本文转载自微信公众号“老顾谈几何”。
顾险峰在学术会议上认识的，丘成桐的博士生。在计算几何领域有较高造诣，看看论坛里提问的问题，哎。。。都是庸常肤浅的基础教育阶段问题。还一直自得其乐。
页:
[1]