说实话，我对AI的了解与大多数普通人差不多，没有什么特别成熟的想法。我的一些同事和朋友们已经开始用AI写文章或作诗了，但我还没有，也许以后会，但现在还没有。
没有必要恐惧和担忧AI
我们都知道，关于AI，大家有很多的憧憬，也有很多的恐惧。据说2023年初推出的ChatGPT就已经通过图灵测试了，意味着面对机器和人两个对象对同一问题的回答，我们无法分辨哪个是机器，哪个是真人。图灵测试是计算机科学之父艾伦·图灵于1950年提出的。我心里就在想：它能不能通过我的测试呢？
于是我亲自试了一下。我先给它发了一些问题，回答得都挺不错。然后我想进一步测试它和真人是不是有区别，我就写了一句：“你是个混蛋”，看看它的反应。结果它很有礼貌地回复我说：“哈哈，看来我不小心‘得罪’你啦？是哪里做得不够好吗？可以告诉我呀，我一定努力改进。”
所以我就肯定，它没有通过我的测试。它是机器，不是真人，因为它没有真情实感。如果是一个真人，他不会这么客气了，对吧？他更可能直接回骂我，说“你才是个混蛋！”，即便非常有涵养的人，可能也会说：“你这人怎么这样说话？太没礼貌了！”我请教张宏江院士，他是AI顶级专家。他解释说，这是因为在语言生成模型后训练（posttraining）的对齐过程中对模型做了限制。
我问他：那如果这些限制去掉了，它会不会反过来骂我？他说，是有这个可能的。今天的推理模型已经在推理中反问用户了。未来AI对人类的态度是否依然这么“友好”，我们还不能确定。至少目前为止，AI在“服务态度”方面比我们人类还要好——打不还手、骂不还口。因为它是机器，不是人！未来的AI会不会像人类一样有情感，我不知道。
我们对AI的期待很多：觉得它可以达到人类的智能，甚至可以替代人类，以后什么事它都能给我们做。这也带来了巨大的恐惧，尤其是两个方面的担忧：第一，如果AI在智能方面全面超越人类，是否会变成人类的统治者，而不是人类的助手？第二，AI是否会让人类无所事事，大批人失业？
我的看法是：目前人们对这两个问题的担心其实都过度了。AI没那么了不起，它不会那么容易达到我们人类的智能水平。我也不认为AI一定会导致“工作消失”，相反，我相信它会创造出更多新的工作机会。
为什么这么说？只要回顾一下历史就知道（你后面会发现，我这句话有些自相矛盾）。人类从石器时代开始的每一项技术发明，本质上都是在某一个方面取代人类的某种功能，超越人类。最早的石刀、石斧，就是替代人的手，让拥有者比赤手空拳的人做得更好。但总体结果是什么？这些发明并没有让人类的手变得无用，而是增强了人类手的能力。我相信未来的AI也一样，它不会彻底取代人类。
有人说，过去的发明大多是在物理能力（physical capacity）方面替代人类，现在AI是在智能（intelligence）方面替代人类，这是根本性的不同。但我对此有不同的看法。至少从蒸汽机以来，人类发明的大部分技术，或多或少都包含了某种形式的“智能”。即使最简单的瓦特蒸汽机，也具备某些智能元素，虽然它看上去只是替代人或动物的肌肉，提供动力。
蒸汽机的阀门可以判断何时注入蒸汽，何时停止，何时冷却，甚至可以根据气缸内部的压力做出负反馈调控，怎么能说蒸汽机没有智能呢？亚当·斯密在《国富论》中讲到，最初的蒸汽机，原需雇佣一个儿童，按照活塞的升降，不断开闭汽锅与气筒间的通道。有一次担任这项工作的某个儿童，因为爱和朋友游玩，就用一条绳子把开闭通路的舌门的把手，系在机械的另一部分，舌门就可不需人力自行开闭了。斯密讲的故事是否真实，我们不知道，但蒸汽机包含着智能，这是千真万确的事实，更不要说我们今天的大量自动化设备了，它们具备的逻辑判断和反馈机制远超人类自身。
再说回“工作”这个问题，我觉得许多人担心过度了。假如200年前有人告诉你，由于农业机械化和人造肥料的应用，以及作物品种的改良，未来只需5%的人从事农业生产，你肯定会担心：“那剩下95%的人干什么？”但事实是，今天在大多数发达国家，确实只有不到5%的人务农，其余95%的人照样有工作。这说明，我们的想象力可能限制了我们对未来的预测。
至少从长远看，技术进步总是创造更多的工作机会，而不是让人类变得无所事事，尽管我们现在无法说清楚AI究竟会创造出哪些新工作，正如250年前的人不知道蒸汽机会创造出什么工作机会一样。
未来是未定的，不完全由过去决定
我想讨论的一个核心问题是未来的本质(the nature of the future)：未来是由什么决定的？
简单地讲，未来是否完全由过去和现在所决定？换句话说，历史是否能告诉我们未来是什么？如果这个问题的答案是“Yes”，那就意味着AI最终会超越人类，在智能上也能做到比我们更好；但如果答案是“No”，那AI就永远不可能全面超越人类。我自己的判断是：“No”。
要理解这个问题，我们得先思考：我们所处的世界到底是怎样的？
有一种“确定性世界”的假设，它认为：未来是已经确定好的，完全由过去所决定，只是等待时间展示出来。在这样的世界里，未来虽不完全可见，但可以被准确预测。就像古典物理学中给定初始条件和运动方程，我们可以准确知道某个物体在某个时点的准确位置。比如我们今天能预测500年后的日食或月食，这是因为太阳系的运动轨道是确定的、可计算的。但在真实世界，人类并不是生活在这样一个“确定性”的世界。人类社会与自然界不同。
现在人们普遍认识到，世界是不确定的(uncertainty)。我经常碰到学者和企业家在演讲中讲这样一句话：“唯一确定的就是不确定。”大家似乎都理解了这个道理。
但其实，这种理解仍然存在一个误区。我们现在对于“不确定”的理解，还是基于一个“客观世界”的假设：这个客观世界独立于我们人类而存在，未来虽然不确定，但它已经被预先设定好了，只是我们还没看到它“被展开”。在这个框架下，所谓的不确定性，完全是我们自己的主观感受。我们感到不确定，是因为我们的知识有限，信息有限，计算力有限，所以我们感到“我们不知道”，而不是未来本身是“未定”的。
于是我们相信，随着知识和数据的增长，不确定性就会减少，就像概率统计学上方差会随自变量增加而减少一样。这一点可以用天气预测来说明。明天是否会下雨？在我们看来是不确定的，但事实上它已经确定好了，只是我们今天还不知道。50年前的天气预报，很不靠谱。但现在我们已经能通过气象大数据，做到95%的准确率预测明天的气温、降雨、风力等。我们打开APP，就能查到未来两周的天气预报。这说明：即便世界在数学意义上是“不确定的”，但在统计学意义上，它仍然是确定的，是可预测的。
但真实世界不是这样。我们拥有了越来越多的知识，是否就意味着世界变得更加“确定”了呢？并不是。恰恰相反，我们发现，知识越多，数据越多，反而觉得世界越不确定。
举个简单的例子：今天的世界相比我们的祖先所处的时代，真的更确定吗？我们的祖先在农耕社会里，尽管也有不确定性，但生活节奏是规律的、可预测的。而今天我们生活在信息爆炸的时代，所面临的不确定性反而更大。
再来从另一个角度看：相对于文化程度低、知识贫乏的人，那些受过更好教育、拥有更多知识的人，他们的世界就更确定了吗？也不是。相反，知识越多的人，往往面临的世界越不确定。为什么会这样？
我想引入一个核心概念：“未定性”，或者说“待定性”（indeterminacy）。“未定性”意味着：未来不是已经定好的，未来并不存在一个独立于人类、客观的、等待我们去揭示的世界。对人类来说，未来不是“揭示”（reveal）的结果，而是“创造”（create）的过程。我们将生活在什么样的世界，部分取决于我们的选择——不仅是你个人的选择，也包括他人的选择、无数你不认识的人的选择；不仅是今天的选择，还有明天的选择，所有有待今后做出的选择。但我们的选择也不能唯一决定最终哪一种情况会发生。
你知道自己的选择，但不知道别人的选择；即使知道别人今天的选择，还是不知道别人明天的选择。这才是严格意义上的不确定性。这才是真实的未来。正因为未来不是事先已经决定的，我们就无法依靠过去的数据来预测未来将会怎样。在这个意义上，未来是不可预测的。
我们无法提前知道未来会发生什么，无论我们的知识多么丰富，数据多么大。正如经济学家路德维希·米塞斯所言，即使你对过去无所不知，你对未来仍一无所知。参加这次论坛的嘉宾中，有位杰出的经济学家——布莱恩·阿瑟（Brian Arthur），他是“路径依赖”（path dependence）理论的始作俑者。
诺贝尔经济学奖得主道格拉斯·诺斯用“路径依赖”解释历史，让它变得无人不知。但我们要清楚一点：未来是“路径依赖”（path-dependent），但不是“路径决定”（path-determinate）。面对未来，人类依然有选择的空间。
AI没有人类独特的想象力
而我们的选择，依赖于什么？依赖于我们的想法（ideas）。我们头脑中如何思考，我们如何想象，决定了我们的行动。而人的想法本身是无法从过去推导出来的。即使读了相同的书，拥有相同的数据，使用相同的统计方法，不同的人会产生完全不同的想法。所以，我们的思想和选择，是不可预测的。
这里，我想特别强调一个关键概念：想象力（imagination）。这里的“想象力”不是用“反事实”（counter-factual）的方法虚构故事，而是一种面向未来的洞悉，是我们用心灵去“看见”尚不存在的事物。存在的东西我们可以用肉眼看到，用肢体感知，或者借用人造的工具（如X-光、显微镜等）去透视、去识别。不存在的东西只能用心智去构造。想象力让不同的人在面对同样的信息时，产生完全不同的未来图景。
因此，面对未来的问题，不会存在一个所有人都认同的“唯一正确答案”。事实上，凡是所有人（或大部分人）都认同的答案，就像高考卷上的标准答案，只是为了“评价过去”而设定的，不是用来面向未来的。面向未来，想象力不是为了回答“将发生什么（what will happen）”，而是为我们创造想要的未来蓝图，是要回答“我们希望什么发生”和“我们应该做什么”。
这就引出了AI（人工智能）与人类智能之间的根本区别。我认为，人类最独特的地方，在于想象力。而AI，本质上是一个基于数据的统计机器（statistical machine）。它看起来复杂，但归根结底，它没有想象力。当然，我们可以严谨一点地说，未来AI也许会拥有某种“想象力”，但那依然不是人类的想象力。就像某些动物可能有一点想象能力，但和人类相比仍有极大差距。
AI的所有答案和结论，本质上都来自统计回归（regression）。它并不是对未来的预测，而是对过去的总结。而人类历史与未来的进程，并不是由统计回归所决定的，而是由离群点（outliers）推动的。对研究者来说，离群点是一种不正常，但对社会变化而言，它们是正常的。最具想象力的人——如埃隆·马斯克这样的企业家，就是这样的离群点。有没有他们，世界会很不一样。
然而，我们习惯于在“已经发生的事情”中寻找因果逻辑。比如，唐纳德·特朗普当选美国总统了，我们就找理由解释“为什么他会当选”；如果他没当选，我们一样也能找出一堆理由，证明他为什么没有当选。这背后的逻辑是：我们相信“历史的发生具有必然性”。这种思维，根植于我们头脑中一种“唯物主义的因果逻辑”，一切发生过的事情，似乎都必须被证明是“合理的”。
回顾我们人类的历史：世界人均GDP从250万年前到250年前几乎没有什么变化，直到工业革命之后突然陡然上升。如果我们在1800年时点上只基于250万年的数据进行回归预测，我们根本预测不到这场飞跃的发生。这意味着什么？数据越多，未必预测越准确。相反，恰恰是那些较新、较小规模的数据，可能对预测更有价值。
我们可以再想象一个场景：如果500年前就有AI，它能否告诉我们正确的理论是地球绕太阳转？我认为不可能。它只会继续告诉我们“太阳绕地球转”，因为这是历史大数据告诉它的。又比如：如果120年前就有AI，它是否能提出“相对论”？我相信也不可能。因为那需要像爱因斯坦那样的想象力，才能突破既有逻辑，提出新的框架。所以我认为，从今天走向未来也将如此：无论我们拥有多大的数据、多强的算力、多好的模型，仍然无法替代人类的想象力。
最后我还要强调一点：多样性（diversity）。人类之所以进化，社会之所以演化，是因为由不同的个体组成——体力、智力、长相、知识背景、情绪能力都不一样。智力同样高超的一群人，他们的想象也千差万别。正是这种差异，才推动了知识的演化，推动了人类的发展。而AI能做到的是什么？它们在面对相同数据时，得出的结论高度趋同。
即使我们今天有多个不同的大语言模型，它们在本质上并没有什么根本差异，都是一种“统一”的统计输出。所以我预测：如果有一天机器真的超越了人类的智慧，那一定意味着机器本身也具备极大的多样性，就像人类一样，有笨的、有聪明的，有的像爱因斯坦，有的像个傻瓜。而这一点，现在的AI还远远无法做到。
AI无法超越人类智能
总结一下，我今天的结论其实很简单：未来是未定的，未定是有待我们创造的。因此，我们没有办法依靠现有的数据和知识去推断未来。人类的想象力在人类构建未来、创造未来的过程中，发挥着极其重要的作用。我相信，机器永远不可能像人类那样拥有真正的想象力。因此，至少在创造力这个维度上，我坚信机器的智慧或智商永远无法超越人类。
当然，人类作为一个整体，我们所展现的知识和潜能是无限的；但每一个个体所能展现的能力是有限的。所以我们今天所能想到的东西，也完全可能是错误的，包括我自己的想法。我今天讲的这些，其实也是一种预测，本身就存在自相矛盾之处。我的想象力是有限的，因此我的判断也可能在将来被证明是错误的。但我要表达的核心观点是：任何试图对未来做出精准判断的努力，注定是会失败的。所以大家也不必太过担心，比如说我们很快就没有工作了，世界将会完全不同——no worry（别担心）。
2000多年前，荀子曾说，人力不如牛，行走不如马，但牛马被人所用，而不是人被牛马所用。为什么？因为人能够“群”。这里的“群”，指的是人类能够合作、有智慧。套用荀子的话，我们可以说：人的记忆力不如机器（AI），算力也不如机器，但机器仍然是为人所用，而不是人被机器所用。为什么？因为人有想象力，机器没有。
还没有评论，来说两句吧...