编者按：本文源自微信公众号笔记侠（ID：Notesman），作者刘伟，经微新创想授权发布。内容源自苇草智酷与信息社会50人论坛2023年7月21日线下讲座。分享嘉宾刘伟，北京邮电大学人机交互与认知工程实验室主任、剑桥大学访问学者。商业思维笔记君说：从信息化到数字化，再到人工智能，科技发展步伐日益加快。ChatGPT等智能大模型的涌现，带来了颠覆性的工作场景与市场应用。参数规模持续扩大，性能表现不断提升，但与人类期待的智能仍存在差距。人工智能表现为何不尽如人意？其未来发展趋势如何？关键突破点又在哪里？北京邮电大学人机交互与认知工程实验室主任刘伟将为您深入剖析，文章篇幅较长，敬请耐心阅读，相信能为您带来深刻启发。
一、事实与价值：人与机器的核心差异
1. 辨别”是”与”应”，方为智能之始
18世纪，英国哲学家大卫·休谟提出”事实与价值能否转换”的哲学命题。他认为，事实陈述描述世界”是”怎样，价值判断规定世界”应该”怎样。前者是客观描述，后者是主观评价，二者分属不同认知活动。因此，不能从事件”是什么”推断出该事”应该”如何。现实世界与理想价值世界之间并无逻辑关联。这一观点在当时引发巨大反响，不仅挑战伦理学、哲学等认知科学，更对人工智能发展构成关键制约。若能破解此难题，或可实现颠覆性突破；否则，人工智能发展将局限于渐进式改良。
亚圣孟子提出”是非之心，智也”，将”智”解释为”能明辨是非”。这一思想影响深远。综合二者观点，我提出”是应之心，人机智也”。”是”代表being（事实）,”应”代表should（价值），二者结合即”人机智能”。需明确区分三个核心概念：”人机融合智能””人的智能”和”机器的智能”。三者并非同一范畴，”机器智能”包含”人工智能”与”机工智能（机器能编程、修改程序）”。在人工智能研究中，”类脑智能”概念虽受关注，实则存在认知误区。人的智能是人与环境交互的产物，如狼孩虽具正常大脑结构，却缺乏人类智能。单纯模拟人脑无法复现人类智能，仅能实现部分基础功能。备受瞩目的ChatGPT虽参数达1750亿，却存在”机器幻觉”现象——输出结果常与事实、常识相悖。这种现象源于机器无法有效统一事实与价值。人工智能以数据为基础，而人类兼具非数据智能特质。非数据智能的特点在于”等价”而非”相等”，等价是在价值上进行类比，相等则要求事实完全一致。
2. 事实与价值的定义
事实可通过观察测量和验证获得，是客观存在和发生的事件现象及数据，不受个人偏见影响。如”地球围绕太阳公转””摄氏度下水的沸点是100度”等。事实包含数据、信息、知识，同时常隐含非数据、非信息、非知识元素。价值则指人们对道德、伦理、美学等方面的主观评价和信仰，反映个体或群体的观点、情感和信念，具有主观性。价值的作用体现在：事前预测预警（如合作前的性格品质评估）、事中干预（根据定性调节事件发生）以及事后追溯反思。事实涉及客观存在或发生的情况，具备验证性和客观性；价值则是主观评价和信仰，具有主观性和个体差异。理解二者差异，有助于更准确地进行思考与交流。
3. 事实与价值的双向转化困境
如何将价值转化为事实？如何将事实转化为价值？人类至今尚未找到二者转化的规律。假设基于猜想推测，与事实相关但与价值无直接联系；统计概率根据数据分析得出可能性预测，同样与价值无直接关联。斯坦福大学1966-1970年进行的棉花糖实验显示，儿童对”事实与价值关系”的反应受成长环境影响。实验结果存在文化差异：日本儿童平均能忍耐15分钟，而美国儿童平均4分钟就吃掉棉花糖。对成年人而言，除了客观事实评价，还包含社会评价、环境评价等主观因素。因此，成年人看利弊时会混合主观与客观视角，而儿童更多凭感知或个人喜好判断。
二、事实与价值的融合嵌入：世界的真实面貌
真正困难的不是简单的是非判断，而是事实与价值的混合发酵，后者更为复杂却更接近真实。这种混合无处不在，如何有效处理和分析，是智能研究面临的核心问题。为形象描述人机融合智能，我用太极图阐释人类智能与机器智能关系：人类智能以黑鱼表示，其中的程序化、理性或类机器特性以黑鱼白眼呈现；机器智能主要表现为程序、算法、数学公式和统计，以白鱼表示；未来机器智能趋势中仍蕴含人类泛化智能。这种融合体现在多个层面。
1. 东方与西方的相互嵌入
东西方在文化、科学、技术和伦理道德等方面相互渗透，如太极图所示，黑中有白，白中有黑。老子《道德经》开篇”道可道，非常道”，其中”道”指理性、规律或逻辑，”非常道”则包含理性与感性的混合体，形成逻辑簇。道家解释”名”时也采用类似逻辑：”名”是定义，”非常名”则包含定义组合。西方科学技术中同样存在东方哲学元素：光的波粒二象性、量子力学的纠缠和叠加。因此，未来逻辑将发展为混合体逻辑组、逻辑簇。人机交互相对容易理解，但人机融合智能难点在于何时、何地、何式（事实与价值）的组合协同问题。
2. 科学技术与人文艺术的交融
1959年，英国剑桥物理学家兼文学家C.P. Snow提出两种文化：科学文化和人文文化。智能也分为两种：科学技术智能（含人工智能、人机融合智能等）和人文艺术智能（如《孙子兵法》中的战争艺术）。科学技术与人文艺术相互融合，科学中包含人文，人文中也包含科学。真正的智能是科学与非科学、人文与非人文的综合生态。个人理解认为，现有人工智能算法并不智能，反而很狭隘。深度学习、强化学习等算法都有条件、边界和约束，脱离这些条件的算法就是”智障算法”。当前智能产品表现未达预期，根源在于未意识到科学与人文的相互嵌套关系。离开人文，科学难以为继；离开科学，人文发展受限。
3. 系统论与还原论的整合
系统论与还原论共同构建了人类智能新框架，体现东方与西方智能的融合。系统论强调整体性，是东方思想特色，如天、地、人等观念。西方还原论体现在物理、化学等科学领域，为现代科学与技术奠定基础。本质上，人工智能并非理想智能系统，仅是无人自动化系统或自动化系统的技术拓扑。真正的智能系统需将还原论嵌入系统，在还原中嵌入系统，二者混合存在。
4. “计算”与”算计”的辩证关系
计算是事实的演绎、归纳，算计则是人类价值的赋予。系统论、控制论和信息论作为系统理论三大基础，反映客观事实。嵌入”价值”后，这些理论获得新发展：信息论增加了价值赋值，影响信息输入质量；控制论增加了价值反馈和主观反馈；系统论在定性分析和主观评价后，形成人机环境系统。算计中也有大量计算，计算中也嵌有算计。高斯有言：”数学的精髓在于计算之外。”孙子《兵法》中的”能而示之不能”等原则体现了算计思维。毛泽东”你打你的，我打我的”思想也蕴含算计智慧。计算与算计无处不在，二者相互嵌套。
5. 数据与非数据的平衡
人工智能涉及计算和算计，其输入端涉及数据与非数据。但人工智能最大缺陷是把”非数据”当作”数据”处理。如”情感计算”算法，情感能否计算？情感既有可计算成分，也有不可计算成分。数据包含信息，信息也包含数据。信息是”有用的数据”，但存在”数据丰富、信息贫乏”(DRIP)现象。传感器增多反而导致信息减少，因传感器之间存在矛盾、冲突。人多了是非多，传感器多了也会产生”是非”，导致无法统一。数据与信息融合日益重要，单纯强调数据或信息都有问题，关键在于如何结合非数据与”数据”。
6. 理性与感性的融合
对数据信息的处理涉及理性与感性两种方式。但二者非绝对对立，理性中含感性，感性中含理性。同一律、无矛盾律和排中律是理性三大原则，共同构建数学大厦基础。孙子《兵法》提出的”能而示之不能”等原则体现感性思维。理性三定律难以表达感性，因感性灵活多变，需根据环境和对象采用策略。感性与理性融合后，可得出结论：价值不同于事实，价值不是假设，也不是统计概率。人类早期感性思维表现为饿了打猎、下雨躲洞，理性思维则由感性产生。代数学、几何学等都是人类发展衍生而来，用数学计算意图理解存在局限，因人类意图产生于感性，并伴随背景和状态。
7. “一”与”多”的辩证统一
“一和多”问题广泛存在：人类早期一夫多妻现象、佛家”一花一世界”说、现代一党多党制等。智能的事实与价值中，从输入、处理、输出、反馈、平衡各阶段都可见一和多现象。输入是单个还是多个数据？处理用一种还是多种方法？输出是一个还是多个角色？如何平衡协调协同？整体中包含多个元素，多个元素中也包含整体思想，一中有多，多中有一。维特根斯坦强调语言使用方式取决于社会文化背景，而非符号含义关系。语言哲学大师观点启示我们：从事件表征到推理，再到结构形成功能，都是”一和多”问题。用小样本解决大问题，才是真正智能。
8. 态与势，感与知的辩证关系
态中有势，如智能城市功能区产生大量状态参数，汇集后形成趋势并协同。势中也包含状态，状态蕴含趋势。当前智能系统多”有态无势”，收集状态参数全面却反映不出变化方向。如何实现”有态有势”？需从”感”和”知”入手。”感”是感觉，非传感器被动”感”，而是人的主动感悟，如善良。知是知觉，建立在已有知识基础上，处理信息和知识自觉。感中有知，知中有感，二者混合。深绿系统因未反映真实态势而失败，粟裕大将不依赖大数据，通过情报洞察取得胜利。费曼名言”凡我不能创造的，我就不能真正理解”启示我们：理解是感知不可感知和未形成数据之物。人类态势感知时空与机器不同，能产生事实想象、价值泛化，创造虚拟人物。智能本质是人性拓扑，人性本质是价值，通过价值实现联系、协同与合作。
9. 自主与它主的辩证关系
自主和群体智能是人工智能前沿概念。机器自主智能是自主思维，能根据环境条件自主产生新逻辑，摆脱人类框架控制。群体智能源于蚂蚁等社会性昆虫研究，控制分布式，无中心控制，具自组织性。具身、离身和反身也是流行概念。人类思想多受他人影响，如牛顿从导师朋友处获取养分形成理论。具身智能需置于环境中交互，符号是离身表现，反身是通过他人表现调整自己。单纯具身有局限，结合具身、离身和反身，构成自主与它主。自主中有它主，它主中有自主，二者混合。人工智能自主分级缺乏统一标准，常使用事实性问题，因价值难以转化为事实表征。
10. 主观与客观，因与果的辩证关系
“主观”确定主观吗？”客观”一定客观吗？量子力学显示，观察者参与才能发现”猫”的真实属性。科学研究中常”先信仰后理解”，如牛顿从苹果落地感悟万有引力，爱因斯坦质疑牛顿理论提出相对论。主客观存在相互转化。因果关系也是主客观重要表现，佛学强调因果相互作用，原因中有结果，结果中也有原因。科学研究中常抓少数原因结果，但智能问题因素更复杂，多因导致多果。
11. 自由与决定的辩证关系
人从出生到离世是”决定”，但过程中又是自由的，想象无限，可接触任何事物。人机智能体现自由与决定的融合，既反映自由也反映决定，兼具规则概率与反规则反概率。人机融合是自由意志与数理决定的交互。
12. 价值与事实的辩证关系
价值不同于事实，不是假设，也不是统计概率。指鹿为马典型体现事实与价值矛盾。只有事实与价值对齐，智能才不”智障”。自指是特殊递归能力，是事实与价值桥梁。当前人工智能把数学当逻辑，把逻辑当智能，但数学基于公理逻辑，智能是逻辑与非逻辑综合。智中有愚，愚中有智，二者辩证统一。人物（机）环境间的一多关系、事实与价值、主客观、自由与决定对齐，需多角度思考，现有算法难以完全对齐，需新算法新体系。
三、人机融合智能的瓶颈与发展趋势
1. 人机智能体系六大关键问题
数据与非数据问题；人工智能与非人工智能问题；人在系统中和人在系统外问题；自主定义与分级；伦理道德和法律问题；测试和评价问题（因智能产品类别繁多，缺乏统一标准）。
2. 人工智能三大瓶颈
可解释性、透明性和可信任性问题；机器常识与人类常识问题；人类学习与机器学习差异性问题。这些问题都涉及事实与价值回归。
3. 智能发展趋势
未来智能发展将从人工智能走向人机融合智能，再到人机环境系统智能，呈现五个特点：主动推荐、交互学习、高效容错、混合决策、按需组网。
