确保AI的价值一致性是一项重大挑战｜读+

在人类向虚拟空间大举迁徙的“旅途”中，元宇宙的发展在法与社会互动关系中引起了革命性变化。近期，上海交通大学文科资深教授、上海交通大学中国法与社会研究院院长季卫东出版了《元宇宙的秩序——虚拟人、加密资产以及法治创新》，书中辩证地阐述了数字化生存的秩序原理，提出了一系列值得深入思考和探究的特殊现象，并归纳出关于元宇宙与法律规范的十二条基本命题。

(资料图)

上海交通大学文科资深教授、上海交通大学中国法与社会研究院院长季卫东。

对人工智能的忧患

1979年参加高考时，季卫东第一志愿报考的是北京大学法律系，第二志愿是复旦大学新闻系——这些选择都来自下乡的人生体验。因为在季卫东看来，“新闻和法律正好反映了保护农民合法利益的两个重要方向”。

1979年的秋天，季卫东以全省文科状元的身份走进了北京大学，成为法律系的学生。他的研究成果推动了国内一些重大学术问题以及制度实践的启动与展开，例如1993年发表的《法律程序的意义——对中国法制建设的另一种思考》，引起了国内法学界的关注。后来“程序应当成为中国今后法制建设乃至社会发展的一个真正的焦点”上升为中国知识界的普遍共识。

从2001年夏天起，季卫东开始在国内媒体发表非学术文章。他的独特之处在于，他不高张主义的旗帜：“如果缺乏细致的推敲以及制度化作业跟进，主义之争不是流于意气用事，就是陷入玄谈游戏。”他特别强调公正程序和论争规则，坚持认为只有在这样的前提下，围绕“主义”的争论才有可能真正形成政治共识。

在季卫东的著作《元宇宙的秩序——虚拟人、加密资产以及法治创新》中，他从哲学基础、经济机制、个人行为、生态系统、制度创新以及法律实务等不同层面，分别阐述和剖析元宇宙中的新生事物及互动关系。最后通过对生成式AI与大模型引发忧患意识的思考，探寻以“无知之幕”、互惠理念实现算法公正与价值对齐的法律举措，并对元宇宙有序化机制与法律的范式转换进行展望。

《元宇宙的秩序——虚拟人、加密资产以及法治创新》 季卫东 著 上海人民出版社

元宇宙将影响现实秩序

最近三十年来，随着数字信息通信技术的广泛应用，人类社会正在发生意义深远的数字化转型。数字经济、数字生活、数字国家，加上网络游戏软件、区块链、数字孪生技术以及互联网3.0，为元宇宙的发展奠定了稳固的基础。

根据麦肯锡的一项最新调查，在未来五年里，相关用户预计每天将在元宇宙中花费4到5个小时，进行沉浸式购物、远程医疗预约、虚拟旅游、数字化教育以及VR社交。其中Z世代是核心用户群体，这些人可以称为元宇宙的原住民。

在一定意义上可以说，元宇宙原住民是社会人与游戏人的合体，他们通过分身或者化身在相当程度上实现了灵魂与肉体的离异，能从沉重的现实世界解放出来。作为在无边无际的网络中游荡的数字分身虚拟人，是自然人在电脑空间中的自我投射。

数字分身也可以采取不同的方式参加各种经济活动。在微观经济层面，自然人可以通过虚拟人乃至复数的分身展示自我，可以通过改变虚拟人的服装、用品等大胆追求时尚，可以在元宇宙中参加演唱会、参观美术展、到海外观光……这种新型生活方式和消费方式可以拉动互联网上的生产和贸易活动，形成一个与分身需求相关的庞大经济圈。

在某种意义上也可以说，分身其实就是分形，势必导致世界向复杂性系统和分散型组织的方向演变，甚至以各种社区及其独特伦理的方式造成某种小国寡民的状态，引起社会秩序的碎片化。

元宇宙给个人提供了体验另一种全新生活方式的机会，提供了重新设计自我和环境的可能性，因而空前增强了个人自我做主的意识和能力。

季卫东表示，这就势必导致社会秩序的范式发生根本性转变，并使调整虚拟空间与现实世界之间的法律关系成为非常重要而迫切的任务。

在社会治理方面，元宇宙也已浸润到大众生活的方方面面。从某种意义上说，随着元宇宙的扩展，现实世界的秩序也受到影响，两者呈现一种齿轮传动的关系。“在虚实相生、以虚强实的状况下，数字的关系秩序与模拟的法律秩序之间究竟如何互相影响，这是法学尤其是法社会学及新兴计算法学的一个重要的研究课题。”

【访谈】

人工智能的监管，要兼顾防风险与促研发

读+：您在《元宇宙的秩序》里提到数据监管的必要性，您怎么看待人工智能监管的紧迫性？

季卫东：人类对语言的处理、对智能的驾驭实际上大部分是在无意识的状态下进行的。科学哲学家迈克尔·波兰尼曾经指出：“我们知道的比我们能表述的更多。”换言之，知识体系还应包括这种没有明确意识到、或未被社会常识所认可、或不能言说的默会知识。这一命题被表述为“波兰尼悖论”，并成为人工智能理论的基础。这也意味着人工智能对无意识的语言处理，根本就无法设计那种获得和应用所有语言的算法，也很难为机器学习设定明确的训练目标。

现在通行利用神经网络进行机器学习，通过误差反向传播算法不断调整神经元权重和更新网络参数，逐渐减少误差，寻找训练数据的正解。人们发现，当神经网络的规模被大幅度扩张之后，人工智能接龙预测的精确度就会突然得到显著改善。这个发现及其有意识的应用使机器学习进入了深度学习阶段：无需复杂的规则和学习方法，只要让网络规模倍增就可以使许多难题迎刃而解，迅速提高泛化能力——不言而喻，这种神奇效果也证明了大语言模型的重要意义。其实质是多层网络的自我学习和进入语境（in-context）的学习，以及在此基础上实现学习方法的学习——元学习。这样一来，人类对机器学习的特征设计也就变得没有意义，人工智能实际上是开始进行自我塑造，形成一种自动化的生态系统，甚至有可能脱离人类的控制。

ChatGPT之类大语言模型在去年底如雨后春笋般冒出一大批，显示了改变社会、改变专业服务行业、改变日常生活风景的巨大影响力。不得不承认，大语言模型在给国家和社会带来便利和效益的同时，也带来了令人不安的风险甚至威胁。

“大语言模型怪兽（LLM behemoths）”纷纷崭露头角，并且有可能因为在对数据进行深度学习中放弃给定的特征设计，转而自我设置次级目标而脱离人类控制，进而引起治理方面的严重问题。为此，当然不能对人工智能研发采取放任自流的态度。但是，过于严苛的监管又会妨碍科技和相关产业经济的发展。在这里，我认为应该采取一种兼顾风险管理和科技研发的平衡政策。

为了防止上述各种风险演化成不可逆的灾害，国内外已经有很多专家和业界领袖提出了暂停大模型开发、实现价值对齐、加强AI监管等各种对策和建议。确保AI在国际层面的价值一致性，可能是21世纪最重大的挑战之一。无论如何，这是一场前所未有的大变局，势必形成崭新的国家与法律存在形态，促进秩序范式的创新。

读+：在一个事物初生阶段，强调秩序、法治这些理念，是否会对其发展造成妨害？“野蛮生长”阶段其实是可以理性避开的吗？

季卫东：实际上，“数字主权”的理念就意味着国家权力正在重新寻找本土化、区块化的立足点。

鉴于大网络平台、大语言模型以及代理机器人等算法权力怪兽的挑战，面对当下“所有模型对所有模型的战争”，迄今为止中国政府的对策是通过严厉的反垄断措施驯化平台怪兽，通过统一的超算生态体系和投入高昂的基座模型（Base Model）来支撑几十个大模型怪兽，通过加强严格监管以及主权区块链（sovereignty blockchain）来防范主权化个人之间点对点互动的失控风险，通过防护配置和对抗策略来制约NPC或BOT的活动。

针对国内“百模大战”对大模型算力需求猛增的形势，科技部在2023年4月17日发起成立国家“超算互联网”联合体，把分布在全国的大量超算中心通过算力网络连接起来，构建“大一统”的算力服务平台，通过“超算互联网”来打造国家算力基座乃至基座模型。7月7日，在世界人工智能大会上，国家标准委员会指导的国家人工智能标准化总体组又宣布成立首个大模型标准化专题组，由上海人工智能实验室、百度、360、华为、阿里等企业联合负责，正式启动大模型测试国家标准的制订工作。显然，其目标是推动大模型与标准化相结合，形成头部科技企业侧重行业大模型、国家推动通用大模型、打造高质量发展新基座的分工格局。包括北京智源人工智能研究院2023年6月发布的AIGC底层基座天鹰·Aquila在内，基座模型一般都需要千亿级以上的数据进行训练，参数量也会达到百亿级以上，只有在这样的基础上才能建立很好的通用大模型，产生涌现能力。

可想而知，“大一统”的基座和通用大模型构想可以避免重复投资、盲目发展、产业内卷。但这种思路并非仅仅出于成本效益的合理计算，显然也有利于维护数字主权，加强算法利维坦的权力集中化效应。

这些举措都反映了试图在人工智能发展与失控风险防范之间寻找适当平衡点的努力，通过原则、规则、技术等不同层面的人工智能治理来避开“野蛮生长”的陷阱。

元宇宙势必带来法律范式的创新

读+：据称人工智能的高超之处或许在于，当它发展到一定阶段，能够智能绕开人类的监控。那么我们的秩序和法治努力，会注定是徒劳的吗？

季卫东：在生成式人工智能造成的极其复杂和流动的状态下，通过事先确立的实体性规则和标准来进行科技和产业监管、按照实质性价值形成秩序是非常困难的，但是，公正程序的重要性和现实可行性却随之凸显出来。

在我看来，为了通过人工智能系统内嵌的公正程序以及不同人工智能系统之间的分权制衡机制来防止大语言模型的滥用，也为了制衡算法利维坦，现代法治的程序正义原则也将被重新定义并发挥更加重要的作用。在一定意义上也可以说，寻找法律性正当程序与技术性正当程序的最佳组合方式，就是在今后由AI驱动的数字国家继续推进现代化事业的主要法治内涵。

所谓“法律性正当程序”或者符合正义的法律程序，是指确保论证性对话在自由而平等的条件下顺利进行的制度性装置，当然不是指电子计算机的程序或者通过人工智能系统进行的程序性控制。但在数字时代，程序的法律往往需要转换成计算机程序的代码来运行。正如马克·斯蒂菲克所指出的那样：代码“决定了什么样的人可以接入什么样的网络实体……这些程序如何规制人与人之间的相互关系……完全取决于做出的选择”。非常有趣的是，正是代码把程序与选择以及人际关系串联在一起。这也昭示了代码具有通过技术性正当过程对算法助推进行制约和改进的可能性。

所谓“技术性正当过程”，主要是解决代码及其框架应该如何适当规制，代码的作者究竟是谁，谁能控制代码的作者，对代码的妥当性是否存在事先的论证程序或事后的纠正程序，作为中介机构的网络服务提供商的权力和责任应该如何配置，应用数据流的软件开发受到什么样的规制，数字监视和网络搜索是否设定了限制性条件等一系列涉及过程正当化的问题。

一言以蔽之，技术性正当过程的本质是规制代码。如果这种对代码的规制也采取法律的形式，那么就可以发现技术性正当过程与法律程序正义或者“程序性正当过程”之间的交集和组合。

读+：您曾提到，从国家治理的角度来看，现代法治强调的是国家主权，但在元宇宙中存在着个人主权的鲜明特征。这会引起国家与个人的二元紧张冲突吗？

季卫东：点对点的区块链技术、智能合约平台、加密资产以及网络信任等因素叠加起来，实际上在元宇宙或者多重宇宙中确立了在线用户的自主管理身份，或者说形成了所谓主权个人。

在十九世纪末，尼采说“上帝已死”、信仰崩溃。在二十世纪后叶，拉康和福柯以所谓“后现代主义”的名义宣告了“主体的死亡”、个人成为在虚无中飘动的无根浮萍。但是，到2010年代，启蒙运动所创造的那种主体、那种具有先验本质的个人似乎又活过来，而且是以一种喧嚣的、肆意的方式。这是一种非常有趣、具有辩证法意义的现象。

在很多场合也不妨借助法学界已经确立的“消费者主权”的概念来表述这种个人主权现象。但是，归根结底，这还是属于一种向他者开放的柔性个人主权，需要以自我为中心不断进行权力的试行并编织出各种社会关系，而且还反过来受到这种与他者之间关系的制约。但无论如何，从国家主权到个人主权，这是区块链、互联网3.0以及元宇宙在社会秩序原理上引起的质变，势必带来国家治理模型和法律范式的创新。但在自我必须向他者开放、必须从竞争转向共创和共享的意义上，国家与个人之间还存在沟通与合作的巨大空间，两者并非在进行一场零和游戏。

在互联网3.0上展开的创世故事其实就是：计算机语言，或者说作为交互机制的沟通过程，或者说控制游戏的程序，建构了整个世界。由此可见，算法不仅是逻辑或机器的计算次序，也是一种由人类语言创造的全新生态系统，不断产生千姿百态的智能物种，在虚拟空间里提供海量数据和无限选项，并通过机器学习形成网络结构中的长尾效应：绝大多数选择由算法进行，但最终的抉择权以及最好的选项仍然保留在人的手里。

这里存在一种深刻的悖论：人工智能可以大力赋能个人，也可以大幅度增强国家的管控能力，但同时人工智能又在虚化个人主权、分散国家主权——削弱和增强同时进行，密切交织在一起。无论如何，国家主权与个人主权之间的关系很难单义界定，也并非简单的二元对立。

设置虚拟空间与现实世界的法律接口

读+：元宇宙可以摆脱现实世界规则的约束力，建立一套与现实世界截然不同的制度安排。您能为我们大致阐述一下这种制度安排的发生机制吗？

季卫东：作为元宇宙的基础，通过区块链技术实现的互联网3.0，实际上把互联网理解为人类社会的共同物品，任何人都可以自由利用，也可以采取类似维基百科建构的方式自由参与其发展，于是形成了开放开源的数字文化。人们发明了比特币、区块链、智能合约，从互联网2.0阶段转入互联网3.0阶段，把价值指向从竞争调整为共创，强调互惠和社会合作。

在互联网3.0的语境里，互联网协议在本质上是纯粹程序主义的，任何人按照同样的规则进行操作都会得到同样的结果。为了确保程序能够不间断地持续运行，又进一步采取了把各种代币嵌入程序之中的机制设计。

另一方面，从现实政治与法制的角度来考察，关系秩序所强调的互惠原则，其本质性特征在于对等性，势必促进不同主体之间进行平面互动或者“投桃报李”式的反馈机制。由此可以发现在私域以及职场的网络结构里“关系平等主义（relational egalitarianism）”思潮兴起的契机和理由。

在元宇宙中，主权个人之间的互动非常活泼，会使社会关系变得更加多样化、复杂化、网络化，以此为背景，势必导致法律的程序化，势必更强调过程的正当性问题。一般而言，在现实世界，可以看到程序与关系之间存在显著的相克性；但在元宇宙当中，由于摆脱了既有力量对比以及相应的社会规则的羁绊，程序与关系之间反倒出现了一种正比例的相互作用——这正是我所理解的元宇宙制度新安排的特征及其发生机制。

读+：元宇宙中的社区文化让人们的行为方式从竞争转向共创、转向互惠，进而引起社会治理方式和法律制度模型的创新。在您看来，这种创新具体指的是什么？这对于未来的法律制度的设计有怎样的意义？

季卫东：在区块链上，人们有共同遵循的规则，有目标驱动的集团或社区，因而可以进行一种全新的社会合作。这种集团或社群被称为分布式自治组织DAO（去中心化的自治组织），不分地区和种族对所有人都开放，具有容许从不同立场做出各自贡献的平面式结构。在这里，各种类型的代币被用来调动参加者的积极性，形成一种对集团或社群贡献越多回报也越多的激励机制。

创立一个DAO就等于组建一个社区，形成以投票、计票、资产管理等功能为主要内容的核心架构，并开展智能合约活动。

从秩序形成和维持的角度来看，更值得重视的是在DAO内部进行的成员之间的沟通行为。大多数DAO都设有被称为Forum的电子公告栏以及被称为Discord的聊天工具，成员聚集在这里进行正式的或非正式的议论。因而在DAO的内部，围绕如何改进DAO的问题会始终存在自下而上的建议和讨论，并根据各自的制度设计和社群文化不断做出决定。与企业或政府的现行决策方式相比较，DAO内部的决策方式以及元宇宙投票选举显得更加迅捷高效。显然，这是与全球化和数字化时代相适应的不受特定时空限制的沟通和治理方式。

这种自下而上的社区有序化和民主自治的规则体系对未来的法治模式创新是具有重要启示的。

另一方面也要看到，与股票的恶意收购类似，DAO也面临恶意收购大量代币以控制投票权的“黑衣骑士”威胁。尽管代币的恶意收购和DAO的解散都是刚出现的新问题，但却会深刻地影响DAO的治理，需要从法律制度设计的层面进行未雨绸缪的研讨。

读+：未来正向我们走来，要让科技革命真正服务社会发展，法律的研究应提前做哪些准备？

季卫东：元宇宙绝非法外之地，我们需要高度关注的是虚拟空间与现实世界的各种法律接口究竟如何设置、分别具有什么样的基本特征。人工智能伦理研究关注的问题主要有三个，即对数据的收集、分析以及机器学习会侵犯个人隐私，会带来预测和判断中的歧视问题，会形成算法黑箱并且无从问责。这些也都是相关法学研究的重点所在。

我在《元宇宙的秩序》这本书中分析了元宇宙在社会与法律方面引起的六种革命性变化，归纳出了秩序原理和法律制度设计的十二个基本命题。其中特别值得强调的是，元宇宙的主权个人和社区规则现象必然会导致各种“小宇宙”各自解读的事态，需要进行多重世界解释，也不得不正视因多元性而产生的无知和误解。因此，沟通将成为元宇宙时代最重要的关键词。

我认为，为了加强沟通、相互理解以及与现实世界的法律秩序之间的无缝衔接，应该大力建构各种“走廊式制度”，例如把去中心化自治组织的代币价值进行封装的目的信托，还有稳定币以及各种技术性正当过程的机制设计等。

（长江日报记者马梦娅 实习生韩千雪）

【编辑：张靖】

更多精彩资讯请在应用市场下载“大武汉”客户端，未经授权请勿转载，欢迎提供新闻线索，一经采纳即付报酬。24小时报料热线：027-59222222。此文版权归原作者所有，若有来源错误或者侵犯您的合法权益，您可通过邮箱与我们取得联系，我们将及时进行处理。邮箱地址：kin0207@126.com

标签：