法律沙龙

编

者

按

9月1日上午，2022世界人工智能大会在上海世博中心开幕。今年的大会以“智联世界 元生无界”为主题，通过从AI 自身进化到AI支撑起元宇宙的主旨演绎，展现出人工智能+元宇宙融合背景下的“硬核新科技、产业新赛道、未来新场景、治理新议题”。

在人工智能的助力下，元宇宙有着更广阔的创新空间和更大产业机遇，同时我们也要认识到其在伦理道德、数据安全、金融监管、知识产权保护、责任承担主体等方面面临着诸多新挑战。本期75号咖啡继续围绕“元宇宙相关问题的社会治理”主题，理性探寻应对防范路径。

content

本期目录

一、伦理道德面临的挑战

二、数据安全面临的挑战

三、金融监管面临的挑战

四、知识产权保护面临的挑战

五、责任承担主体面临的挑战

上期回顾：

一、伦理道德面临的挑战

本期召集人吴菊萍

上海检察机关网络犯罪专业化办案团队召集人

上海市检察院第二分院检察官

上一期各位嘉宾围绕什么是元宇宙、如何发展元宇宙和元宇宙的未来趋势等为我们进行了元宇宙科普，对我们更好理解和服务元宇宙的发展，助力上海乃至我国数字经济的发展具有重要意义。接下来，我们围绕“元宇宙发展中的问题”展开讨论。我们知道元宇宙发展的同时，与之相关的法律、伦理、道德等也需要随之发展，否则可能带给人类的不是幸福而是灾难。在当前经济社会发展下，元宇宙会带来哪些伦理道德风险？

郎一宁

阿里巴巴人工智能

治理与可持续发展研究中心算法专家

在当前元宇宙的一个核心产业应用—数字人的发展中伦理风险已经凸显。尤其是通过可穿戴设备获取的用户特征数据，利用大数据、算力、3D技术等重建一个仿真数字人，这种仿真数字人有真人的姿态、神态、声音，甚至具备一定的情感，并可以保存真人的所有生物特征，相当于可以把这个人永久的保存下来。此时，该数字人跟真人的区别在于存在虚拟世界，由代码创造；真人在现实世界，由细胞构成。但是当该元宇宙的运行平台倒闭了，此时里面大量的“有血有肉有情感”的数字人，是否应该随着平台的倒闭而被毁灭，或者转由第三方来接手，这是亟待思考和解决的问题。

陈岳峰

阿里巴巴人工智能

治理与可持续发展研究中心算法专家

与传统社会相比，元宇宙的世界将人转化为数字与符号，这种虚拟的本质使人的一切属性都呈现出数字化的特点，人与人之间从某种意义上讲是一种符号化的交往方式，这种交往方式无法感受现实社会中人与人之间的温度，只是一种冰冷的数字、符号，导致道德冷漠现象发生。同时在现实社会人们要遵守道德规则，而从目前来看数字人不具有道德概念，对于他们违反现实世界中人类伦理的行为如何进行约束，面临巨大挑战。

此外，现在算法、深度合成技术等人工智能技术的运用可以根据合成对象在公开网络中的生物特征数据去反复训练合成想要的视频，让“自己”想变成谁就变成谁。如美国特朗普政府时期在总统选举期间，网上传播较广关于“特朗普”的虚假视频。以及之前韩国总统选举期间，韩国总统候选人尹锡悦（已当选韩国第20届总统）的选举团队，借助尹锡悦20小时的音频视频和其专门为研究人员录制的3000多个句子，当地一家 deepfake 技术公司创建了虚拟形象AIYoon，并在网络上迅速走红。这里面涉及“数字”克隆人问题。

连斌

中国刑法学研究会理事

非常赞同前面两位嘉宾的观点，同时就岳峰专家提到的“数字”克隆人风险作一点补充。元宇宙场景中人工智能深度合成技术的应用，让我看到了数字人伪造的风险。创造是技术概念，伪造是待评价的创造，它同样是一种创造，应该如何去看待它呢？为什么在基因技术出现时，国家法律一开始就明确规定不能克隆人，因为意识到了它未来可能对社会带来的风险，对社会伦理的挑战。而元宇宙出现后，我们可能不能克隆一个生物人，但是可以克隆数字人，这同样会给社会带来挑战。假设有人伪造了几个国家的元首会谈的视频，制造了具有煽动性的话题，就会映射到现实社会中，对国际关系造成不利影响，甚至可能引发矛盾冲突。

涂龙科

杨浦区检察院副检察长

我再补充一点。如果元宇宙真的可以发展到意识转移阶段，整个人的意识可以导入到虚拟世界中，即此时人的意识可以脱离你的肉身而存在。这样其实会带来很多问题，如意识是不是可以被仿造、被复制？此时人的意识还有没有意义？人还有没有意义？

张磊

上海市张江公证处主任

元宇宙社会是自由的社会，给人们的行为提供了极大的自由度，人们摆脱了现实社会道德、法律的约束，进入到一个匿名的陌生新天地，因此，“现实社会中的道德、法律在元宇宙中没有用了”等等，成为了人们在元宇宙中各种行为的借口。人们可能会觉得自己的精神世界彻底解放，获得了真正的“自由”。在这种超脱现实的情感和欲望的冲动下，人们可能会遗忘了自己的社会角色、社会地位和社会责任，因此，在元宇宙中的行为可能会出现与道德违背，甚至触犯法律的行为，而由此引起的道德失范问题可能会愈来愈多。

二、数据安全面临的挑战

本期召集人吴菊萍

上海检察机关网络犯罪专业化办案团队召集人

上海市检察院第二分院检察官

各位嘉宾从数字人“生命”的延续、数字人的克隆伪造以及道德冷漠、失范等角度阐述了元宇宙的发展对人类伦理道德的挑战和冲击。新技术会改变世界，也会改变法律，我们法律人关注的不仅是技术本身的变化，而且更关注技术发展为权利义务边界以及罪与非罪红线带来的变化。我们知道元宇宙是虚实融合的更高维度的互联网，那么在元宇宙的发展和实现过程中会对数据安全带来哪些挑战？

谢虹燕

阿里巴巴集团高级安全专家

目前，元宇宙处于初级发展阶段，我们对它的认知，在技术上和法律上都是循序渐进的过程，因此给了我们从技术上和法律上进行深度融合的机会。万物皆可元宇宙，以前我们治理的是物理空间，网络犯罪兴起以后，我们的目光开始转向网络空间，其实未来更多是物理空间、网络空间的跨界交互。两个空间不断地在变化，在不断交互的物理空间和网络空间里，数据安全是我们面对的首要风险。数据是元宇宙的“物质”基础，对元宇宙空间的保护都是基于数据安全的基础上。一方面怎么样在整个元宇宙空间中保护所有参与者的信息安全。从最初的PC端到移动端到未来的元宇宙混合现实阶段，数据安全不断地遇到新挑战。在元宇宙中，与参与者相关的全部数据都有可能被捕捉到，将导致数据安全风险无处不在，面临的风险可能是成倍级的增长。另一面是怎么样去保护元宇宙内数据的价值，如何给它确权。所有参与者在这个空间投入了时间和财力，其中，参与者的财物有一部分在这个空间里是有价值的，怎么对这些合法的财产进行确权和保护，保障这些参与者的合法权益。

此外，在元宇宙空间里，网络安全攻防领域面临的数据安全风险也在不断增加。首当其冲的就是实名认证，实名认证关乎“你”的真实身份，如果未来元宇宙空间涉及到民事责任、刑事责任，就一定要确定承担主体的真实身份。在PC、移动时代做实名认证比较简单，只要上传可信的身份信息（如身份证）就可以完成，而在元宇宙空间，人脸、虹膜以及走路姿势等都有可能是可信身份认定的标准，而这些信息并没有被纳入个人身份信息或者应当采信的信息范围。即使纳入了，未来要怎么保护、怎么管理，都面临比较大的挑战。

陈岳峰

阿里巴巴人工智能

治理与可持续发展研究中心算法专家

在元宇宙产业应用中，数据安全风险确实存在。主要表现为：一是数据的采集范围不明。在元宇宙中，借助人工智能来识别相关数据更容易，此时需要获取、采集更多数据，以便数据识别更精准，但是哪些数据可以采集，哪些数据不能采集，目前尚未有明确的规定；二是数据的运用存在泄露风险。元宇宙要运用以数据为基础的算法，在数据运用过程中，算法数据的安全性或者数据隐私性如何保护，数据识别等运用出现错误后，责任的承担和归属如何划分等问题，目前都不明确；三是存在用户账号被盗风险。当前互联网内存在一人注册多账号或者被盗用风险，在元宇宙里同样会存在这些问题，对此如何进行防控也不明确。

郎一宁

阿里巴巴人工智能

治理与可持续发展研究中心算法专家

元宇宙中，数据安全还有另一个隐患。全球化的进程把互联网推到了更加互联互通的时代，元宇宙作为一个更高维度的互联网，全球化的链接会更加紧密。在元宇宙中国与国之间、地区与地区之间的边界不如当下现实世界中这么清晰，“出境出国”更加便捷，甚至不受海关的约束。此时又由于各国各地区行为习惯、宗教意识、法律规定不一样，各元宇宙平台的监管力度和标准也不一样，导致对数据安全的保护力度和程度不同，数据安全泄露风险较大，国家的监管也较难。

顾伟

徐汇区检察院检察官

我认为在元宇宙虚实结合的过程中，必然会出现各种风险，包含现有法律制度下可以看得到的风险和随着技术的不断进步预测会遇到的风险。数据安全风险是当下可以预测的风险，主要表现为，元宇宙场景需要满足个体对智能感知的更高要求，因而对个人工作和生活相关数据的收集规模将呈指数级增加，这一过程会涉及大量的个人隐私和信息。收集好的数据会在元宇宙中实现数据的迁移、整合以及全球元宇宙中数据的互通，在这一全过程中，数据的收集、存储、最终的输出，可能会产生个人信息和生物特征的泄露，以及侵犯商业秘密，甚至是威胁到国家主权或者政权安全。

三、金融监管面临的挑战

本期召集人吴菊萍

上海检察机关网络犯罪专业化办案团队召集人

上海市检察院第二分院检察官

元宇宙的发展给数据安全带来诸多挑战，如何在发展和运用好技术，享受技术发展红利的同时，增进我们的数据安全感，是元宇宙的发展和应用中必须回答好的考题，需要我们大家一起努力。有观点认为，万物皆可元宇宙；也有观点认为，万物皆可NFT。NFT或者说“元宇宙”涉及的虚拟货币交易、运用会给当前的金融监管带来问题吗？

涂龙科

杨浦区检察院副检察长

NFT是一种基于区块链技术的契约的数字化凭证，具有可验证、唯一、不可分割和可追溯性等特性，可以用来标记特定资产的所有权。万物皆可NFT，作为连接虚拟与现实的“神秘代码”，会成为通往元宇宙世界的关键密匙，还是一场币圈市场或者说资本炒作的零和游戏？赞同的人认为，NFT为元宇宙中虚拟物品数字资产化和流通交易提供了实现路径。反对的人认为，NFT走红的背后可能是一些媒体或币圈精心设计的炒作。在我看来，NFT本身具有一定的金融属性，尤其国外“天价”NFT艺术品的出现，让投机者看到了机会，将其作为金融炒作工具。但目前我们国家对于虚拟货币持否定态度，因此，我认为NFT不会给当前的金融监管秩序带来挑战。

方海峰

蚂蚁集团安全总监

目前国内的NFT更多的是叫做数字藏品，我认为与元宇宙里的虚拟货币，还不是一个概念。目前元宇宙的虚拟货币还没有得到各方的承认，以及国家的确权。在此背景下，炒作NFT不会带来金融风险或者不会带来狭义的金融风险，不会对整个金融秩序带来太大的威胁。但它会涉及到洗钱，就像虚拟货币在我国目前不允许交易，也不允许金融机构为它提供相关金融服务，数字藏品在国内的平台也是收藏为主，可以转赠但是不可以交易。

顾伟

徐汇区检察院检察官

我和两位嘉宾的观点有所不同。NFT与元宇宙有着密不可分的联系，前者是链接现实与元宇宙最为重要的桥梁和载体，后者则为前者提供应用场景，使得NFT的使用更为贴近真实生活。实践中，NFT具有无准入门槛、无实名、公链系统缺乏风险管控机制等特性，成为市场炒作对象，确实存在一定的金融风险隐患。如，元宇宙中会设计出各种场景，这些场景可以为一些犯罪做掩护，如元宇宙可能会涉及公民个人信息买卖、洗钱以及其他非法交易，这一场景可能会成为第二个“暗网”，暗藏的社会风险会大大增加。又如，通过元宇宙与现实世界中虚拟和现实、线上和线下的交易，避开或者脱离了现实的交易规则，用元宇宙里面虚拟物品的交易来达到规避现实规则的目的，可能会产生交易风险，为金融监管秩序带来挑战。

四、知识产权保护面临挑战

本期召集人吴菊萍

上海检察机关网络犯罪专业化办案团队召集人

上海市检察院第二分院检察官

从各位嘉宾的观点，可以知道从我国国内监管机制来看，NFT或者说“元宇宙”涉及的虚拟货币交易、运用给当前的金融监管秩序带来风险的可能性较小，但是仍然存在一定的风险。面对可能的未知风险，我们可以跨前一步尽可能考虑全风险点并做好防范。此外，元宇宙是凝结了人类智慧的作品，知识产权保护在元宇宙中是一个绕不开的话题，对于当前知识产权保护问题面临的挑战，各位嘉宾怎么看？

连斌

中国刑法学研究会理事

元宇宙是一个集体共享、自由创作的空间，并且随着元宇宙核心技术的发展和应用，未来人们的创作一切皆有可能，甚至极有可能创作出涉及人机交互方式或内容的作品，此时这些知识产权如何保护，无疑是很大的挑战。同时，随着技术的发展，不同数字环境和现实世界之间边界的渗透性越来越强、越来越变得模糊，以元宇宙应用场景为核心的作品的知识产权认定会越来越复杂，越来越难。但就目前而言，元宇宙中涉及的知识产权侵权主要是著作权侵权，如侵害游戏作品的计算机软件著作权，涉及游戏公司的作品抄袭纠纷，以及游戏网站未经许可，擅自发布小游戏等游戏软件，侵害作品信息网络传播权等。

方海峰

蚂蚁集团安全总监

目前，大多数与元宇宙相关的专利都在VR或AR领域。VR或AR相关专利被广泛应用于各种行业，如在线购物、在线看房等。我认为每当新的技术出现，就会催生全新形态的“作品”，比如歌手用自身的虚拟形象在网络游戏中开演唱会，再比如把书本中难懂的部分做成虚拟动态展示，帮助读者更好理解。这些虚拟现实作品不仅包含原作品的内容，也有创造性的成果，该如何认定作品类型？在数字经济下，核心技术和创新作品大多表现为无形资产，窃取和模仿的成本极低。因此，必须要加快建立健全数据知识产权保护体系，包括结合科技发展前景完善数据知识产权相关法律法规，建立数据知识产权服务系统、数据知识产权信息检索库、数据知识产权线上交易市场等综合服务平台。

翁音韵

上海市检察院检察官

在元宇宙的运用发展中，虽然区块链技术可能为元宇宙认证、确权、追责等提供技术可能性，但在元宇宙中大量的技术输出以及现实在虚拟世界中的投映，的确会引发相应的知识产权纠纷。一是元宇宙基础技术相关的知识产权保护。元宇宙创设的底层技术包含大量技术要素，如人工智能、区块链、云计算等，此类新技术发展和应用给知识产权保护尤其是专利权保护带来的挑战不容小觑；二是元宇宙创建中可能涉及的知识产权保护。包括虚拟现实世界的应用场景、相关建筑、物品移植到元宇宙可能存在着著作权侵权风险，相关商标移植则可能存在商标侵权风险等。三是在元宇宙运行中的相关知识产权保护。包括用户利用元宇宙中所创作的相关音乐、艺术作品是否拥有相关著作权保护；用户利用元宇宙模拟现实世界自然规律创造发明或实用新型能否被授予专利，该专利保护场景是否包括现实世界等一系列问题。

陈岳峰

阿里巴巴人工智能

治理与可持续发展研究中心算法专家

我再根据工作中发现的问题作一点补充。在数字人应用的实践中，知识产权问题已有所凸显，主要表现为以下几种情形：一是元宇宙中的数字人是基于现实中的真人、游戏或者其他偶像等相关数据来深度合成的，此时该数字人最终所有权的归属问题；二是数字人是人工智能用网络中的数据训练形成的，没有基于任何真人参照，是完全虚拟的，此时数字人的归属问题。如上一期中提到的抖音网红主播柳夜熙、AYAYI数字人等权益归属，目前来看大部分数字人权属是数字人制作公司，但对于一些游戏里面的数字人权益归属存在比较大的争议。

五、责任承担主体面临的挑战

本期召集人吴菊萍

上海检察机关网络犯罪专业化办案团队召集人

上海市检察院第二分院检察官

知识产权是用来保护人类思想呈现出的表达方式，元宇宙亦是我们人类随着技术进步，思想所呈现出的更高级的作品，面对元宇宙的发展给知识产权带来的挑战，需要我们勠力同心画出知识产权保护最大同心圆。同时，通过前面的讨论，可以知道，元宇宙中存在数据安全、深度伪造、侵害知识产权等问题，一旦元宇宙中的行为突破违法犯罪的边界，其责任承担主体是否像现实世界这么明确，是否能够追责？

谢虹燕

阿里巴巴集团高级安全专家

随着科学技术的进步与发展，元宇宙中的数字人会更加智能化，可以根据“你”的想法主动实施某些行为，此时一旦出现违法犯罪情形，责任承担如何分配？元宇宙中参与的主体有数字人的主人（本体参与者）、在元宇宙空间跟数字人交互的对象（其他参与者）、元宇宙运营的平台以及算法的提供者。违法犯罪的法律后果怎么承担，不同主体之间的责任分配如何进行，目前来看上述主体之间责任承担的划分尚不明确，需要进一步思考。

张磊

上海市张江公证处主任

我认为，元宇宙中追责主体的明确比较难。元宇宙中的参与主体，区别与现实世界中的主体身份，可以与现实世界对应，也可以不对应，因为现实世界的主体可以在元宇宙中拥有多个身份，而且这些身份可以不限性别、物种。此时，如果元宇宙中的参与主体产生法律责任，对应的现实世界的主体是否需要承担，由谁来承担，是元宇宙中数字人的创作者还是虚拟身份的使用者等问题都有待明确。

涂龙科

杨浦区检察院副检察长

网络不是法外之地，元宇宙亦然。任何人在任何地方实施违法犯罪行为都要承担责任。在现实世界，承担法律责任的主体是自然人或法人，在元宇宙中，承担法律责任的主体仍然是自然人或法人。我认为所有在元宇宙中作为活动主体或交易主体的人都有可能要承担相应的责任，这个责任包括民事责任和刑事责任，但是具体责任的承担方式是不是能适用现行法律体系，尤其是数字人的责任承担方式，目前尚不明确。

此外，元宇宙是互联网的延伸，互联网是跨时空的，就空间而言，互联网是跨国界的。但是，法律适用的物理空间是有边界的，此时对于前面的讨论中提到的跨国界、跨区域的元宇宙中的参与者“出国出境”实施的违法犯罪行为又应该如何规制，如何追究主体责任等问题也需要明确。

翁音韵

上海市检察院检察官

我很赞成涂检的观点，网络不是法外之地。但对于元宇宙中的责任承担主体，由于元宇宙中虚拟身份的存在，我们可能要从不同维度进行思考：一是对于元宇宙所创设的自身规则，包括虚拟社区中社会交往、经济交往等规则，由虚拟身份作为责任主体更为适宜，包括虚拟资产的处置或虚拟身份的人身限制等；二是对于虚拟世界与现实世界中的权利互侵问题，是否现实世界与虚拟世界的权利可相互延伸扩展，还是有区分界限，如相关人身权受到侵害是否可以对侵害人进行刑事追究，特别在元宇宙技术不断升级，感官功能与现实真实无限接近情况下，这些问题都需要我们研究思考；三是元宇宙去中心化是否带来属人管辖问题，这也与责任承担有着密切联系。

本期召集人吴菊萍

上海检察机关网络犯罪专业化办案团队召集人

上海市检察院第二分院检察官

元宇宙超越了现有世界，超越了空间限制，创造出新的数字化身份。元宇宙是未来一个时期科技创新的重要发展方向。作为个体，尤其是元宇宙发展的技术参与者、社会治理的执行者，需要与时俱进，秉持包容态度看待元宇宙对现实世界的重构，面对元宇宙发展过程中的产生的风险，积极理性探寻具体的防范路径。

精彩内容，未完待续

元宇宙相关问题的社会治理（下）治理篇——元宇宙发展中问题的治理

策划单位：杨浦区人民检察院 上海检察机关网络犯罪专业化办案团队

文稿整理：杨浦区检察院 邵旻 肖凤

奉贤区检察院 曹瑞璇 瞿阳帆