75号咖啡 | 元宇宙相关问题的社会治理（下） 治理篇——元宇宙发展中问题的治理
发布时间：2022-09-09 来源: 上海市人民检察院 作者：佚名
法律沙龙 |
编
者
按
今天，为期一周的2022年国家网络安全宣传周启动，凝聚多方合力，共护网络安全；刚刚闭幕的2022年世界人工智能大会安全高端对话也以“智绘宇宙，元起安全”为主题，对元宇宙安全进行探讨。可见，在传统互联网和元宇宙新特性的风险叠加下，信息社会、数字时代的安全和治理，已成为我们必须重视的课题。
本期75号咖啡继续元宇宙话题，探讨如何从伦理道德的约束、行业自治的引导、法律法规的完善与适用以及检察机关的担当等方面，协同构筑面向未来的数字空间规则，促进元宇宙相关产业健康持续发展。
content
本期目录
一、伦理道德的约束
二、行业自治的引导
三、法律法规的适用
四、检察机关的作为
上期回顾：
一、伦理道德的约束 |
本期召集人吴菊萍
上海检察机关网络犯罪专业化办案团队召集人
上海市检察院第二分院检察官
上一期各位嘉宾围绕元宇宙发展在伦理道德、数据安全、金融监管、知识产权保护以及责任承担主体等方面进行了深入的探讨。接下来，我们围绕“元宇宙发展中问题的治理”展开讨论。元宇宙是虚实融合的更高维度的互联网，所面临的伦理风险是传统互联网和元宇宙新特性的风险叠加，面对可能存在的道德冷漠、失范以及数字人生命、克隆等问题，如何有效解决？
涂龙科
杨浦区检察院副检察长
科学技术是一把双刃剑，元宇宙在促进人类社会进步的同时，也会自觉或不自觉地给人类社会带来一些负面效应。元宇宙作为科学技术发展的产物，它是一种强大的工具和力量，是一个事实领域的东西，它在价值领域并不做“该不该”的判断。对它进行“善”的还是“恶”的使用，取决于人的伦理道德价值取向，其负面效应的产生在于人类对技术的滥用和价值观念的偏失。因此，我们要准确认识科技理性与价值理性的关系。目前，元宇宙技术依旧处在探索与发展的过程中，构建元宇宙的一方道德净土需要借助人类特有的伦理智慧和道德精神的指引，防止人们在技术的研究与运用中的滥用，降低或减少技术的不确定性风险，尽可能减少甚至杜绝对社会造成危害。
陈兵
上海市第一中级人民法院法官
元宇宙是新一代人类社会，依然是“人”的宇宙，应当服务于人类社会，否则，将会是一个“空中楼阁”。在现实世界，人类社会的行为准则是伴随着人类数千年来的不断进化与试错而总结出来的一套行之有效的社会规范。因此，理论上，现实世界的人类行为准则应当可以适用于元宇宙，但元宇宙社会构成要素与发展进程与传统社会截然不同，如生存与繁衍可能将不再成为必须，种族、社群将不再受限于地域，甚至生命形态都发生重大改变，包括数字人的生命“永生”、数字克隆人等，对传统的伦理道德规则带来了新的挑战。面对这些挑战，我认为需要国家的深度参与。原因在于，国家本就是个体社会共识的形成体，纯粹个体共识可能将导致无政府主义和混乱主义，网络暴力便是其重要表现。而元宇宙的建立是在国家监管之下，其治理当然也需要国家的深度参与，尤其是对数字人克隆、意识转移问题的治理需要国家层面的参与，政府不能放权，更不能缺位。元宇宙中伦理道德规则的形成要依靠社会群体的共识，也要充分体现现实世界的行为准则，更要依靠国家政府的积极参与、引导。
杨猛
同济大学人工智能
社会治理协同创新中心副研究员
我认为元宇宙伦理道德问题出现的根本原因在于人自身，心病还需心药治。伦理道德问题归根到底是一种与人性有关的社会问题。因为伦理只能是社会的伦理，道德只能是人的道德。因此，应对元宇宙伦理道德的风险和挑战，应从“人”着手，或者说从人性着手寻找解决路径。人性是人类的文化特性，只有人能够创造和发展自身特有的文化，包括人类自身的文明化和人类生活世界的文明化。元宇宙作为人的一种新的生存方式，一种文化方式，反映的是人类生活的文明化程度从工业社会向后工业社会、向信息社会以及数字化社会发展的必然。它的价值不仅仅体现在技术和经济层面，而且体现在文化层面。它不仅蕴涵着丰富的人文精神，而且为人们长期追求的一些价值理想提供了前所未有的现实平台。作为科技产物的元宇宙，它是人类对自我个性人格的超级追求，呈现出更多的自由性。然而，由于元宇宙社会的数字化、符号化的本质，当现实社会中人们感到苦悲与无助时，进入到元宇宙世界，人们仿佛觉得自己的身心获得了自由，随心所欲的发表言论。其实，这是一种对自由的误解。自由不是一种随心所欲的释放，也不是对现有规则和秩序的破坏。真正的自由是人们对规则的自觉遵守。因此，我认为构建元宇宙中的道德净土的思路是：在现实社会生活中，制定完善的社会规则，培育人们良好的规则意识和健全的人格；建设一个幸福指数更高的社会环境，降低人们在元宇宙社会中放纵自己，滥用自由引起道德失范的可能性。
施勇勤
上海理工大学教授
我作一点补充，面对元宇宙对传统道德伦理带来的挑战，我们可以立足于发展传统伦理道德，利用传统伦理道德的一般原则培养元宇宙道德的生成、运行机制和元宇宙道德规范体系，通过协调既有道德与元宇宙道德之间的关系，使之发展成为信息社会更高水平的道德。当然元宇宙道德的生成，需要国家、社会、元宇宙中的参与者以及元宇宙的平台运营者共同参与形成。
特别要注意的是，由于传统伦理道德具有社会历史性，元宇宙道德不可能与传统道德彻底决裂，需要对传统道德做合理扬弃，元宇宙道德在一定程度上即体现着与传统道德有历史的、内在的逻辑联系，又体现着现代与传统的和谐统一。因此，在元宇宙伦理道德建设中，应该充分吸收古今中外伦理思想资源中体现人类共同伦理道德精神和运行机制的优秀成果。
二、行业自治的引导 |
本期召集人吴菊萍
上海检察机关网络犯罪专业化办案团队召集人
上海市检察院第二分院检察官
各位嘉宾从合理认识科技理性和价值理性的关系，准确理解自由的含义，加强政府监管以及在吸收、借鉴现有伦理道德优秀成果基础上形成元宇宙伦理道德规则等来规范和降低元宇宙中的伦理道德风险。那么，面对上述风险，元宇宙相关技术人员、平台企业可以有哪些作为呢？
陈岳峰
阿里巴巴人工智能
治理与可持续发展研究中心算法专家
面对元宇宙诸多风险挑战，技术人员可以有所作为，如针对元宇宙中的数据安全泄露风险，可以形成共识，通过采用一定的技术手段或方式，让数据可用不可见。一是从数据展现形态上，提供更多的数据保护形式。如，通过把具体人虚拟化，让其他人看到的不是真实的某个人，而是通过这个人构造出来的一个虚拟形象，让数据可用不可见；二是从对算法的技术使用共识看，不保存原始数据。如，对采集的人脸数据在后台存储时不能存储数据的原图，即不能保存原始的个人数据；三是从数据调用角度，不经过保存而直接使用。如，元宇宙时代，数据采集更多的是通过提取可穿戴设备的信息等数据来实现，在采集过程中，可能技术使用模型已经训练好，此时采集的数据不用经过保存而直接使用，从技术层面能更好实现数据的可用不可见，当然数据的调用还要通过算法来进行监管。
杨猛
同济大学人工智能
社会治理协同创新中心副研究员
新时代社会治理要求社会风险的治理要秉持共建共治共享原则建立社会治理共同体，元宇宙中问题的风险治理尤其需要行业技术人员、平台建造者、运营者共同参与。元宇宙相关的技术人员、平台运营者作为元宇宙的建造者和运营者，是服务、发展、治理元宇宙的第一责任人。对于元宇宙中各项技术运用中有哪些漏洞，场景设置中有哪些风险点，运营管理中哪些问题多发易发高危，技术人员、平台建造者、平台运营者比较清楚，因此治理好元宇宙空间，需要技术人员等行业内人员的深度协同参与。其参与方式可以是鼓励元宇宙行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导元宇宙技术人员、平台建造者、平台运营者完善服务规范、依法提供服务并接受社会监督。
施勇勤
上海理工大学教授
我认为从技术和行业角度应对元宇宙未知的风险，可以从三个方面着手：一要主动发挥政府监管规制力。政府会代表公民的权益制定相应的法律法规，但是法律法规具有滞后性，技术发展出现问题后才用法律法规来规制效果会受影响，因此建议技术公司主动拥抱政府的监管，将技术发展可能产生的风险告知监管部门，将不良的因素扼制在尚未发生的时候；二要充分发挥行业标准规制力。行业标准是行业共识，能够实现生产力最大化，生产利益最大化，标准要服务于整个社会民众，服务于整个元宇宙时代发展，企业之间要有共识，形成统一的行业标准，甚至是达到国家标准程度，服务整个国家和社会的整体发展；三要遵循技术的逻辑和伦理。技术发展的逻辑是人性化和补偿性，在元宇宙时代，VR、AR、MR、XR等增强性穿戴设备的人性化体现在便捷、互动，补偿的是使用者的某种缺憾。但这种补偿性可能会起到反向作用，即被不法分子用来做“坏事”。如何确保技术不被用来做“坏事”，需要技术的发展和使用严格遵循技术的逻辑和伦理。
翁音韵
上海市检察院检察官
社会治理不是某一个“个体”的事，需要大家共同构建多元化的治理格局。在元宇宙风险治理中，行业或者说行业协会以及参与研发、设计、建造元宇宙的每一名技术人员都是参与治理的生力军，大家应齐心努力共同把元宇宙建设好。我认为，在元宇宙的建造过程中，行业要有共识，即开发设计本身要有规则意识。技术人员在研发、设计元宇宙中相关软件时要有规则意识，通过代码输入等方式把元宇宙中社区、场景等一系列内部规则内嵌进去，由元宇宙内部规则先自行解决相关问题。由此，充分发挥行业自治的最大效应。
三、法律法规的适用 |
本期召集人吴菊萍
上海检察机关网络犯罪专业化办案团队召集人
上海市检察院第二分院检察官
在元宇宙发展的初级阶段，通过行业自治有助于降低政府的监管成本，并且给予企业发展最大的“自由度与空间”，促进数字经济建设的更好发展。在元宇宙发展过程中，面对数据安全、金融监管、知识产权、责任承担等方面的挑战，如何完善法律？如何准确适用法律？
涂龙科
杨浦区检察院副检察长
法律不能基于空想而凭空制定，法律具有滞后性。法律首先是基于先例与经验的总结与归纳，然后才是依据具体案情并结合法条进行演绎与裁判，没有先例或经验至少在立法技术上就很难设立规则。因此，对于无法预知的风险，法律无法设立更无法规制。但针对已知的或可能存在的数据安全风险、金融监管风险、知识产权风险等，我认为现行的法律基本上是能够适用的，只要在出现新风险点时，通过司法解释、指导性案例等适时予以完善。如，芯片、算法、操作系统、应用软件、穿载设备、显示设备与场景设计工具等智力成果等所涉及的知识产权，现行法律完全可以适用。又如，在数据安全保护方面，目前我国数据安全法、网络安全法、个人信息保护法共同构成了我国网络与数据安全领域的基础立法。面对新的风险点，可以在现有立法的基础上，建立健全数据安全治理法律体系，推进各项配套制度建设，并适时出台数据安全行政法规、部门规章、地方性法规、地方政府规章等规范性法律文件，建立健全从中央到地方的多层次数据安全法律体系，强化对数据的全方位保护。
陈兵
上海市第一中级人民法院法官
我认为在元宇宙发展过程中，立法要审慎，执法司法可以先行一步。技术创新是社会进步的源泉，法律制度应当为其保驾护航，而非限制或约束其发展。几乎每一次重大技术创新都会对现有法律制度、法律研究乃至于法治理念带来重大冲击和挑战。有观点认为，法律应当与时俱进，及时紧跟技术发展，适时修订法律或者制定专门法律；还有观点认为，法律应当独立于任何特定的技术，不应当因特定技术的发展而改变，以保持一致性和可持续性。我认为，法律还是要保持一贯的稳定性与权威性，只有在确有必要时，方可进行修法或立法。
在适用法律时要注意两方面问题：第一，要对法律的功能、目的等基本问题有着深刻的理解，对于需要治理问题的本质有着清晰的认知。如果做不到，可能将不停地被新技术牵着鼻子走，即使侥幸能够解决一些问题，恐怕也只是头痛医头、脚痛医脚的治标之策。第二，法律适用要求颇高，执法者和司法者不能只在象牙塔中研究。要充分考虑社情民意，充分理解案件实情等，要不断学习，对新技术做到知其然和知其所以然。
吴亚安
上海市第一中级人民法院法官助理
我也认为面对已经出现或可能出现的风险点，在用法律法规规制时，需要采取相对保守的态度，为技术的发展提供空间，在适用法律进行规制时要立足于法学基础理论。目前，根据技术类型，风险分为两类：一是虚拟交互技术引发的针对数字产品的风险。如，对于数字产品、应用场景、虚拟模特、网络游戏软件等的抄袭行为，以及对于现实的人在网络空间中虚拟化身的损害、伤害行为等。针对这类数字产品的规制思路，还是要平衡理论创新与坚持基础理论。如果侵害行为对计算机信息系统或数据安全造成侵害，可以适用侵犯计算信息系统相关罪名予以规制；如果相关数字产品直接对应着现实世界的真实财产，需要投入货币购买、能够自由交换的，也可以适用财产类犯罪规制；如果相关产品存在知识产权依据的，可以用知识产权类犯罪规制；二是信息交互技术引发的针对个人信息的法律风险。信息交互意味着个人信息的收集和传输，包括人们与各终端交互时产生的数据，相关软件实现其功能收集的身份信息、生物信息、定位信息等敏感信息等。对于这类数据，存在权利归属、权利性质等争议，在规制时应当合理平衡平台和用户的责任。从保护充分性的角度考虑，这类数据应当归属于个人而非平台，但与此同时，这类数据的权利性质，也不应当认定为个人信息权，否则会授予个人排他性的支配权利，这与信息网络所要求的信息共享存在冲突，将其视为特定的利益而非权利是较为合理的。在具体保护时，可以区分普通信息和敏感信息，普通信息可以采用承诺同意的方式收集和使用，比如通过统一、格式化的隐私条款，并提前告知的方式获取承诺同意的授权；但对敏感信息的采集和使用，应当以明确同意为前提，如果仍采用冗长的隐私政策进行告知，可能构成违法采集和使用。
杨猛
同济大学人工智能
社会治理协同创新中心副研究员
同意各位嘉宾观点，我补充一下元宇宙中责任承担主体和元宇宙中违法犯罪行为的管辖问题。我认为在元宇宙中的责任主体主要包括元宇宙运营方、算法工程师等技术人员以及元宇宙中的参与者（玩家）等。三方的主体责任为：首先，算法工程师等技术人员或者元宇宙平台企业（包含运营者）。这些打造元宇宙的主体有义务确保元宇宙中相关数据的安全，确保这些数据不能被泄露、盗窃或买卖等；他们还有合规性审查责任，包括对元宇宙企业内部员工行为的合规性审查，以及对元宇宙用户行为的合规性审查，包括审查是否存在洗钱或者其他非法交易，一旦发现违法犯罪线索，要及时向监管部门报告。其次，算法工程师等技术人员。算法工程师等技术人员要始终保持技术的中立性，不能放任犯罪行为，如果在提供数据技术时明知对方是用于犯罪，那么可能构成共犯；如果提供数据时虽然没有明知，而是对特定的数据高风险事项有特别认知，但是仍不采取相应的风险预警和合规动作，导致危险现实化的，那么也有可能进行客观归责。最后，元宇宙中的参与者（玩家）。参与者应当遵守元宇宙的行为规范，不能有非法交易，否则用户的不合规行为就具有刑事风险，传统罪名可能就有一定的解释空间。
此外，对于如果元宇宙中存在违法犯罪，管辖权的归属与元宇宙制造商的所属国有相关性。选择哪个元宇宙提供的空间，与这个元宇宙平台注册地的所在国有直接相关性。不同国籍的元宇宙用户，只要选择了某一个国家的某一种元宇宙产品，那么在元宇宙的使用过程中产生的违法犯罪行为，或者是被其他用户侵害法益，那么就应当去提供这款元宇宙产品的平台的所属国进行相应的诉讼活动，而不是考虑国际法的问题。因为元宇宙是万物互联的虚拟空间，不区分国界，但是它的制造商有所属国即注册地国，因此，在其所提供的虚拟环境中的违法犯罪行为的管辖与法律适用，可根据元宇宙公司的注册地所在国的法律来进行评价。
连斌
中国刑法学研究会理事
我认为在元宇宙已知风险的治理过程中，法律法规的制定或适用可以稍微更进一步。一是对于特定技术的运用法律法规要设置禁入区。技术本身是没有善恶边界，但是技术的使用有善恶。因此，要对技术的使用边界加以限制，要设置技术使用的负面清单。对此，需要技术、法律、社会等各界共同努力，如对深度合成等人工智能技术的运用划定界限，并以法律法规的方式设置禁入区，将技术运用的风险控制在一定范围内；二是对特殊人群的权益要予以特别保护。元宇宙最大特征就是沉浸式交互，对一些体感太强烈的活动，需要明确特定人员不能参与。如未成年人不能参与一些战争场景项目，老年人不能参与互动太刺激的项目，这种规则的设定需要法律法规明确。如今年3月1日施行的《互联网信息服务算法推荐管理规定》明确了算法监督管理、算法提供方、算法使用方、企业主体的责任承担和责任形式，并明确算法推荐服务应当有益未成年人、老年人的身心健康和权益保护；三是对数字人的责任承担方式要进一步明确。元宇宙里的法律是沿用现实世界的法律，元宇宙里所发生的一切依然是由现实世界所主宰。因此，当某数字人一旦被法院认定得为其不当行为承担法律责任，即便这个行为是发生在元宇宙里，也无法免责。担责的方式，可以是在元宇宙中发布赔礼道歉的公告、扣押或罚没元宇宙中的数字资产以及将限制元宇宙中的数字人的自由等。
四、检察机关的作为 |
本期召集人吴菊萍
上海检察机关网络犯罪专业化办案团队召集人
上海市检察院第二分院检察官
元宇宙是现实世界的映射，在运用法律法规治理元宇宙发展中的问题时要以现有法律体系为基础，遵循法的稳定性与逻辑要求并适时完善，在规制技术的恶意使用、防范各类风险的同时，保护好技术创新和数字经济的活力。检察机关作为社会治理的重要参与者，面对元宇宙发展中可能存在的风险，应当有哪些作为？
涂龙科
杨浦区检察院副检察长
元宇宙发展的规范中，我认为检察机关可以从三方面着手：第一，要加强关注、研究。要关心、了解技术发展和行业进步，特别是对关乎技术迭代更新和可能引发行业革命的领先技术要加强学习、研究。第二，要准确预判和应对。针对可能出现或者已经出现的问题，如利用元宇宙名义进行非法集资、诈骗等各类违法犯罪，要积极应对，准确打击犯罪；针对尚未出现，将来有可能会出现的一些违法犯罪行为进行提前的预判，防患于未然。第三，要进一步加强数据合规指引工作。今年年初，杨浦区检察院联合市信息服务业行业协会、市数据合规与安全产业发展专家工作组、杨浦区工商业联合会制定发布全市首份《企业数据合规指引》，反响很好。数据是元宇宙的基础要素，所以把数据合规这块做好特别重要，我们要在现有基础上，升级《企业数据合规指引》，细分不同的领域，制定《企业数据合规指引》2.0、3.0版本，把数据合规工作做得更加扎实。
翁音韵
上海市检察院检察官
元宇宙的风险治理中，检察机关可以从以下三方面着手：
一是监督现有法律法规的实施，强化对元宇宙开发和运营平台的监管。对于元宇宙开发所涉及的数据收集、数据传输出境、算法规制、内容监管等，我国出台过相关法律法规，如网络安全法、公民个人信息保护法、数据安全法等，国家互联网信息办公室还下发了《互联网信息服务深度合成管理规定》征求意见稿，对元宇宙等一些热门概念进行了回应，也预示着元宇宙的开发运行应当在法律法规监管的框架下，实现自身发展的健康有序。在此过程中，检察机关所要做的就是监督上述法律法规得到有效的实施，并加强问题收集，及时总结，为法律法规的完善提出意见建议。
二是通过刑事打击，规制解决元宇宙中的违法犯罪。元宇宙的发展会伴随着一些刑事问题的出现，如知识产权犯罪、财产类犯罪甚至一些暴力犯罪，都需要检察机关提前一步去深入研究作好预判。但当前，需要我们提高警觉的是，现下已经出现了以“元宇宙”为幌子实施的犯罪行为，包括涉嫌非法吸收公众存款、集资诈骗、电信网络诈骗等等，检察机关要积极履行职能，严厉打击。
三是运用新技术，开展普法执法司法工作。检察机关可以设计一个AI数字人，在各大平台直播展示以元宇宙概念为幌子的各类犯罪行为以及各种网络犯罪新手段，开展法治宣传，警示民众做好防范，防止被骗。如，近期闵行区检察院用VR技术让社区矫正人员“去”监狱现场体验被限制人身自由的感觉，有助于提升社区矫正的质效。
顾伟
徐汇区检察院检察官
元宇宙风险问题的检察作为，我认为要树立三个理念：一是树立法律+风险的思维。法律都是滞后的，但是对于现实存在的刑事法律风险或者可以预见到的犯罪行为，尤其是新类型犯罪，要敢于运用法律进行规制。二是树立法律+技术的思维。在刑事司法过程中，如果刑事办案脱离了技术思维，可能也办不好案。如单个证据的证明力会远远突破或者包含现在很多的证据，所以办案的理念要技术化，用更多的技术加持。三是提升法律理解+法律运用的能力。如针对虚拟货币交易问题，央行、银监会等十部委出台了防范处治指导意见，但实践运用中仍有一些问题没办法解决，这时候就考验法律解释、解读和运用的能力，需要提升法律理解和运用能力。
同时，检察机关要运用好红绿灯规则。具体而言要做到以下三点，第一，鼓励创新，各个企业正在争先做元宇宙的开发，元宇宙的发展过程必然推动一系列技术的升级换代，最终可能会促进城市治理水平和治理能力的提升。因此，针对元宇宙的开发，首先就要鼓励创新，保护创新，对于元宇宙平台企业或技术人员的违法犯罪行为要用好企业合规制度和落实好少捕慎诉慎押刑事司法政策。第二，跨前一步。如何做到刑事打击又到位又不越位，需要我们再思考。元宇宙开发涉及到网信、通信、宣传等行政部门的监管，检察机关更多要做好行刑衔接，必要时可以主动一点、跨前一步。第三，与时俱进。检察机关的执法理念和工作方式要持续更新，要用检察工作去促进立法。要充分利用大排查、大走访、大调研机会，走访、调研互联网平台企业，了解、帮助他们查找工作中可能存在的风险点，制定针对某个具体行业的规范性指引，引导行业内企业合规经营。
本期召集人吴菊萍
上海检察机关网络犯罪专业化办案团队召集人
上海市检察院第二分院检察官
感谢各位嘉宾的精彩发言。宇宙万物不存在绝对的自由，天上的星球须在自己的轨道上运行，现实世界的人类也要受伦理道德、国家法律的约束，元宇宙亦然。面对元宇宙中存在或可能面临的风险，我们要从伦理道德的约束、行业自治的引导、法律法规的完善与适用以及检察机关的担当等方面共同着手，做好防范。元宇宙具有广阔的空间和巨大潜力，是未来科技发展的重要依托和关键赛道。社会各界应当主动拥抱、积极行动、互相协作，共同推动元宇宙有序发展。
策划单位：杨浦区人民检察院 上海检察机关网络犯罪专业化办案团队
文稿整理：杨浦区检察院 邵旻 肖凤
奉贤区检察院 曹瑞璇 瞿阳帆
原文链接：https://mp.weixin.qq.com/s/E9EFgJrYr5svx_WmlsXO7A
[免责声明] 本文来源于网络转载，仅供学习交流使用，不构成商业目的。版权归原作者所有，如涉及作品内容、版权和其它问题，请在30日内与本网联系，我们将在第一时间处理。
