华泰黄乐平:从“黑镜”看元宇宙的另一面

（以下内容从华泰证券《华泰黄乐平:从“黑镜”看元宇宙的另一面》研报附件原文摘录）
　　元宇宙不是全然美好的“乌托邦” 2021年，元宇宙这一“人类未来数字生活愿景”正式站上想象力的风口，成为全球产业和资本瞩目焦点。在众多描述中，元宇宙向人类提供了关于未来生活的美好想象，但对元宇宙的探讨不应该仅局限于美好的一面。我们通过英剧“黑镜”分析元宇宙可能对人性造成的异化与破坏，以及随之而来的社会伦理与治理难题，例如元宇宙的道德伦理真空或让人性的恶在其中放大，社交场景化或加剧现实社会人际问题，以及个体隐私将在技术手段下无处遁形等。这些问题都在警示我们，元宇宙也不是全然美好的“乌托邦”，在找寻元宇宙领域投资机会的同时也应重视元宇宙的伦理建设和隐私保护。 社交关系：元宇宙如果缺乏有效伦理约束，可能会放大人性中恶的一面 虚拟身份是元宇宙社交的核心要素。在道德伦理真空的元宇宙，躲在虚拟身份背后的人们对自身伦理道德约束的程度弱于以往任何世代，人性中的恶将得以宣泄。例如，黑镜“Hated in the nation”中的群众躲在虚拟身份背后给他人贴上“death to”标签来投票处死他人。同时，元宇宙社交场景化带来的沉浸感还可能进一步放大这种问题，进而影响人们的婚恋观、生育率等人际问题。正如“Striking Vipers”中现实世界的好兄弟在元宇宙中成了异性恋人，也破坏了其中一方的现实婚姻。这些问题都在警示元宇宙不能没有伦理道德，如何构建元宇宙的伦理道德体系也将会是元宇宙建设的重要一环。 人工智能：当AI进化成具有独立意识的数字人，人类将如何与之相处？ 人工智能技术是元宇宙基础设施的核心要素之一，它会从最简单的人机翻译，图像识别，逐步演化成能够部分替代人类能力的强人工智能，甚至演化出具有自我意识和创造能力的独立的数字人（或者超级人工智能）。这样的数字人，一方面能够从多方面满足人类的情感需求（例如黑镜“Be right back”中女主将超级人工智能当成已故丈夫的替代品），比如给予人类陪伴或者舒缓现实世界的社交压力等，另一方面能够在多方面替代人类成为新的生产力（例如黑镜圣诞节特别篇中被驯服后给人类提供服务的意识副本），比如生产制造，科研以及艺术创造等。但什么是这些数字人的权利与义务，人类本尊和他的数字克隆之间如何相处，这些伦理问题都值得深思。 隐私保护：当科技成为人们挖掘“真相”的手段，隐私将无处遁形 在技术高度发达的元宇宙时代，科技成为了人们获取“真相”的重要手段，人们的记忆或将像现在的网络资源一样被存储，随之而来的是人们的隐私被轻而易举地监测甚至是窃取，给个人、家庭甚至社会或将带来不少负面的影响。例如在黑镜“The entire history of you”中敏感的丈夫利用记忆芯片深挖妻子出轨的证据，最后两人的婚姻因此而破灭；在“Arkangel”中的母亲利用监测系统对女儿的个人活动进行监视和控制，最终导致女儿走上了不归路。如何避免用户信息窃取、滥用以及基于这些数据的网络犯罪等问题将成为元宇宙建设的重大考验。 元宇宙不是全然美好的“乌托邦" 2021年，元宇宙这一“人类未来数字生活愿景”正式站上想象力的风口，成为全球产业和资本瞩目的焦点，但就其具体概念和内涵而言，却仍处于探索阶段，不同的人有不同的解读。我们参照现实世界，结合Roblox、Matthew Ball以及扎克伯格等对元宇宙的定义中总结出的共性特征，对其作如下解读：元宇宙是以价值结算系统、内容生产系统、信息基础设施、互操作系统作为底层构筑的数字生活空间，其核心是通过应用和身份连结现实居民，并由社会激励和治理规则维系人际关系和系统运转。 基于这些基本构成要素，正在来临的元宇宙将改写世界和世界中的人，把人类引致一个高度自由、高度便捷的美好的数字化生活空间。然而，正如一个硬币的两面，元宇宙的所有元素在提供给人们美好想象的同时，人类也必将有所交付。英剧黑镜即探讨了元宇宙的部分构成要素可能对人性造成的异化与破坏，以及随之而来的一系列社会伦理、道德与治理难题，例如元宇宙的道德伦理真空或让人性的恶在其中放大，虚拟身份和社交场景化或加剧现实社会人际问题，以及个体隐私将在技术手段下无处遁形并将遭遇更大的暴露与安全风险等。这些问题都在警示我们，元宇宙也不是全然美好的“乌托邦”，在找寻元宇宙领域投资机会的同时也应重视元宇宙的生态治理问题。 社交关系：元宇宙如果缺乏有效伦理约束，可能会放大人性中恶的一面 人是社会性的动物，总是生活在一定的社会关系中，在传统媒体时代，人们以真实身份出现并和熟人进行互动，社会交往局限于一定的时间和空间内；在互联网（包括PC互联网和移动互联网）时代，社交开始摆脱真实身份和物理空间的约束，人们可以基于虚拟身份进入到他人的空间，与陌生人实现随时随地地沟通交往，实现“缺席的在场”；而在元宇宙时代，技术的发展又带给了人们新的“虚拟化”可能，且这种虚拟化不仅仅是身份的虚拟性，更可以通过虚拟获得真实的感官体验以及真实的身体在场感。 在元宇宙社交时代，躲在虚拟身份背后的人们对自身行为约束的程度将弱于以往任何时代，移动互联网时代已经初显端倪的网络暴力、隐私风险、用户骚扰或更频繁上演，加剧现实社会社交恐惧、社交疏离等问题。同时，元宇宙社交中场景化带来的沉浸式体验可能进一步将问题放大，从而最终影响社会婚恋观、生育率、代际关系等人际问题，并引发一系列社会伦理问题。在黑镜中，导演使用了大量的篇幅来探讨元宇宙背景下，技术和虚拟身份可能对人际交往和社会关系产生的异化，通过这些故事，我们或许能对元宇宙的社交的另一面有更具象的了解。 虚拟身份——元宇宙道德伦理问题的根源 虚拟身份（数字分身）是元宇宙的核心要素之一。在元宇宙中，人们的社交行为基于其自行创建的虚拟形象，由于网络的隐蔽性、虚拟形象的身份掩饰便利以及真实世界中社会压力的缺失，使得人性中最原始隐秘的部分——恶的一面得以有宣泄的出口。在黑镜第三季“Hated in the nation”这一集所描述网络投票系统中，人们可以随意的对别人贴上#Death to#的标签，而每周获得最多标签的人则将遭受黑客控制的机器蜜蜂的攻击而死。剧集所表达的对网络暴力问题的隐忧在如今看来似有夸大的成分，但若将目光投射至元宇宙这一高度自由、高度开放、高度包容的“类乌托邦”世界，则其严峻性或将不言而喻。 场景化带来的沉浸感或放大虚拟身份下的伦理道德问题 人们在高度发达的元宇宙中可以躲在虚拟身份背后扮演他们在真实世界中可能无法扮演的角色，并以这个身份同元宇宙中的其他人交互交往。在伦理道德的“监督真空”下，人们可以毫无顾忌地做一些现实生活中不能做也不敢做的事情，对自身约束的放松程度将高于以往任何世代，而元宇宙场景化带来的沉浸式体验还可能进一步将问题放大，从而最终影响社会婚恋观、生育率、代际关系等人际问题。正如黑镜第五季“Striking Vipers”中的现实世界中的好兄弟成为了元宇宙中的异性恋人，并影响到了其中一方在现实世界的婚姻。剧集给我们展现了“监督真空”的元宇宙可能带来的伦理问题，这也提示元宇宙开发者在追求极致的体验感的同时也应该注意元宇宙社会伦理体系的构建。 部落化的元宇宙也将出现社会阶级 元宇宙时代的社交将具有部落化的特征，在进入元宇宙后，人们凭借兴趣和共识创建社交场景和生活社区，构建数字人之间的公共生活，从而形成虚拟世界的无数部落。此时，不同社交场景和部落的门票将具有社交圈层的价值，从而可能造成元宇宙社交世界的阶级分化问题。这也意味着，为了获得更多社交场景的门票并实现社交阶级上迁，人们必须打造更好的虚拟形象，通过“数据化”的表演或扮演，获得高层级群体的认同。正如在游戏世界中，人们通过练级进阶，并向其他玩家进行展示自己的成果来获得游戏地位。然而，风险在于，当这种表演和随之获得的精神满足被元宇宙扩大后，便可能走向另外的极端，努力追求元宇宙虚拟社群认同的过程中逐渐迷失自我。正如黑镜第三季“Nosedive”中的女主，为了获得更高的社交评分，而卖力地向身边每个人微笑、费尽心思讨好别人，最终失去真实的自我。 人工智能：当AI进化成具有独立意识的数字人，人类将如何与之相处？ “人工智能”这个概念最开始是由几个科学家在1956年的达特茅斯会议上提出来的，他们梦想着利用当时刚刚出现的计算机来构造与人类拥有相同智慧同样本质特性的机器人。自此之后，人工智能的概念就在科学界流传开来，并在科学实验室中开始孵化。之后的几十年里，人们对于人工智能的讨论愈发热烈，有人认为人工智能是人类文明耀眼的未来语言，也有人认为人工智能只是技术狂热分子的瞎想，应该扔到垃圾堆里。直到2012年之前，这种讨论一直没有停过。2012年以后，得益于数据量的上涨、运算力的提升和机器学习新算法（深度学习）的出现，人工智能开始大调整。人工智能的研究领域也在不断扩大，包括专家系统、机器学习、进化计算、模糊逻辑、计算机视觉、自然语言处理、推荐系统等。 人工智能技术作为元宇宙基础设施的核心要素之一，它会从最简单的人机翻译，图像识别，逐步演化成能够部分替代人类能力的强人工智能，甚至演化出具有自我意识和创造能力的独立的数字人（或者超级人工智能）。这样的数字人，一方面能够从多方面满足人类的情感需求（例如黑镜”Be right back“中的机器人男友），比如给予人类陪伴或者舒缓现实世界的社交压力等，另一方面能够在多方面替代人类成为新的生产力（例如黑镜圣诞节特别篇里面的意识副本），比如生产制造，科研以及艺术创造等。但什么是这些数字人的权利与义务，人类本尊和他的数字克隆之间如何相处，这些伦理问题都值得深思。 超级人工智能可以给予人类情感陪伴，但还是替代不了真实的有缺陷的人 在黑镜第二季“Be right back”中女主为了舒缓丧夫之痛，购买了基于人工智能的人体模型服务。最开始女主发现模型很像自己逝去的老公，而且每次女主指出模型的缺陷后，模型都会立刻优化，比之前更像女主逝去的老公。但模型终究只是个模型，而不是活生生的人，它不用进食，不用睡觉，不用呼吸，它缺乏训练数据以外的一切资料。无法忍受这一切违和感的女主被逼得近乎崩溃，她最终决定放弃这样一款机器。我们可以看到在黑镜所构建的元宇宙中，人工智能即使发展到极致也还是替代不了真实的有缺陷的人，还原不了人类彼此之间的感情依赖。 如何对待具备自我意识的超级人工智能值得深思，但“虐待”绝不可取 在黑镜所搭建的元宇宙中，有一种特别的超级人工智能-“意识副本”。相比于现在基于海量数据训练出来的弱人工智能，意识副本跟客户的意识主体几乎相同，清楚地知道客户的所思所想。在黑镜的圣诞节特别篇中，作为人工智能工程师的男主为了驯服意识副本，采用了一种非常残酷的训练方式：通过对意识副本施加“现实一分钟，虚拟一千年”的酷刑，让意识副本心甘情愿地成为专门为主体服务的工具；同样，在黑镜“Black Museum”剧集中博物馆馆主通过让游客对女主父亲的意识副本实施虐待而获取暴利。黑镜剧集中这些对意识副本的虐待行为显然是不能被接受的，但人们该如何对待具有自我意识的超级人工智能仍值得深思。 跳出“机器人三定律”，超级人工智能或将成为人类的终结者 跟众多科幻电影一样（比如黑客帝国），在黑镜第四季“Metalhead”中也描述了一个由强人工智能所统治的世界：在这个世界里，机器狗成为了世界的主宰，而人类变成了机器狗的猎物。如果从“进化”的角度来衡量一个物种的生存优势，类似于机器狗这种集生物技术和信息技术于一身的人工智能产物确实远胜于我们人类：1）人工智能具备无限复制和批量生产的自我繁衍能力；2）人工智能的耐力上限可以接近于“永久”，并且金属的机器更能适应各种极端环境；以及3）人工智能在逻辑推演方面具有人类不可比拟的优势。我们一直在追求制造出类似于机械狗这种更“完美”的人工智能产物的同时，也应该警惕一旦它们跳出“机器人三定律”（机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；机器人在不违反前两个定律的情况下要尽可能保护自己的生存），它们也有可能成为人类的终结者。 隐私保护：当科技成为人们挖掘“真相”的手段，隐私将无处遁形 实际上，早在“元宇宙”概念兴起之前，关于“扩展现实”（Extended Reality，XR）、“沉浸式技术”（Immersive Techlogy）所涉及的隐私和数据安全所发出的拷问已此起彼伏。用户信息数据作为支撑元宇宙持续运转的底层资源，是元宇宙一切活动的核心和关键，相较于移动互联网时代，元宇宙对用户数据的需求将更加庞大，其中发生的信息交互也更加频繁，从而对用户隐私保护带来更大挑战。在黑镜中，导演已经向我们深刻展示了在元宇宙时代，高度发达的信息技术（如剧中的记忆颗粒等）将以何种方式对个人隐私造成侵犯，而这种侵犯又会带来何等严重的后果。 对“真相”的极致追求或造成严重的隐私问题 在技术高度发达的元宇宙时代，科技成为了人们获取“真相”的重要手段，随之而来的是人们的隐私被轻而易举地监测甚至是窃取。黑镜的多个故事对此进行了探讨，无论是“The entire history of you”中为了寻找真相，通过记忆颗粒挖掘妻子隐私，最终家庭破碎的丈夫；还是“Shut up and dance”中因被摄像监控导致个人隐私泄露而遭受挟持，最终滑入犯罪陷阱的高中生；抑或“Arkangel”中盼子成龙心切，通过纳米芯片时刻监控女儿隐私最终酿成惨剧的母亲。这些剧集都深刻描述了一个“完全真实”的世界，反而有可能给个人和家庭关系，以及青少年的成长造成负面影响。同时，根据XRA协会发布的《2020 AR/VR市场调查报告》，49%的受访者认为隐私保护和数据安全是AR/VR内容的最大法律风险。如何避免用户信息窃取、滥用以及基于这些数据的网络犯罪等问题将成为元宇宙建设的重大考验。 元宇宙时代的隐私保护机制需要负责任地建设 “互操作性、开放标准、隐私和安全要在元宇宙的第一天就建造起来”，扎克伯格在宣布Facebook更名的视频演讲中（2021年10月29日），将隐私安全和个人空间列入理想元宇宙的八大关键要素，并提到未来的元宇宙平台将设立隐私标准、家长控制措施，并对数据使用进行披露。元宇宙对个人隐私安全保护带来深刻冲击，意味着如何合理收集、储存与管理这些数据资源，并进行合理授权和合规使用；以及如何避免用户信息窃取、滥用以及基于这些数据的网络犯罪等问题，将成为元宇宙建设的重大考验。 风险提示 本文不涉及推荐和关注。本文关于剧集的内容为客观描述，仅为有助于投资者理解元宇宙可能出现的情景分析，不涉及推荐和关注。 元宇宙技术开发进度不及预期。元宇宙的实现是 5G、AI、AR/VR/脑机接口、云计算等多种前沿科技协同发展的结果，目前仍然处于早期阶段，若技术的发展进度不及预期，则会进一步影响用户体验，降低沉浸感。 疫情升级致 3C 需求不及预期。在新冠疫情海外持续蔓延情况下，宏观经济下行或导致消费二次探底、3C 需求持续疲弱，因此行业公司仍面临疫情升级背景下 3C 需求不及预期、业绩下滑的风险。 创新品研发不及预期。前沿科技领域部分产品仍在研发阶段，可能存在无法商业化以及无法量产落地的风险。 点击查看报告原文 风险提示：本文关于剧集的内容为客观描述，仅为有助于投资者理解元宇宙可能出现的情景分析，不涉及推荐和关注；元宇宙技术开发进度不及预期；疫情升级致3C需求不及预期；创新品渗透不及预期。 本材料所载观点源自2022年1月20日发布的《元宇宙的另一面：关注伦理和隐私问题》，分析师：黄乐平 SAC No.S0570521050001 | SFC No.AUZ066；陈旭东 SAC No. S0570521070004 | SFC No. BPH392 ；胡宇舟SAC No. S0570121040041 | SFC No. BOB674 对本材料的完整理解请以上述研报为准。 ----相关阅读----- END 团队荣誉 电子团队：2013-2020连续8年蝉联II All-China中国科技行业最佳分析师 计算机团队：2020年II All-China技术/IT服务和软件行业最佳分析师（大陆第1） 传媒团队：2020年II All-China传播与文化行业最佳分析师（大陆第1） 通信团队：2020年II All-China电信行业最佳分析师（大陆第2）| 2019年II All-China通信行业最佳分析师（大陆第1）

点此查看微信公众号原文全部内容>>

大部分微信公众号研报本站已有pdf详细完整版：https://www.wkzk.com/report/（可搜索研报标题关键词或机构名称查询原报告）