科技行者

希望我的女儿,能生活在一个「更美好」的元宇宙中

2030年一个凉爽的夏夜,我和16岁的女儿走在街上,透过AR头显,观看天空中的星星。我们头顶的星空依旧透彻清晰,上面叠加展示着遥远恒星的信息。我给女儿指出了飞马座(Pegasus),透过它的神话传说向后代传授生命的意义。这是个美好的时刻,美好得毫无瑕疵。

希望我的女儿,能生活在一个「更美好」的元宇宙中

继续前行,我们经过一排木栅栏,上面涂着一连串的脏话和虎狼之词。我已经成年,所以戴着的头显能看到真实的涂鸦内容;但我女儿看不到,因为她的头显被设置为过滤掉不适当的内容。所以,她不明白为什么附近那些人一脸愤懑。

我觉得让年轻人远离极端言论是好事,但他们毕竟还是要接触身边的人。从没接触过这些所谓“黑暗面”的人,也许看起来健康阳光、活泼开朗,但他们恐怕永远体会不到他人的痛苦、理解不了他人的忧伤。

我们继续前行,看到一个年轻的流浪汉在商店前乞讨。在这类场景中,家长控制的作用愈发模糊。算法会有意无意地将人行道上逡巡的过客、邋遢的着装以及要钱的纸板归类为“儿童不宜”内容,把它们消解掉,以呈现出更加温和的周遭环境。虽然这种对生活体验的扭曲和构建方式略显牵强,但我们一直知道,「算法」多年来始终通过编辑修订利用网络内容引导着我们的思维,是存在“算法偏见”的。

如果在小女孩的世界里,她从未经历过无家可归等重要的社会问题,那她要怎么理解并同情身处这类困境的人们?如果其他人也在自己的AR头显中把“美化”滤镜开到最强,那这个世界还有人能体会贫困社群的苦楚吗?再进一步,如果大部分人都对身边的苦难视若无睹,我们该如何拨乱反正、就这个问题展开有意义的讨论?

事实上,我们与这些道德问题的距离,远比很多人想象中更近。Facebook公司正计划推进扎克伯格本人提出的愿景,即由一家“社交平台”转型为一家“元宇宙公司”。相信有些朋友已经体会过Horizon Workrooms带来的出色临场感,媒体的碎片化与信息茧房也当着我们的面将真实世界、真实问题撕了个粉碎。如果任其发展,元宇宙的普及只会让事情变得更糟。不久之后,我们每个人也许都将生活在一个只符合自己个性、兴趣与品味的世界当中,这可能会不断侵蚀我们的共同经历,让人和人之间更难进行有意义的联系。

集体体验对于人类培养出联系与合作能力而言至关重要。我们如今看到的大部分分歧,其实上就是数字现实造成的意识分裂问题的直接产物。既然大家遇到的问题各不相同,又怎么可能聚在一起制定解决方案、并就问题的内核产生共鸣呢?无论我们在对话框里打上再多的字,得到的都只能是移情而非体验。

问题在于,透过网络的“滤镜”来观察,我们所处的这个世界似乎存在无穷多个现实位面。只要在网上逛一小会,浏览体验也会开始出现分歧。根据我们是谁、住在哪里、喜欢消费哪些内容等等,页面中显示的内容也将五花八门。我们喜欢的东西,以不同形式一次又一次浮现在眼前,每一次新的迭代都要比上一次更能刺激我们的兴奋神经。最终,我们的网络生活将极度个人化,造就完全自主、持续自我强化的世界观,而这种世界观终会取代物理现实。

事实上,可能大多数人都已经无法区分“什么是真”“什么是假”,而且我们往往意识不到网络上的体验正在受到外部力量的严重干预——这种干预,也许像推销新产品那样平淡无害、也许像塑造政治信仰和散播仇恨一样险恶,但它确实存在、无处不在。元宇宙中的这些因素,会渗透进我们的脑袋里,影响我们在现实世界中待人接物时的表现。

当企业一次又一次开发新技术时,他们很少考虑,自己的产品一旦被坏人控制会怎么样。我们已经在婴儿监视器、人工智能以及社交媒体平台上反复看到同样的问题,所以元宇宙也不能幸免。不难想象,邪恶的攻击者完全可以将极端主义或者其他有毒内容,直接注入到元宇宙体验中。

我们甚至不难从已存在的数字化世界中推断出未来攻击的形态。我们已经看到,Roblox上的坏人创造出了攻击特定种族或拥有特定信仰对象的法西斯数字体验。一旦这类倾向出现在元宇宙中,则有可能导致用户在体验的引导下,一步步走向排外、霸凌、羞辱或腐败等行为。恐怖的是,这些体验会用最有针对性的方式对你“洗脑”——包括展现最令人反感的场景、构建令人尴尬的经历、甚至是设计出堪称人生阴影的创伤性记忆,这些元素的一遍遍重复,终将塑造出一个可怕的人格。

考虑到元宇宙的特性,这种诱导性的体验,还很可能具有高度“个性化”——这种个性化,会让人主动去体验而非被动受教。到那个时候,区分真假将变得极为困难。在一个大多数事物都由外部力量合成塑造的世界里,什么才是假?当真假之间的界线如此模糊时,人们要如何做出正确的判断?一旦面对面的交互彻底被在线模式取代,近些年已经日趋恶化的「网络言论极端化」与「信息生态虚假化」倾向将最终不可遏制。

但无论如何,我还是期待着元宇宙这个概念能够从理想转化为现实。只是,我们需要保证以正确的方式构建正确的工具、建立安全的框架,确保真正的元宇宙既安全又公平。虽然这方面研究还处于起步阶段,但仍有不少比较直接的方法值得参考。

首先,就是借用我们研究团队在隐私领域的尝试。为了帮助人们亲自体验到他人的经历,我们开发出一款工具,能够为每位用户启动数千个浏览器页面,并分别根据不同的角色定位,展示相应内容。通过汇总不同角色之间的差异,用户们就能了解到其他人看到的网络世界究竟是什么样子。事实上,单是点破这里表现出的体验狭隘性本质,就足以改变很多人的惯常认知。

在元宇宙中,我们也许可以引入一种提示机制。如果有些人正在经历完全不同于他人的体验,那么系统应该主动发出提醒。例如,如果我的女儿看到一幅经过编辑修订的时尚广告牌,那我们两个人都会看到相应标签,提示我们两人看到的东西其实并不一样、发生这种差异的原因是什么。与其给这个世界加上厚厚的“滤镜”,倒不如让两个人以“透视”的方式深层共情,这样更有助于建立起同理心与情感联系。

另一种方法,则需要投入更多研究资源:创建一个真正的元宇宙“公共广场”。在这里,我们可以创建统一的共享空间,不再根据个人喜欢进行群体划分,这里每个人看到的东西都必须完全相同。在这个空间内,两个人拍下的画面会完全一致,不加任何滤镜。这个概念可以呈现为多种形式,但相信人与人必须要靠真实可信的共同经历,才能将内心彼此锚定于一点。这里还可以涵盖部分底层平台,帮助人们验证信息是否准确或者一致,进而调整自己对现实的认识。究其本质,这里类似于当下的应用商店平台,强制要求应用列出如何使用用户授予的各项权限。你可以相信这里的谈话对象确实是成年人、你的朋友与你看到了同样的景象,而且对方确实是你的朋友而不是AI机器人。总之,这里的现实将具有宝贵的共通性。

有了这些新型网络安全框架,我们才有资格对元宇宙及其重塑人类社会结构的承诺保持谨慎乐观的态度。我渴望有一天,能跟女儿一起观看奥运会比赛,然后再跟邻居们当面聊聊赛场上的精彩瞬间。遗憾的是,机器和算法既狡猾又有着致命的吸引力,我们稍不留神就会掉进它们挖好的深坑当中。

关注科技行者公众号

即将跳转至电脑版页面您确认跳转吗?
取消 跳转