领导力的未来/深入了解深度伪造的本质

什么是深度伪造以及如何创建它？

深度伪造是一种 AI 生成的叠加层，用于在媒体中交换面部或其他物品。术语深度伪造是“深度学习”和“伪造”的混合词，指的是通常使用深度伪造的媒体“伪造”个人执行操作的视频或音频媒体。 创建深度伪造的更常用方法之一是使用深度学习神经网络。要创建深度伪造，需要两组源数据。第一种来源，以下称为“来源个体”，是待伪造个人的照片、音频和视频媒体。第二个来源，以下称为“来源媒体”，是待伪造个人执行操作的收集数据。两组数据都被馈送到神经网络编码器中，将运动、音频和面部数据分解成压缩信息。然后，源个体数据被源媒体解码器解码，将源个体的信息叠加到源媒体之上。这会创建伪造的媒体，其中源个体似乎在执行操作。

深度伪造的伦理

深度伪造是道德的吗？许多人会争辩说它们是不道德的。深度伪造的道德基础很大程度上可以归结为一个问题，即在多大程度上可以认为一个人拥有自己的外表，以及他们的身份。电影制片厂已经开始使用深度伪造，一个突出的例子是《星球大战》，它使用深度伪造技术在凯丽·费雪去世后对其进行数字化重建，并在媒体中描绘了年轻版本的卢克·天行者，尽管马克·哈米尔已经老得多远超媒体中描绘的年龄。 在马克·哈米尔的案例中，他参与创建深度伪造以及授权使用深度伪造可以被视为允许对他的视觉身份的道德使用。在凯丽·费雪的案例中，她在深度伪造创建之前就去世了，这个问题很模糊。 核心问题是，身份问题通过使用深度伪造而变得值得质疑。如果身份完全自包含，也就是说完全由自我控制，那么深度伪造几乎不会带来道德问题。 然而，身份的一部分可以被视为与他人对我们的看法和意见息息相关。一个人可能认为自己是一个道德的人，但是如果这个人没有道德地行事，并且被他们的社区视为不道德的人，那么道德个体的身份就不能真正说属于他们。 这是深度伪造的伦理问题。它们代表了一种手段，可以通过这种手段，个人的身份可以在没有任何个人行为的情况下被玷污或损害。

深度伪造的伦理机会

如上段简要介绍，深度伪造在媒体中的伦理使用为媒体创作公司带来了巨大的机遇。一位深受喜爱的演员可以将其视觉或音频特征授权给电影制片厂，允许他们长期成为作品的一部分，即使年龄和可能的死亡使他们无法积极参与。 深度伪造带来的另一个机会是历史学习。当科学能够重现对历史人物的外貌、声音和其他数据的估计时，历史就可以栩栩如生。让学生“直接”从历史人物那里学习的机会为学生提供了比许多学生从教科书中阅读或观看历史学家谈论某个主题所能获得的更大的参与机会。 在线用户发现的另一个机会是使用故意和公开的“假化身”来创建被称为“虚拟 YouTuber”的人物，被称为 V-tuber。这些 V-tuber 已经获得了人气，并成为不仅是那些创建它们的人，而且是那些通过这种媒介表现自己的人的一种工作形式。

深度伪造带来的威胁。

虽然深度伪造对某些行业来说是机遇，但对其他行业来说，它们带来的威胁更大。主要威胁来自使用深度伪造将虚假信息和虚假信息宣传为真实的信息的虚假信息和虚假信息宣传活动。 借助深度伪造，任何人都可以出现说任何话。从前总统巴拉克·奥巴马参与对前总统唐纳德·特朗普的辱骂狂言，到似乎来自乌克兰总统弗拉基米尔·泽连斯基的视频信息，指示乌克兰公民投降并接受俄罗斯的统治，几个问题立即变得显而易见。对于任何需要诚信观的职业，深度伪造代表了一种手段，可以通过这种手段，不法分子可以立即摧毁信誉。 最近一起涉及深度伪造色情内容的丑闻允许个人订购任何进行色情行为的个人的深度伪造，这引发了人们对创建材料的合法性的质疑。在一些国家，根据“报复色情”法，此类创作已经是违法的。 然而，在许多国家，没有这样的法律追索权。虽然看到约瑟夫·斯大林和阿道夫·希特勒面对面地唱着 90 年代的流行音乐可能很有趣，但对于一家德国电力公司来说，最近该公司的一名员工按照公司首席执行官的命令转账了一大笔资金，结果却发现视频通话是深度伪造，这就没那么有趣了。

深度伪造技术对未来的潜在影响。

随着深度伪造技术的进步，越来越难以分辨真假。就在几个月前，人们常说“看眼睛”，因为当时的生成神经网络在处理眨眼或打喷嚏等非自主反射方面存在困难，这些动作的快速性和相对复杂性导致深度伪造技术难以成功地模仿它们。然而，这一局限性被指出后，神经网络很快就被重新训练和改进，并不断进行调整以克服发现的每一个弱点。肤色、伪造媒体与源媒体接合处的模糊以及头发都得到了改进，模糊了事实和虚构之间的界限。

评估对抗深度伪造的潜在方法。

众多公司组成的广泛联盟共同努力解决深度伪造问题。来自微软、Adobe、苹果、新闻机构、政府等公司的专家都已加入这一行列，以应对深度伪造技术带来的新兴威胁。他们目前“最好的想法”是在互联网上的每张图片上添加一个标记，允许观看者追踪该媒体片段在每次演绎或迭代中的“系谱”，并了解该媒体片段所做的更改。不幸的是，这可能行不通，因为任何能够制作出令人信服且高质量深度伪造的参与者，很可能也能制作出经过修改或伪造的“系谱”，声称该媒体片段是真实的。希望对抗深度伪造的进一步措施来自使用随机生成的字母数字序列，需要阅读该序列，希望深度伪造无法快速适应。