利用Deepfake让老照片动起来,以此缅怀先烈,是一件好事,但这项技术也带来了篡改历史,甚至扭曲现实的风险。实际上,过去几年来Deepfake引发的赞叹,总是伴随着争议和担忧。

为了庆祝 2021 年的以色列阵亡将士纪念日,以色列国防军乐团与一家专门从事合成视频(「Deepfake」技术)的公司合作,将 1948 年第一次中东战争中的老照片重现得栩栩如生。

团队用这些照片制作了一段视频,在视频中,年轻歌手身着古装,手持乐器,唱着歌,这是一首纪念在战斗中阵亡的士兵的标志性歌曲。

他们一边唱,一边盯着手里拿着的褪色的黑白照片。老照片中的年轻士兵冲他们眨了眨眼,对他们微笑。

刹那间,历史和现实仿佛连在了一起。

AI技术让「昨日重现」变得前所未有的轻松。这会改变我们理解历史的方式,进一步改变我们自己吗?

下面是完整视频:

,时长03:33

实际上,以生动的方式让过去重现生机的愿望并不新鲜。以AI技术修复或重现战争场景更是司空见惯。

2018 年,导演彼得·杰克逊 (Peter Jackson) 在执导电影《他们不会变老》时,就曾煞费苦心对第一次世界大战的镜头进行修复和着色。

这部电影,让 21 世纪的观众比以往任何时候都更直接地体验了第一次世界大战。

要实现逼真地重演历史是昂贵且耗时的工作。Deepfake 技术让这种努力可以为更多人所用,该技术提供了一种廉价、广泛的工具,让老照片动起来,或直接生成足以乱真的假视频。

但与所有新技术一样,除了令人兴奋的可能性之外,还有严重的道德问题。当使用这些新工具来增强对过去的理解并重振历史情节时,问题变得更加棘手。

18 世纪的作家和政治家埃德蒙·伯克 (Edmund Burke) 有句名言:社会不仅是生者之间的伙伴关系,也是生者、死者和将要出生的人之间的伙伴关系。

在他看来,政治身份不仅仅代表着人们的看法,人作为社会的一部分,也就成为了某种「代际契约」的一部分,政治身份是连接生者、死者和未来人的纽带,从这种身份传承中,这种纽带得以维系。

如果他说的有道理,那么Deepfake技术确实提供了一种强大的方式,将人们与过去联系起来,以建立并维系这种「契约」。

Deepfake:炫酷技术背后的双重面孔

Deepfake可以让历史以生动的方式化为现实,使「已死」的过去变得生动、充满活力。如果这些栩栩如生的过去可以激发现在的人对先人的同情和怀念,那么Deepfake技术也算是多了一个功德。

但这也同样伴随着风险,其中最明显的一点,就是可能伪造历史。不少可能会引发战争的事件其实是想象中的、神话的和虚假的。而更可怕的风险是,篡改现实。

比如,如果利用Deepfake技术,从根本上篡改了今年 1 月 6 日白宫骚乱事件,很可能会加剧政治紧张局势,或者捏造出一段CDC会议上贬低新冠疫苗的虚假视频,又会对公众对疫情防控的看法造成什么影响?

结果是,Deepfake技术可能会逐渐破坏「历史事件」这一概念本身。也许随着时间的推移,随着这项技术的进步和普及,人们会不自觉地质疑他们所看到的是否真实。

但除了对伪造历史的焦虑之外,Deepfake还可能产生更令人担心的后果。我们对历史的想象力可能会因此而被削弱。

有了栩栩如生的视频,我们对历史的想象可能因此被固定下来,把Deepfake生成的场景当成历史事件的「标准想象」。这样一来,有些人们可能会觉得,无需进一步了解历史,过去已经完全呈现在他们的眼前了。

技术的普及让人们变得更轻松,轻松到人们原有的技能可能面临退化的风险。

智能手机的出现,让我们可以轻松将照片发布到网上。但这也让更多人不再像过去那样体验令人惊叹的景色了,因为看见美景后,第一反应变成了「赶紧拍照发朋友圈」,而不是醉心赏景。

同样,基于AI的Deepfake带给我们的变化,可能与此非常类似,甚至更加严重。

我们总是更擅长发明事物,而不去更多思考这些发明会产生什么影响。或许,现在是时候可以放慢脚步想一想,原来体验过去的最佳方式是什么,现在的方式,是不是一定就是更好呢?