著名导演卡梅隆（James Cameron）接受采访谈论了足以以假乱真的深度伪造（Deepfakes）的危险性。他说：我们创造的几乎所有东西都会在某些时候出问题。我一直工作在视觉效果的前沿，目标是逐步获得越来越真实的照片。因此从某种意义上说，每次改进工具时，我们实际上都是在构建一个创建虚假媒体的工具集——我们现在看到这种情况发生了。现在玩这些应用程序的人还不多。但随着时间的推移，限制将消失。你看到并完全相信的东西可能是伪造的。
这是我们依赖视频的大问题。新闻周期发生得如此之快，人们的反应如此之快，在 Deepfake 的内容发布和被暴露是假的之间，你可能会遇到大事。我们看到了一些情况——你知道，阿拉伯之春就是一个典型的例子——在社交媒体上，暴动几乎在一夜之间发生了。你必须真的强调批判性思维。你是从哪里听来的？你知道，我们有这么多的搜索工具可用，但是人们就是不用。了解你的信息来源。调查你的信息来源。你的消息来源可靠吗？
但是我们也不应该陷入荒谬的阴谋妄想症。当科学家发表他们的研究结果的时候。科学界的人不会只说，“哦，太好了！”不，你要经过重要的同行评审阶段。它必须经过审查和检查。研究发现越激进，同行评审就越多。所以优秀的同行评审科学无法说谎。但是出于某种原因，人们的头脑会倾向于对现实进行更性感、更恐怖片式的解读，而不是接受显而易见的解释。
我总是使用奥卡姆剃刀——你知道，奥卡姆剃刀是一个伟大的哲学工具。它说最简单的解释是最有可能的。阴谋论太复杂了。人没那么好，人的系统没那么好，人无法保守秘密来保命，大多数掌权者都是装模作样的傀儡。事实上，我们认为他们真的可以实现这些——这么复杂的情节？我根本不相信这样的胡扯！比尔盖茨并没有真的想通过流感疫苗给你植入芯片！
你看，你知道的，我总是对新技术持怀疑态度，我们都应该这样。曾经的每一项技术进步都变成了武器。我一直在对人工智能科学家这样说，他们说，“不，不，不，我们已经控制住。”你知道，“我们只给人工智能正确的目标……”那么谁来决定这些目标是什么呢？是那些给研究提供资金的人，对吧？那些都是大企业或者国防机构。所以你要么就是要教会这些有意识的实体贪婪，要么就是教会他们杀人。
如果天网（Skynet）想要主宰一切并消灭我们，实际上这看起来很像现在正在发生的事情。它不需要——比如说，用核武器消灭整个生物圈和环境。让我们的思想反对我们自己，这将变得容易的多，需要的能量也少得多。天网要做的一切就是 deepfake 一些人，让他们互相对抗，传播煽动性的信息，让人们陷入巨大的 deepfake 之中。
我的意思是，现在的我就可能是人工智能创造的投影。
版权归原作者 奇客Solidot 所有， 如有侵权，请联系我们删除。