专家表示，新的人工智能技术有“破坏”法律体系的风险，并将改变法庭诉讼的方式。他们警告说，越来越普遍的虚假图片、视频和音频将改变法庭上对证据的看法，并可能导致整个司法系统的信任崩溃。
虽然像Photoshop这样的照片编辑工具已经存在了一段时间，但人工智能主导的深度伪造工具的日益普及，使任何拥有电脑的人都能人工生成不仅令人信服的图像，还能生成音频和视频记录。
最近疯传的例子包括唐纳德·特朗普被强行逮捕的假照片，教皇穿着一件巨大的白色羽绒服，以及美国前总统玩《使命召唤》的假录音。
显而易见的担忧可能是，这些技术可能被用来制造虚假证据，从而谴责人们。
爱丁堡法学院计算法学教授伯克哈德·谢弗在接受《每日快报》采访时表示，尽管我们应该意识到这一点。在英国，一个更大的威胁是，深度造假技术会煽动阴谋论者和拒绝接受刑事诉讼结果的纸上谈兵侦探。
他说:“虽然很多公众争论的焦点都集中在深度造假可能引入误导性证据的危险上(在BBC的《the Capture》等电视连续剧中很受欢迎)，但在我看来，更大的危险是‘普遍否认’，即使是真实的数字图像或片段。”
正如律师事务所Brett Wilson LLP的创始人Nick Brett所解释的那样，这些证据需要“出处”。
他告诉《每日快报》:“例如，当王室依靠照片证据时，证据是由证人提供的，他详细说明了照片是如何以及何时拍摄的。
“如果有证据质疑照片的真实性，那么证人将被要求出庭，就这个问题接受盘问。”
因此，更大的问题是，考虑到制造虚假证据并在网上传播是多么容易，法庭外如何看待审判。
谢弗表示:“在我看来，更大的风险在于这些法律程序，以及它们在法庭之外被分析、报道或讨论的方式。
自封的、通常是匿名的网络侦探会翻看庭审中的片段和图像，但会脱离上下文，然后用技术上听起来不错但大多是愚蠢的分析来“反驳”，他们往往忽略了自己看到的图像是一个副本的副本，往往是格式不同的副本，而不是陪审团看到的那个。
他补充说:“我越来越频繁地看到这种情况，它可能会破坏人们对司法系统和法律的信任。”在这里，我们需要找到新的方式向公众传达试验中发生了什么，让他们获得高质量的分析和信息。”
这很容易落入权势人物的手中，他们可能希望助长阴谋论，把责任从自己身上转移开。
然而，这些工具确实存在，可以帮助打击在网上传播的虚假图像，这些图像可能会破坏司法系统。
网络安全公司OneSpan的首席执行官马特·莫纳汉告诉《快报》:“自从银行转向数字银行以来，我们公司多年来一直与银行合作，我们所做的就是让银行和最终用户在最终用户层面上安全连接起来，然后审计银行和最终用户之间发生的一切。”
“然后你对这些交易、它们的授权和签名进行加密散列。”
这种“加密散列”是一种验证银行交易的独特代码，莫纳汉将其描述为“几乎就像创造了一个万物的NFT”。
通过将类似的工具应用于证据片段，互联网用户将能够立即识别照片、视频和音频的来源，以及它们是否可能被人工智能或其他程序编辑过。
不要错过……多亏了新的人工智能技术，约翰·F·肯尼迪谋杀案之谜可以解开。我们到底应该多担心呢?陆军老板说，给我们人工智能工具来完成这项工作。
但是，要想大规模地引进这项技术来解决这个问题，仍然存在一些障碍。
谢弗解释说，问题不在于监管，而在于技术和资金:“所有这些都使数字证据成本更高，速度更慢。
“数字法医服务的资金严重不足，即使是常规案件也会产生越来越多的数据，而用于正确分析这些数据的资源却越来越少。
“因此，主要问题是，是否有基础设施、专业知识和资源来跟上人工智能的发展，而监管就不那么重要了。”
他补充说:“说了这么多，我们必须小心，不要低估人们的常识，或者这项技术的新颖性。
“同样的问题一次又一次地出现——摄影的一些最初的使用案例来自于试验，他们也立即提出了操纵的问题——那是在19世纪80年代末。”
但随着技术变得越来越熟悉，我们越来越善于发现和克服所涉及的问题。
谈到对臭名昭著的“跳舞仙女”照片的处理，斯大林臭名昭著的将尼古拉·叶若夫(Nikolai Yezhov)从照片中删除，以及最终将Photoshop引入世界，这位教授说:“一旦这些新技术得到更好的理解，担忧就消失了。”