YouTube正在扩大针对政治人物和记者的AI深度伪造检测工具适用范围,以应对合成内容。然而技术专家警告称,仅靠"检测导向型方法"难以跟上快速发展的生成式AI环境。
11Al Hashgraph集团联合创始人兼首席执行官斯特凡·戴斯指出,应对深度伪造正在成为"大型科技公司难以取胜的追逐战"。
YouTube近期正在扩大基于AI的深度伪造检测技术适用范围,加强对包括政治人物和记者在内的公众人物的保护。此举被视为应对所谓"合成内容"(包括合成图像、视频、音频等)扩散的措施。但有分析认为,这种以检测为核心的应对方式难以成为根本解决方案。
戴斯解释道:"制造虚假图像、视频、音频的AI技术,其发展速度正快于试图检测这些内容的系统。每当新的检测技术出现,下一代深度伪造就会学习如何规避。"他进一步表示:"当平台识别出具有说服力的虚假内容时,损害很可能已经发生。"
他强调,应对深度伪造的方向应从"寻找虚假内容"转向"证明真实内容"。戴斯说:"真正的解决方案不是追踪传播后的虚假内容,而是从一开始就证明何为真实。"
他还说明,这种方法基于已在互联网核心基础设施中应用的密码学技术。他指出:"密码学是支撑银行系统、消息服务、网络安全、数字身份等整个互联网的技术,可将相同原理应用于媒体内容。"
据戴斯介绍,利用分布式账本技术等系统,可以从密码学角度证明内容的生成来源及后续修改情况。他表示:"若为内容赋予生成时的密码学证明,即可确认其产生地点及是否被篡改。相较于无止境地检测深度伪造,更可行的是通过数学方式即时验证内容的真实性。"


