前总统、共和党候选人川普近期在社交媒体上非常活跃,不过一些帖子并不是那幺贴近现实。
比如,在民主党全国代表大会召开前,他发布了一张假照片,照片中的人长得像副总统卡马拉·哈里斯,在芝加哥举行的一次疑似共产主义集会上发表讲话,照片上有一面印有共产主义符号的红色横幅。
又之前前,他转发了一段假视频,视频中他和亿万富翁埃隆·马斯克一起跳舞。
而就在大会开幕前,他转发了一张泰勒·斯威夫特身穿山姆大叔服装的假照片,并附有文本:“泰勒希望你投票给唐纳德·川普,”并假装接受了她对他竞选活动的支持。而斯威夫特从未表示过支持川普。川普分享的其中一张图片上有一个小小的讽刺标签,但他没有澄清他的帖子是否是开玩笑。
这些例子都是用AI生成的图像。川普用它们来攻击对手,或为自己制造获得竞选支持的假象。这符合川普长期以来的策略,即他会放大信息、宣传另一种“事实”(从追随QAnon 到否认选举结果公平),来提高自己的政治分数、满足他的支持者。
川普分享的一些图片和视频是卡通化的或明显是假的。然而,人工智能生成的内容在政治社交媒体上的增加让专家们感到担忧,他们表示,人工智能生成的内容可能被用来传播更阴险、更可信的虚假信息。随着生成人工智能模型创建的虚假图像、视频和音频片段开始充斥社交媒体,它们也有可能削弱人们对所见所闻的信任。
“人工智能生成的泰勒·斯威夫特的深度伪造视频是人工智能制造虚假信息欺骗和诈骗选民的又一个例子,”进步的消费者权益倡导组织公共公民组织的联合主席Lisa Gilbert说。该组织一直在推动立法来监管人工智能。 “此类虚假信息可能对我们的社会造成广泛且极具破坏性的危害,包括滥用我们的选举。”