从旨在影响选举的深度伪造到传播虚假新闻的聊天机器人，信息世界的污染似乎是人工智能（AI）日益广泛使用的主要危害之一。
目前正在巴黎举行的全球峰会重点讨论了这项技术，该技术的快速推动为虚假信息提供了强大的新工具，从而助长了近年来虚假信息的兴起。
比如，2023年的斯洛伐克，一段录音引起轰动：亲欧洲政党的领导人承认议会选举被操纵。这是一个深度伪造的视频，内容是通过人工智能操纵的，却能够影响选民。
世界各地的政客们已经为这种做法付出了代价，这种做法在社交网络上极有可能广泛传播。
美国前总统拜登就是“受害者”，他的声音被假冒，冒充的声音建议选民不要去投票。或者还有马克龙，在一段被广泛流传、配乐经过篡改的视频中马克龙宣布辞职。
美国、意大利、英国和巴基斯坦等国的女性政客也曾成为人工智能生成的色情图片的受害者。研究人员认为这一趋势令人担忧。
专门聚焦虚假信息研究组织美国阳光计划 (American Sunlight Project) 警告称，这些性爱深度伪造视频还经常针对美国歌手泰勒·斯威夫特 (Taylor Swift) 等名人，现在所有女性都容易受到这些视频的攻击。
人工智能也是大规模数字干扰行动的核心。
最引人注目的例子是名为“Doppelgänger”或“Matryoshka”的亲俄运动，网客大量使用虚假资料包括机器人来发布人工智能生成的内容，目的主要是破坏西方对乌克兰的支持。
分析网站和在线内容可靠性的新闻卫士(Newsguard)组织主编Chine Labbé警告说， “新的发现包括，一些人仅凭极少的财力和时间就能如此轻易地传播虚假内容，而且这些内容看起来越来越可信，也越来越难以被发现识破。”
法国打击外国数字干扰的组织 Viginum 在巴黎IA 峰会上发表的一份报告中也强调，人工智能“大规模地”为“网络平台上虚假账户的生成和管理提供了前所未有的支持”。
没有哪个地区能免受这些虚假内容的侵害：虚假音乐视频经常被传播，只需点击几下鼠标就能伪造出历史事件的照片并被传播。
在Facebook上，各个账户正在不断增加由人工智能生成的漂亮的图像，以获得关注。其目的不一定是为了传播虚假信息，而是为了吸引注意力以达到商业目的，或者甚至在发现容易上当受骗的用户后准备针对他们实施诈骗。
另一个例子是：2024年，法国的Michel Cymes等知名医生的深度伪造视频被发布，以推广他们从未支持过的治疗方法。
12月底，纽约地铁上一名男子纵火焚烧一名女子的事件成为美国头条新闻，一张据称是受害者的照片被广泛传播。它是由人工智能生成的，并且该戏剧被工具化，目的是重定向到加密货币网站。
因此，每次重大新闻事件都会产生大量在线创建的图像，例如2025年初洛杉矶发生的大火，火焰中的“好莱坞”标志或灰烬中的奥斯卡奖的假照片传遍了世界各地。
[复制链接]
雷达卡
发表于
2025-2-11 09:23:50
提升卡
置顶卡
变色卡
千斤顶
显身卡
