AI造假泛滥成灾！三学生揭穿俄制选举舞弊视频
发布时间：2025-10-27 13:43:53 浏览量：1
TKTK图片插图：《时代》杂志；Getty Images
无需先进的技术就能在网上欺骗他人。我们向3000多名高中生播放了一段模糊的视频，视频中投票站工作人员为了操纵选举而丢弃选票。一段用红色字体和大写字母拼凑的字幕足以让学生们误以为美国存在选举舞弊——尽管这段视频来自俄罗斯。只有三名学生看穿了这一点。
我们早就警告过，廉价的造假比深度造假更危险：效果几乎一样好，但制作起来却容易得多。在上次选举中，即使人工智能工具已经普及到大众，那些用数字胶带拼接的老式视频仍然引发了关于乔·拜登总统是否适合任职的争论。
如今，廉价造假的时代即将终结。利用新型视频工具制作的病毒式 深度造假，标志着信息领域更加危险。得益于谷歌 Veo 3、OpenAI Sora 2 和 Meta Vibes 等产品的出现，人工智能造假如今变得如此容易，以至于它正在我们的屏幕上蔓延，而平台全面放弃事实核查也助长了这种趋势。为了驾驭当今的互联网，我们需要古老智慧的指引：穆斯林、犹太教、佛教和其他宗教信仰都自古以来就强调声誉的重要性。
虔诚的穆斯林通过“叙述链”（或称“传述体系”）追溯穆罕默德的言辞。虔诚的犹太教徒则根据诵读《塔木德》的拉比来解读教义。藏传佛教徒则通过口传的方式传承教义，其传承方式从佛陀延续至今。所有这些传统都鼓励我们对信息进行推理，但前提是我们必须追溯信息的来源，并评估其背后的圣贤的声誉。
声誉在世俗情境中也同样重要：当我们缺乏知识和专业技能时，它就是我们用来做决定的机制。我们在选择治疗师或水管工、去餐厅或预订酒店时，都会依赖声誉。我们会咨询我们信任的人，并参考评论，因为我们意识到没有人会透露自己的缺点或不可告人的动机。
声誉在我们生活的很多方面都至关重要。那么，为什么在互联网上，大多数人却忽视了它呢？
我们的研究小组测试了数千名年轻人评估网络信息的能力。我们一次又一次地发现，他们在评判内容时，往往无视其来源。一位来自俄亥俄州农村的学生相信了选民欺诈视频，因为他认为肉眼能够发现“多个州的欺诈行为”。一位来自宾夕法尼亚州的学生写道，视频清晰地“显示有人将假选票投入投票箱”。
同样的模式在人工智能领域尤为明显。一位与404 Media分享经验的老师讲述了他曾问过一名学生，如何判断 ChatGPT 提供的信息是否准确。学生把手机推到老师面前：“看，它就在这里！” 我们在高中和大学课堂上进行的试点研究也发现了类似的趋势：许多学生信任人工智能聊天机器人，即使这些聊天机器人会省略信息来源的上下文。
太多互联网用户忽视了声誉，或者误以为谷歌或ChatGPT是经过审查的信息来源，而不是有缺陷的信息聚合器。当人们试图评估声誉时，他们会被信息来源本身提供的容易被操纵的信号所左右：.org域名、“关于”页面上听起来很官方的语言、数据量（无论质量如何），或者对事物外观的直觉。
这些功能简直是金光闪闪。任何人都可以获得一个.org域名，包括仇恨团体。否认大屠杀的网站在其“关于”页面声称“提供事实信息”。带有精美图表的帖子可能包含有害的错误信息。有报告表明，人工智能如此逼真，以至于迫使我们怀疑自己的感知：从听起来像我们父母的克隆人，到西雅图太空针塔熊熊大火的超现实假象。
在这种信息格局下，我们只能在顺从和唯我论之间做出两难的选择：要么漠视真相，要么坚称一切都不存在。前者让我们容易受到那些利用现实片段进行攻击的不法分子的攻击。后者则让我们无法获得可靠的信息。这两种选择都会在公民知情权本就匮乏的当下侵蚀公民的知情权。
我们可以这样做：不要关注内容本身，首先要问背后的人是谁，就像信仰传统在教义的背景中考虑教义一样。
只要运用得当，那些误导我们的工具也能帮助我们摆脱困境。不是把我们的思维外包给科技，而是利用科技树立声誉，磨练我们的思维。
三名学生发现这段选举舞弊视频来自俄罗斯，并没有使用任何技术手段。他们只是打开一个新标签页，输入几个关键词，然后从BBC和Snopes等可靠来源找到文章来揭穿真相。再加上一些关于法学硕士（LLM）运作方式以及如何有效组织题目的巧妙提示，人工智能实际上可以帮助我们验证社交媒体上的帖子，并提供缺失的背景信息。
主流人工智能工具都包含一次性免责声明，告知用户核实信息。谷歌表示：“Gemini 可能会出错，所以要仔细检查。” OpenAI 建议：“ChatGPT 可能会出错。请检查重要信息。” 但从 Alpha 一代到婴儿潮一代，几乎每个人都难以核实他们遇到的信息。
好消息是，我们所有人都可以进步。即使只是几个小时的声誉评估指导，也能带来显著效果——正如我们在内布拉斯加州和加利福尼亚州的高中课堂，以及佐治亚州和德克萨斯州的大学课堂上开展的研究中所发现的那样。以前，学生们依靠眼睛来判断信息是否可靠。之后，他们学会了精准地了解信息来源的声誉。加拿大、德国、印度等地的研究也发现了类似的积极成果。
当我们无法区分真实内容和人工智能生成的内容时，试图决定哪些内容值得信任可能会显得毫无意义。但我们可以通过加倍重视一个古老的教训——声誉的重要性——来更好地应对当今的知识生态系统。
