AI生成内容逼真不能乱真

发布时间：2025-09-03 10:12:53  浏览量：1

□ 古孟冬

小猫小狗伴随音乐跳起肚皮舞，刚学会走路的婴儿亲切喊着奶奶……以往看到这些动辄点赞、转发破10万的热门视频时，不少人会想，这么“神奇”的画面到底是真是假？对于这个问题，如今已有了确切的答案。9月1日，国家网信办等四部门联合印发的《人工智能生成合成内容标识办法》（以下简称《办法》）正式实施，明确所有AI生成的文字、图片、视频等内容都要进行标示、“亮明身份”。

在互联网刚刚兴起的年代，曾有一句网络流行语叫“有图有真相”，被当时不少网民视为判断事实的黄金法则。然而，随着近年来人工智能特别是生成式AI技术突飞猛进，各类大模型如雨后春笋般涌现，其以假乱真的内容生成能力，在颠覆“眼见为实”常识的同时，也带来了虚假营销、网络诈骗乃至恶意造谣等一系列问题。

在社交平台上，我们有时看到某地发生地震、山洪的视频，发酵几天后才得知是不法分子为博人眼球而制作的网络谣言；也有时会发现某资深院士或某奥运冠军在网上推销产品，但最终结果竟是无良商家借助名人效应骗取粉丝钱财……从这些案例来看，AI技术滥用的危害，不仅在于散播谣言、扰乱社会秩序，也在于助长诈骗、侵犯用户的合法权益，更在于“眼见不一定为实”，让真实变得更加稀缺，稀释了社会上难能可贵的信任感。

信息的真假问题已经成为信息传播的一大阻碍、互联网的一颗毒瘤，我们必须要对其进行治理，让AI生成内容回归它本来的面目。在此背景下，《办法》应运而生，其聚焦人工智能“生成合成内容标识”关键点，重点解决“哪些是生成的”“谁生成的”“从哪里生成的”等问题，推动由生成到传播各环节的全流程安全管理，力争打造可信赖的人工智能技术。

依照《办法》要求，服务提供者应当对生成合成内容添加显式标识，应当在生成合成内容的文件元数据中添加隐式标识，未按要求进行标识的，将被视为违规行为。《办法》规定，平台在服务提供者的内容上架或上线时要进行审核，核验生成合成内容标识，对未标识或疑似生成内容要添加风险提示。由此可以看出，《办法》从作者和平台两个方面发力，对AI合成内容“验明正身”，扼住了虚假信息来源和传播的咽喉，从而有效地阻断虚假信息的扩散。更重要的是，不管是显式标识还是隐式标识，都相当于AI生成内容的一种“身份证”，一旦出现利用AI内容进行造谣、诈骗等行为，有关部门就可以通过标识来溯源，界定法律责任，从而有效震慑恶意滥用行为。

当然，“徒法不足以自行”。《办法》的实施只是一个开始，在接下来实施过程中，肯定会面临一系列挑战，但只要有关部门强化监管执法力度、开发者坚守伦理底线、平台压实审核责任、网民积极参与监督，各方齐心协力、守好各自“责任田”，就一定能还网络空间以清朗、促AI发展之健康。