blog
2026-05-01

人民日报:不能让AI生成内容误导公众 强制标识保障知情权

近日,因未有效落实人工智能生成合成内容标识规定要求等问题,“剪映”“猫箱”App及“即梦AI”网站被网信部门采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。对违规企业进行公开点名执法处罚,是监管部门针对“AI无标识”顽疾的一次重要行动,也向全社会传递了强烈信号——AI生成合成内容必须添加标识,这是法律底线。

AI生成合成内容为何必须“亮明身份”?强制性的AI标识是保障公众知情权,维护社会公众利益的务实举措。近年来,以生成式人工智能为代表的AI技术快速发展,功能日益强大,使用门槛持续降低。从生成文案到制作海报,从模拟真人声音到一键生成视频,AI技术加速渗透进内容创造领域。足够以假乱真的AI内容如果缺乏清晰标识,极易误导公众认知,甚至为诈骗等违法犯罪行为提供便利。例如,AI生成的“虚拟专家”散布养生谣言,误导众多中老年人;一些营销号批量生成虚假的感人故事、猎奇事件甚至灾难现场等,博取眼球、收割流量。种种乱象警示我们,AI内容生产缺乏必要规范,就可能成为脱缰野马。

强制性的AI标识也是维护清朗网络空间,夯实真实性基石的必然要求。从记录现实到生成现实,“眼见为实”的传统遇到挑战。AI生成合成内容如果不能有效辨识,可能会挤占优质内容空间,增加公众获取真实信息的成本。夹带谣言、误导性信息与违规内容,在算法助推下快速扩散,还将扰乱网络生态,污染公共信息环境,透支用户对网络内容的基本信任。给AI内容“打水印”,看似“技术活”的背后,连接着维护信息环境“真实性”基础,凝聚社会共识、推进公共讨论等“大课题”。

我国出台了一系列法律规定,让人工智能技术的应用和发展在法治轨道上运行。去年9月1日起施行的《人工智能生成合成内容标识办法》,聚焦人工智能“生成合成内容标识”关键点,通过标识提醒用户辨别虚假信息,明确相关服务主体的标识责任义务,规范内容操作、传播各环节标识行为。此次监管行动反映出AI标识管理从政策倡导和原则宣示,加速走向严格落地实操阶段。面对法律底线红线,行业相关方必须提升认识、提高对规则的了解,任何妄图借“去标识化”规避监管、蒙混过关的行为,都终将在日趋完善的监管体系下“原形毕露”。

来源于:https://news.china.com/socialgd/10000169/20260501/49466506.html    如有侵权请联系我们