blog
2025-08-17

警惕AI数据污染引发现实风险 信息真伪难辨

随着AI技术和应用的蓬勃发展,各类AI工具已经成为我们日常工作和生活的助手,我们的生活与人工智能的关系越来越密切。然而,近年来不少网民发现,部分人工智能的回答开始变得不靠谱。

警惕AI数据污染引发现实风险

今年上半年,宁波发生了两件事,被人工智能荒唐地联系在一起。2月6日,宁波警方注销了“宁波交警”抖音号。三个月后的5月2日,在浙江宁波余姚境内的省道嘉余线上,一辆未悬挂车牌的轿车在违法超车过程中撞倒一辆摩托车。小车驾驶人并未第一时间检查伤者受伤情况,而是从后备厢里拿出车牌进行安装。当网民询问AI软件2月6日宁波交警抖音号为何注销时,人工智能给出的答案竟然是“主要与5月2日的这起交通事故引发广泛关注有关”的结论。这个回答引起了网民广泛关注,宁波交警随后进行了紧急辟谣。

警惕AI数据污染引发现实风险 信息真伪难辨

去年有网民询问一款儿童手表AI软件,“中国人是世界上最聪明的人吗?”人工智能给出的回答是否定中国发明创造、否定中国文化的答案。这一荒唐的回答在网络上引起轩然大波。儿童手表的厂家随后紧急道歉,称已经修正了相关数据,删除了不良信息源。

警惕AI数据污染引发现实风险 信息真伪难辨

近年来,AI杜撰的信息更是数不胜数,包括不存在的论文及其作者、网址等。AI甚至成了谣言类信息的帮凶,游船侧翻、幼儿园大火等谣言都可以通过AI编造出来。

来源于:https://news.china.com/socialgd/10000169/20250817/48727413.html    如有侵权请联系我们