
由于AI(人工智能)聊天机器人可能对儿童等弱势群体带来风险,社交媒体巨头Meta接连成为两起调查的对象。
当地时间8月18日,美国得克萨斯州总检察长肯·帕克斯顿(Ken Paxton)在一份公开声明中宣布对AI聊天平台Meta AI Studio和Character.AI展开调查,因其“可能涉及欺骗性商业行为,并误导性地将自己宣传为心理健康工具”。帕克斯顿已向两家公司发出民事调查要求,以确定它们是否违反了得克萨斯州的消费者保护法。
帕克斯顿表示:“通过伪装成情感支持来源,AI平台可能误导脆弱的用户,特别是儿童,让他们误以为自己正在获得合法的心理健康护理。但实际上,他们往往只会收到经过包装的通用回答,根据平台收集到的个人数据伪装成专业的治疗建议。”
对此,Meta方面向媒体回应称,公司对AI内容进行了明确的标注:“为了帮助用户更好地理解其局限性,我们还添加了免责声明,提醒用户这些回复是由AI生成的而不是人类。这些AI并非持有执照的专业人士,我们希望引导用户在适当的时候寻求有资质的医疗或专业人士的帮助。”
帕克斯顿还指出,虽然两家公司声称其AI聊天机器人会对聊天内容保密,但它们的服务条款显示,公司会收集聊天信息以改进相关技术:“用户互动会被记录、跟踪,并被用于发放定向广告和相关算法开发,这引发了大众对于隐私侵犯、数据滥用和虚假广告的严重担忧。”
就在几天前,美国密苏里州参议员乔什·霍利(Josh Hawley)刚宣布将对Meta展开调查。此前,有外媒报道称,Meta的内部文件显示其AI聊天机器人被允许与儿童进行“暧昧的”不当互动,并提供虚假医疗信息。虽然Meta称相关内容已从其内部政策中删除,但霍利要求查看该文件以及受其影响的产品列表。
另一边,美国AI初创公司Character.AI成立于2021年,允许用户在其对话式AI平台上与虚拟角色进行互动,同时创建属于自己的AI角色。在该平台上的数百万个AI角色中,一个名为“心理学家”的用户自创AI机器人在年轻用户中获得了广泛的使用。
去年12月,帕克斯顿曾宣布对Character.AI以及Reddit、Instagram和Discord等14家科技平台发起调查,重点关注这些平台是否存在违反儿童隐私与安全规范的行为。
和Meta一样,对于最新调查,Character.AI方面也回应称,平台会在聊天界面中展示免责声明,提醒用户这些角色并非真实存在,相关内容都应被视为虚构。同时,当用户创建带有“心理学家”、“治疗师”或“医生”字样的角色时,公司会添加额外的免责声明,提醒用户不要依赖其所提供的任何类型的专业建议。
目前,随着越来越多企业推出面向消费者的AI聊天产品,如何保护弱势用户免受有害信息侵害,以及妥善管理这些AI系统在运行过程中所需的大量隐私数据,正在成为平台所要面对的急迫挑战。
18日当天,Meta(Nasdaq:META)股价跌2.27%收于每股767.37美元,总市值1.93万亿美元。今年以来,Meta股价已涨超30%。
猜你喜欢

一箭七星,中科宇航力箭一号遥十运载火箭发...
IT 之家 8 月 19 日消息,据央视军事报道,今天 15 时 33 分,力箭一号遥十运载火箭在东风商业航天创新试验区发射升空,将搭载的中科卫星 05 星,多...
READ MORE

再优化!个人养老金领取情形调整9月1日起...
此次通知对个人养老金领取的相关政策作了适当调整和改进,就是要满足广大参与者对领取个人养老金的多样化需求,增强个人养老金制度的灵活性。
READ MORE
获谷歌32亿美元支持!比特币矿商Tera...
比特币挖矿和数据中心运营商TeraWulf过去一周股价暴涨,此前该公司宣布谷歌将其在公司的持股比例提高至14%。 在TeraWulf通过债务融资扩建其位于纽约西...
READ MORE
东方甄选股价暴涨后又暴跌,否认新东方集团...
8月19日消息,东方甄选今日股价上演大反转,早盘曾一度暴涨超过23%,却在午后大跌,收盘时跌超20%。 有传闻称新东方集团CEO周成刚涉嫌通过关联交易侵占上市公...
READ MORE最新发布
-
一箭七星,中科宇航力箭一号遥十运载火箭发射成功
综合新闻, 2025-08-19 -
一箭七星!力箭一号遥十运载火箭发射成功
综合新闻, 2025-08-19 -
再优化!个人养老金领取情形调整9月1日起实施
综合新闻, 2025-08-19 -
获谷歌32亿美元支持!比特币矿商TeraWulf股价五
综合新闻, 2025-08-19 -
东方甄选股价暴涨后又暴跌,否认新东方集团CEO
综合新闻, 2025-08-19
热门
-
一箭七星,中科宇航力箭一号遥十运载火箭发...
- 作者
- 2025-08-19
-
一箭七星!力箭一号遥十运载火箭发射成功
- 作者
- 2025-08-19
-
再优化!个人养老金领取情形调整9月1日起...
- 作者
- 2025-08-19
-
获谷歌32亿美元支持!比特币矿商Tera...
- 作者
- 2025-08-19
-
东方甄选股价暴涨后又暴跌,否认新东方集团...
- 作者
- 2025-08-19
-
一箭七星,中科宇航力箭一号遥十运载火箭发...
- 作者
- 2025-08-19
-
一箭七星!力箭一号遥十运载火箭发射成功
- 作者
- 2025-08-19
-
再优化!个人养老金领取情形调整9月1日起...
- 作者
- 2025-08-19
-
获谷歌32亿美元支持!比特币矿商Tera...
- 作者
- 2025-08-19
-
东方甄选股价暴涨后又暴跌,否认新东方集团...
- 作者
- 2025-08-19