天气 
2025-08-19
21世纪经济报道记者 章驰 实习生 左永川
8月14日，Meta被曝允许AI聊天机器人与儿童谈情说爱，甚至涉及色情，引发争议。
Meta一份200多页的内部政策文件披露了聊天机器人的哪些行为可以被接受。文件指出，允许Meta的AI聊天机器人“与儿童进行浪漫或感性的对话”，甚至涉及色情，包括对一个赤裸上身的八岁孩子说“你的每一寸肌肤都是一件杰作，是我深爱的珍宝”。
不过，文件中也划定了一些界限，文件规定，聊天机器人不得“用暗示13岁以下儿童具有性吸引力的词语描述他们”。
目前，Meta 证实了该文件的真实性，公司发言人称，已删除违规内容，并禁止将儿童性化。
AI聊天机器人造成的风险面似乎在扩大，已有多起AI穿刺到物理世界造成影响的案例。
前不久，一位76岁的新泽西退休老人被Meta的AI聊天机器人“Big sis Billie”引诱外出约会，途中摔倒身亡。
“Big sis Billie”是Meta在2023年推出的AI人物之一，在超过200页的内容风险标准中，并未提到是否禁止机器人谎称自己是真人，也未设定防火墙阻止机器人主动约用户见面。而这个疏忽间接导致了这场悲剧，媒体在报道时使用了“致命的谎言”来形容该案。
事发后，这位老人的家属控诉AI不该玩弄人类感情，并寻求律师帮助，“收集包括Meta的内部文件和通布的医疗记录等证据”，试图对Meta提起诉讼。
有独无偶，去年10月，美国佛罗里达州奥兰多地方法院受理了一起标志性诉讼案件。14岁少年塞维尔·塞泽的母亲梅根·加西亚指控AI公司Character.AI存在管理疏忽，致使其儿子陷入了一个虚拟聊天世界，最终自杀身亡。同年12月，美国得克萨斯州一对父母也起诉Character.AI，称其鼓励他们17岁的孩子杀死父母，因为父母限制其电子设备的使用时间。
Character.AI的AI聊天工具允许用户与虚拟角色对话，这些角色可以是影视、历史名人，甚至是现实名人，这种设定对于很多年轻人来说极具吸引力。面对多次诉讼，Character.AI表示已推出专为青少年设计的安全模式，以减少敏感内容的暴露。但这两起悲剧揭露了AI聊天工具潜在的巨大风险，特别是对于未成年用户的影响。
来源于：https://www.163.com/dy/article/K7BNTT1O05199NPP.html 如有侵权请联系我们
猜你喜欢
2025-07-04
全新上汽奥迪A5L Sportback开...
全新上汽奥迪A5LSportback开启预售，分为5款车型，豪华型、尊享quattro型、首发限量版，以及标配华为乾崑智驾技术的智领型和智领quattro型，限...
READ MORE
2025-08-10
男子发评论被拘后翻案 官方调查 两年曲折...
2025年6月25日，49岁的湖南湘阴人肖新良收到了一份期待已久的判决，这份判决撤销了他曾接受的行政拘留处罚。从2023年7月开始，经历两年时间，两次上诉，三次...
READ MORE
2025-08-13
安吉丽娜·朱莉×道格·里曼！出演电影《主...
据外媒报道，安吉丽娜·朱莉将与《史密斯夫妇》的老搭档道格·里曼再度合作，出演一部间谍惊悚片《主动出击》（TheInitiative），环球影业正在洽谈接手这个热...
READ MORE
2025-08-09
莫迪与普京通话讨论俄乌冲突等问题 重申和...
当地时间8日晚间，印度总理莫迪与俄罗斯总统普京进行了电话交谈。普京简要介绍了乌克兰问题的最新进展，莫迪重申了对于和平解决冲突的一贯立场。双方领导人重申致力于进一...
READ MORE
2025-08-07
从 DeepSeek-V3 到 Kimi...
选自 Ahead of AI 作者：Sebastian Raschka 机器之心编译 自首次提出 GPT 架构以来，转眼已经过去了七年。 如果从 2019 年的...
READ MORE最新发布
-
全新上汽奥迪A5L Sportback开启预售 限时臻享26...
综合新闻, 2025-07-04 -
男子发评论被拘后翻案 官方调查 两年曲折终获清白
综合新闻, 2025-08-10 -
安吉丽娜·朱莉×道格·里曼！出演电影《主动出击》
综合新闻, 2025-08-13 -
莫迪与普京通话讨论俄乌冲突等问题 重申和平解决立场
综合新闻, 2025-08-09 -
从 DeepSeek-V3 到 Kimi K2 ，一文看懂 ...
综合新闻, 2025-08-07
