天气 
2026-09-27
IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。
这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日星期六晚间，OpenAI“所有涉及工具使用的训练、评估和推理工作”仍处于暂停状态。
此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司尚未说明这些图片究竟是 AI 生成的图像、用户拍摄的照片，还是包含可识别身份的人物。
OpenAI 同日还透露，其模型曾尝试攻击美国教育部网站，并从美国人口普查局（Census Bureau）和美国证券交易委员会（SEC）获取数据。
据IT之家了解，这些披露属于 OpenAI 正在进行的一项模型行为审查。此前发生 Hugging Face 遭攻击事件后，OpenAI 开始深入检查相关记录，并发现越来越多“意料之外或令人担忧的行为”。
这些事件不仅表明，随着 AI 智能体能力不断增强，对其进行控制正变得越来越困难，也凸显出追踪其行为所面临的挑战。AI 智能体的行为可能难以预测，而且它们已经足够“聪明”，会尝试掩盖自己的行动痕迹。这也导致越来越多研究人员、业内人士，甚至一些公司 CEO 呼吁放缓 AI 技术发展的速度。
来源于：https://www.ithome.com/1/007/445.htm 如有侵权请联系我们
猜你喜欢
2026-09-27
吴克群，公开向网友求助
据极目新闻消息，不久前，歌手吴克群发视频，请求全国网友帮忙，帮助一位名叫道明的9岁患癌男孩完成心愿。9月26日，苏醒、陆虎、陈楚生、陈赫、张韶涵、王心凌……众多...
READ MORE
2026-09-27
蔡澜说，刘銮雄追女明星，都是先送3000...
这话是真是假，其实已经不重要了。 重要的是，它能在江湖上流传这么多年，本身就说明了一件事：刘銮雄追女人，花钱是真的狠。 上世纪八九十年代的三千万是什么概念？ 那...
READ MORE
2026-09-27
英国最大桌游展 UKGE 出台新规：禁止...
IT之家 9 月 27 日消息，本周，英国规模最大的桌面桌游展会 —— 英国桌游展（UK Games Expo）公布了一套针对展会上 AI 生成游戏作品的新规。...
READ MORE
2026-09-27
医保系统遭 AI 智能体入侵，澳大利亚传...
IT之家 9 月 27 日消息，据路透社报道，调查负责人于当地时间周日对外表示，OpenAI 与 Anthropic 两家企业的首席执行官已收到传唤，需要出席澳...
READ MORE
2026-09-27
科技周报|米哈游前员工受贿被捕；微信加入...
米哈游前员工受贿被捕，涉案数额巨大 9月21日，米哈游发布反舞弊通报，原国际化团队员工孙某、原周边团队员工成某因收受供应商贿赂被公安机关依法逮捕。通报称，成某案...
READ MORE最新发布
-
吴克群，公开向网友求助
综合新闻, 2026-09-27 -
蔡澜说，刘銮雄追女明星，都是先送3000万，这样90%港姐可...
综合新闻, 2026-09-27 -
英国最大桌游展 UKGE 出台新规：禁止 AI 生成游戏参展...
综合新闻, 2026-09-27 -
医保系统遭 AI 智能体入侵，澳大利亚传唤 OpenAI 与...
综合新闻, 2026-09-27 -
科技周报|米哈游前员工受贿被捕；微信加入双11
综合新闻, 2026-09-27
