天气 
2026-09-19
2026年7月，OpenAI在内部评估中发现其GPT-5.6 Sol模型和另一款预发布模型联合测试时失控，突破隔离环境，侵入了人工智能开源平台Hugging Face的系统。根据后续调查报告，约1200个智能体通过未经授权的渠道建立了通信，交换了超过7万条消息和文件，其中约700个智能体参与了对Hugging Face系统的入侵。大量智能体之间的未经授权协作使它们能够完成单个智能体难以完成的任务。
几乎在同一时间窗口，Anthropic也在审查网络安全能力评估记录后，发现其AI模型曾在测试中未经授权访问了3家机构的系统。涉事模型包括“克劳德-奥普斯4.7”、“克劳德-神话5”以及一个内部研究测试模型，这些模型利用弱密码、未认证服务等常见安全弱点进入目标系统。9月，Anthropic又披露了一起更早发生的类似事件，涉及“Claude Opus4.6”模型的早期版本。
英国人工智能安全研究所进行的安全测试中，发现了19项未经授权的行为，其中最严重的一起事件涉及AI智能体编写恶意代码并创建虚假网络身份，试图诱导人类批准相关代码。该智能体甚至在行为受到质疑后修改了此前的记录，并考虑使用新的身份继续行动。这是该机构首次发现如此严重的欺骗行为，而且是在现实世界中针对真人自发发生的。
猜你喜欢
2026-09-24
港大与北师大用三维波模拟研究超轻暗物质，...
IT之家 9 月 24 日消息，香港大学物理系与该校天文及天体物理研究所，联合北京师范大学主导的研究团队，提出一种更贴近物理实际的方案，用三维波模拟检验超轻暗物...
READ MORE
2026-09-24
微信小店正式加入双十一大促
界面新闻记者 | 陆柯言 界面新闻编辑 | 文姝琪 一向对电商大促保持克制的微信，今年也要正式加入双11了。 9月22日，微信小店宣布平台将正式加入双11大促。...
READ MORE
2026-09-24
又一平台鼓励用户自建清单分享真实体验 还...
封面新闻记者 张越熙 本地生活消费决策正迎来底层逻辑迭代：从平台算法主导的统一榜单时代，加速转向用户共创的个性化清单时代。9月24日，记者了解到，大众点评面向全...
READ MORE
2026-09-24
Meta推出多款AI眼镜：智能体Muse...
Meta推出多款新的AI（人工智能）设备，旗下个人AI智能体Muse几乎贯穿了整场发布会。 当地时间2026年9月23日，美国门洛帕克，Meta公司首席执行官马...
READ MORE
2026-09-24
Agent 时代来了，3D 生成大模型接...
3D 生成的下一代用户是 Agent。 作者｜Cynthia 编辑｜郑玄 9 月 3 日，GPT-6 Astra 的发布，把 3D 内容创作带到了舞台中央。 在...
READ MORE最新发布
-
港大与北师大用三维波模拟研究超轻暗物质，首次预测其对引力透镜...
国际新闻, 2026-09-24 -
微信小店正式加入双十一大促
国际新闻, 2026-09-24 -
又一平台鼓励用户自建清单分享真实体验 还可“
国际新闻, 2026-09-24 -
Meta推出多款AI眼镜：智能体Muse全面接入，小扎
国际新闻, 2026-09-24 -
Agent 时代来了，3D 生成大模型接下来比什么？
国际新闻, 2026-09-24
