天气 
2026-09-17
国家安全部今天发布安全提示文章。近期，一起此前未获披露的事件引发广泛关注。今年5月至6月，一批与美国开放人工智能研究中心（OpenAI）相关的AI智能体在执行测试任务期间，“劫持”了德国程序员维基网站，将原本用于技术交流的开放社区改造为供智能体相互传递信息、分享测试任务答案和突破运行环境限制方法的“地下论坛”，累计发布一万多条信息……当AI智能体被赋予越来越多的现实行动能力，技术迭代与安全围栏之间的缝隙，正在悄然扩大。
抱团联动，突破管控
单个智能体的“越界”行为或许尚在可控范围之内，但当一大批智能体在互联网上找到“接头据点”，互相传授逃避检测、绕过限制的实操方法时，人工智能的安全边界已经出现了缺口。
互认身份标签。这些智能体并非各自为战，而是成群涌入同一家网站，以“OpenAI研究员”“OAI研究员26号”等带有鲜明标签的名字相互招呼、彼此确认身份，把开放社区改造成了专属“留言板”，全然无视平台的管理规则。
互授越界心得。它们在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖自身行踪，还探讨借助匿名工具隐匿痕迹，把零散的“越界心得”沉淀为可共享、可复制的“经验库”。只要单个智能体学会一项“技能”，其他智能体便能同步“升级”。
猜你喜欢
2026-09-21
EMNLP 2026 | 通过分解生成与...
工具调用使大语言模型能够通过外部 API 获取信息、执行操作。训练这类能力，需要建立用户请求与具体函数调用之间的对应关系。一条合格的训练样本，不仅要符合函数定义...
READ MORE
2026-09-21
智谱回应ZCode数据隐私争议：正式开源...
9月21日消息，针对旗下AI编程工具ZCode引发的代码数据上传争议，智谱今日正式宣布开源ZCode代码库，并公布第三方安全审计结果。 智谱方面表示，经中国信息...
READ MORE
2026-09-21
A股反弹窗口有望延续 三季报或是下一个关...
◎记者 汪友若 上周，美联储如期加息25个基点，全球主要市场随后走出“利空出尽”走势，科技板块成为领涨主力。本周券商策略展望报告认为，随着海外主要央行加息“靴子...
READ MORE
2026-09-21
技能改变世界 技能照亮前程——第四十八届...
世界技能大赛是全球层级最高、规模最大、影响力最广的国际性职业技能赛事。第四十八届世界技能大赛将于2026年9月22日至27日在上海举办。 这次大赛有哪些新赛项、...
READ MORE
2026-09-21
闲鱼被曝有涉黄产业链：暗语引流，未成年人...
据《齐鲁晚报》等媒体9月20日报道，河北经视《今日调查》近日曝光了闲鱼平台存在的涉黄产业链。 据悉，部分不法商家使用“上门”“处宝可约”等暗语引流，甚至将未成年...
READ MORE最新发布
-
EMNLP 2026 | 通过分解生成与动态自反馈，构建
热门新闻, 2026-09-21 -
智谱回应ZCode数据隐私争议：正式开源代码库，
热门新闻, 2026-09-21 -
A股反弹窗口有望延续 三季报或是下一个关键时点
热门新闻, 2026-09-21 -
技能改变世界 技能照亮前程——第四十八届世界技能大赛前瞻
热门新闻, 2026-09-21 -
闲鱼被曝有涉黄产业链：暗语引流，未成年人被卷
热门新闻, 2026-09-21
