天气 
2025-07-26
IT之家 7 月 26 日消息，2025 世界 AI 大会今日在上海开幕，图灵奖得主约书亚・本吉奥发表演讲称，前沿模型近期在规划和推理方面取得了显著进展。如果这样的趋势持续，AI 的规划推理能力有望在十年内达到人类的水平。
IT之家从演讲中获悉，如果缺乏坚实的防护措施，强大的 AI 系统可能会放大虚假信息，网络攻击和生物威胁等现有风险。更令人担忧的是，人类恐将失去对自我保护型智能体的控制，这些智能体的认知能力或将“很快超越人类”。
本吉奥认为，科学界仍有相当比例认为这种情况可能发生，就必须保持最高警惕。目前尚无科学验证方法确保 AI 可信且始终遵从人类意图。更糟糕的是，欺骗和自我保护行为在最强模型中似乎更加明显。“随着 AI 的智能水平不断提升，这才是真正令人担忧的地方，因为智能意味着权利。”
本吉奥表示，我们急需在技术和政策层面采取措施，以应对这些风险和其他潜在的问题。理性的政策应鼓励开发不具备危险能力的 AI 开源项目；同时，禁止其他情况下的开发，并对闭源模型实施充分的安全保障措施，包括网络安全和物理安全，确保其不易被犯罪分子、恐怖分子或流氓国家所利用。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
来源于：https://www.ithome.com/0/870/921.htm 如有侵权请联系我们
猜你喜欢
2025-08-08
从广埠屯摊主到全球霸主，一台定制电脑的跨...
2012年刚过，武汉广埠屯的喧嚣骤然褪去。席卷而来的电商浪潮，几乎在一夜之间冲垮这个华中最大的电子集散地，也将无数线下渠道商推向生死边缘。 四楼的一间小仓库里，...
READ MORE
2025-08-08
抖音电商公布直播间盲盒典型违规案例，清退...
8月8日，抖音电商安全与信任中心发文称，严打直播间违规盲盒营销。公告显示，2025年至今，平台已针对盲盒相关违规行为进行系统治理，累计断播违规直播间4000余场...
READ MORE
2025-08-08
抖音电商公布直播间盲盒典型违规案例，清退...
作为一种新兴消费模式，直播间售卖盲盒丰富了多元的消费体验，深受年轻消费者喜爱。但也出现了少量借盲盒销售名义违规营销乱象，如销售自制包装、自行拼装、二次分装的盲盒...
READ MORE
2025-08-08
在线人数33w！EA战地6延迟高、报错、...
《战地6》是一款震撼人心的现代战争FPS大作，玩家可体验逼真物理引擎与战术配合以及128人同场竞技带来极致沉浸感。最近它的测试版已经上...
READ MORE最新发布
-
从广埠屯摊主到全球霸主，一台定制电脑的跨境奇
综合新闻, 2025-08-08 -
抖音电商公布直播间盲盒典型违规案例，清退千余
综合新闻, 2025-08-08 -
抖音电商公布直播间盲盒典型违规案例，清退千余
综合新闻, 2025-08-08 -
甘肃兰州市榆中县山洪灾害已造成10人死亡、33人失联
综合新闻, 2025-08-08 -
在线人数33w！EA战地6延迟高、报错、闪退、卡顿的问题如何...
综合新闻, 2025-08-08
