天气 
2025-07-26
IT之家 7 月 26 日消息，据澎湃新闻报道，7 月 25 日，杰弗里・辛顿、姚期智、约书亚・本吉奥、斯图尔特、罗素等 20 余名行业专家、学者共同签署的 AI 安全国际对话上海共识（IT之家注：下文简称“上海共识”）正式对外公开。
“上海共识”指出，当前人类正处于一个关键转折点：AI 系统正迅速接近并可能超越人类智能水平。这些未来的系统可能在操作者毫不知情的情况下，执行并非操作者所期望或预测的行动。这可能导致失控，即一个或多个通用 AI 系统脱离任何人的控制，从而带来灾难性甚至是生存层面的风险。
当前，对于能够在更高级的通用 AI 超越人类智能水平后，仍可靠地确保其对齐，并保持人类的有效控制尚无可行方法。
为防范与纠正此类行为的技术路径与治理机制，“上海共识”提出应对策略，并呼吁采取三项关键行动：要求前沿 AI 开发者提供安全保障、通过加强国际协调，共同确立并恪守可验证的全球性行为红线、投资基于设计的安全 AI 研究。
“上海共识”还呼吁国际社会需要合作划出 AI 开发不可逾越的“红线”，应聚焦于 AI 系统的行为表现，需同时考量系统执行特定行为的能力及其采取该行为的倾向性。为落实这些红线，各国应建立一个具备技术能力、具有国际包容性的协调机构，汇聚各国 AI 安全主管机构，以共享风险相关信息，并推动评估规程与验证方法的标准化。
另据新浪科技，在今天开幕的 2025 世界 AI 大会上，图灵奖得主、中国科学院院士、上海期智研究院院长姚期智表示，“AI 快速发展但是只掌握在少数国家、少数公司手中，如何才能确保 AI 发展中不会出现我们担忧的数字鸿沟问题，这是个很值得讨论的问题。”
相关阅读：
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
来源于：https://www.ithome.com/0/870/947.htm 如有侵权请联系我们
猜你喜欢
2025-07-04
全新上汽奥迪A5L Sportback开...
全新上汽奥迪A5LSportback开启预售，分为5款车型，豪华型、尊享quattro型、首发限量版，以及标配华为乾崑智驾技术的智领型和智领quattro型，限...
READ MORE
2025-07-01
香港回归祖国28周年 同心携手创辉煌
6月30日，香港体育馆举办了庆祝香港回归祖国28周年的活动启动仪式。此次活动主题为“同心携手创辉煌 由治及兴谱新篇”。 香港特区行政长官李家超在启动礼上致辞表示...
READ MORE
2025-06-27
DOTA2青训计划开启，迎接赛事黄金时代
在CNDOTA2电竞生态即将迎来变革的2025年，XG老板杨一清正在以破釜沉舟的姿态重塑人才培养体系，于6月26日与亚运冠军教练张志成...
READ MORE
2025-06-27
《神奇4侠》曝终极预告 神奇先生×隐形女...
6月26日，MCU漫威电影宇宙第六阶段开篇作《神奇4侠：初露锋芒》（TheFantasticFour:FirstSteps）发布终极预告及海报，由马特·沙克曼执...
READ MORE
2025-07-04
无主之地4真会玩！成都郑州北京彩蛋接连整...
众所周知,无主之地系列一直是国内玩家的忠实“舔狗”,三代在2019年就上了全中文配音,国区定价全球最低,四代也是同款套餐跟上!
READ MORE最新发布
-
全新上汽奥迪A5L Sportback开启预售 限时臻享26...
综合新闻, 2025-07-04 -
香港回归祖国28周年 同心携手创辉煌
综合新闻, 2025-07-01 -
DOTA2青训计划开启，迎接赛事黄金时代
综合新闻, 2025-06-27 -
《神奇4侠》曝终极预告 神奇先生×隐形女宝宝亮相
综合新闻, 2025-06-27 -
无主之地4真会玩！成都郑州北京彩蛋接连整活，上海BW终极一“...
综合新闻, 2025-07-04
