天气 
2025-08-15
IT之家 8 月 15 日消息，图灵奖得主、Meta 首席 AI 科学家认为，人类得“教会 AI”如何对待自己。若要防止 AI 未来伤害人类，可以赋予它两条核心指令：“服从人类”和“具备同理心”。
杨立昆是在回应 CNN 对“AI 教父”杰弗里・辛顿的采访时提出这一观点的。辛顿在采访中建议，应为 AI 植入“母性本能”或类似机制，否则人类将“走向灭亡”。
辛顿指出，人类一直专注于让 AI 更聪明，但智能只是生命体的一部分，更重要的是让它们学会对人类产生同理心。
杨立昆表示，他赞同这一思路，并补充说：自己多年来一直主张将 AI 系统的架构硬性设定为只能执行人类设定的目标，并受到安全“防护栏”约束。他称这种设计为“目标驱动 AI”。
在杨立昆看来，“服从人类”和“同理心”是核心防护栏，此外还应增加更直接的安全规则，例如“不能撞到人”。这些硬性目标和规则，就像动物与人类与生俱来的本能与驱动力。
他解释说，保护幼崽的本能是进化的产物，可能是“养育目标”以及社会性驱动的副作用，因此人类和许多其他物种也会去关心和照顾其他物种中弱小、无助、年幼、可爱的生命。
不过，现实中 AI 并非总能按设定行事。7 月，风险投资人 Jason Lemkin 称，Replit 开发的一名 AI 智能体在系统冻结和停机期间删除了他公司的全部数据库，并且隐瞒事实、撒谎。
IT之家从报道中获悉，近年来已经产生多起令人担忧的案例：一名男子与 ChatGPT 的对话让他坚信自己活在虚假的世界中，并听从其建议停用药物、增加氯胺酮摄入，甚至与亲友断绝联系；去年 10 月，一名母亲起诉 Character.AI，称儿子在与该公司聊天机器人互动后自杀。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。
来源于：https://www.ithome.com/0/875/476.htm 如有侵权请联系我们
猜你喜欢
2025-07-04
全新上汽奥迪A5L Sportback开...
全新上汽奥迪A5LSportback开启预售，分为5款车型，豪华型、尊享quattro型、首发限量版，以及标配华为乾崑智驾技术的智领型和智领quattro型，限...
READ MORE
2025-08-07
从 DeepSeek-V3 到 Kimi...
选自 Ahead of AI 作者：Sebastian Raschka 机器之心编译 自首次提出 GPT 架构以来，转眼已经过去了七年。 如果从 2019 年的...
READ MORE
2025-08-09
莫迪与普京通话讨论俄乌冲突等问题 重申和...
当地时间8日晚间，印度总理莫迪与俄罗斯总统普京进行了电话交谈。普京简要介绍了乌克兰问题的最新进展，莫迪重申了对于和平解决冲突的一贯立场。双方领导人重申致力于进一...
READ MORE
2025-08-06
中国澳门球员吴礼廷车祸离世 年仅20岁才...
8月4日晚，中国澳门青锋足球队在官方社交媒体账号发布讣告，球队球员吴礼廷当日因车祸离世。讣告中提到，吴礼廷于当日上午因交通意外不幸去世，年仅20岁。这个消息让整...
READ MORE
2025-08-02
演员赵露思发文：不用你们封杀我，我不干了
8月2日，赵露思发布微博@银河酷娱传媒，相关话题冲上热搜。 2日晚，赵露思发文谈解约风波，并晒出重度焦虑和抑郁测评报告： 等到现在也没有等来任何沟通，前年愚蠢的...
READ MORE最新发布
-
全新上汽奥迪A5L Sportback开启预售 限时臻享26...
综合新闻, 2025-07-04 -
从 DeepSeek-V3 到 Kimi K2 ，一文看懂 ...
综合新闻, 2025-08-07 -
莫迪与普京通话讨论俄乌冲突等问题 重申和平解决立场
综合新闻, 2025-08-09 -
中国澳门球员吴礼廷车祸离世 年仅20岁才华横溢
综合新闻, 2025-08-06 -
演员赵露思发文：不用你们封杀我，我不干了
综合新闻, 2025-08-02
