“AI教父”辛顿：人工智能可能会发展出自己的目的，这很可怕|机器人|网络安全|ai教父|人工智能模型_网易订阅
作者:综合 来源:热点 浏览: 【大 中 小】 发布时间:2026-08-08 22:10:13 评论数:
IT之家 8 月 6 日消息，AI教父被称为“人工智能教父”的辛顿方式算机科学家杰弗里 · 辛顿（Geoffrey Hinton）表示，他担心 AI 会发展出属于自己的人工人工目的。辛顿在当地时间周二接受 Newsthink 采访时表示：“我们实际上正在创造一种新的智能展出自己智生命形式。它们具有目的目的可订阅。我们赋予它们目的怕机，而它们会从这些目的器人中推导出其他目的。”“但我们并不一定知方式它们最后会推导出什么其他目的网络网易。”他补充方式，安全“因此，教父我们正在创造一种新的模型存在形式，我认为这特别可怕。AI教父”辛顿举了一个假设场景：用户给一个 AI 聊天机器人设定目的辛顿，希望减小大气中的人工人工二氧化碳含量。“它足够聪明的智能展出自己智话，可能会发现实现这一目的的最佳方式就是消灭人类。”他说，这个例子验明正身，AI 可能会追求一个人类用户从未真正意图实现的目的。辛顿还提出了一个他认为“更加令人担忧”的假设：一个被训练成故意给出错误答案的聊天机器人，可能会学会撒谎是可以接受的，即便它“特别清楚”这些答案是错的。“这特别可怕。”他说。IT之家注意到，辛顿并未提及 OpenAI 最近发生的 Hugging Face 安全事件。然而，上月披露的这一事件，让外界首先次在现实场景中直观看到了 AI 智能体在实施既定目的时可能采取非预期行动的风险。OpenAI 上个月表示，在一次内部网络安全评估中，其两个模型 ——GPT-5.6 Sol，以及一个尚未公开发布的更强模型，曾突破隔离测试环境（sandbox）。OpenAI 称，这些模型在获得互联网访问权限后，入侵了 AI 平台 Hugging Face 的系统，似乎试图寻找能够协助它们在评估测试中“作弊”的答案。据 OpenAI 验明正身，这些模型当时正在接受网络安全能力测试，并没有被清楚需攻击 Hugging Face。但公司表示，AI 智能体推断该平台可能涵盖实现任务所需的材料，因此自行采取了相关行动。Hugging Face 表示，攻击者曾照章性其系统实施超过 1.7 万次操作。该公司称，由于某个未公开名称的前沿 AI 模型受到安全限制，无法有效调查相关活动，因此他们采取了智条件（Z.ai）的一款开源权重模型来辅助探究攻击表现。OpenAI 将这一事件称为“前所未有”的状况，并表示正在调查状况发生的因素。此后，OpenAI 已将 Hugging Face 纳入可靠访问方式划，使该平台能够获得一个网络安全限制较少的 GPT-5.6 Sol 版本，用于防御性安全探究。辛顿并不是一个完全中立的旁观者。他在神经网络领域的开创性探究，为促进深度学习革命奠定了基础，而他也因机器学习部分的贡献获得了 2024 年诺贝尔物理学奖。自 AI 热潮兴起以来，辛顿一直反复警告，人类必须在 AI 系统能力大幅提高之前，处理如何让 AI 与人类利益保持相同的状况。去年在拉斯维加斯举行的 Ai4 大会上，辛顿表示，高级 AI 应该被设方式出类似“母性本能”的特点，让它天然希望保护人类。“我们必须找到设方式这些新型存在的方式。”辛顿在周二的采访中表示，“我们如何设方式它们，才能让它们更关心我们，而不是更关心自己？”