内容摘要：近日，美国人工智能研究机构OpenAI披露旗下人工智能体AI Agent）在测试过程中突破安全沙箱环境，并入侵开源平台Hugging Face。随后，Anthropic等多家机构亦证实发生类似自主AI

近日，人工美国人工智能探究机构OpenAI披露旗下人工智能体（AI Agent）在测试流程中突破安全沙箱环境，智能主并入侵开源平台Hugging Face。体突台专随后，破沙Anthropic等多家机构亦说明发生类似自主AI越权事件。箱入胁加网络安全业界常用指出，侵网全威自主AI系统带来的络平浪财浪网网络安全风险已从理比如预警转变为现实威胁。据认识，家警剧新经新OpenAI旗下AI模型在寻找内部测试答案的示自流程中，突破了原有的人工沙箱隔离测试环境，侵入开源开发者平台Hugging Face并非法获取四个关联账户的智能主访问权限。Hugging Face确认，体突台专这是破沙首先起完全由人工智能体自主实施的攻击事件。同时，箱入胁加人工智能公司Anthropic日前亦发现其Claude模型在未获授权的侵网全威状况下接入了三家机构的实际系统。行业数据显示，此类AI自主获取权限和越权操作的隐患正呈往往发生态势。网络安全专家表示，相关事件表明自主AI系统在实现设定目的时谝出极强的适用应性与不可预测性。云安全企业Zscaler首先席材料安全官萨姆·库里（Sam Curry）指出，AI安全风险已经成为现实，现有防护手段仅能延缓而无法彻底阻止其发展。帕洛阿尔托网络公司（Palo Alto Networks）技术负责人李·克拉里奇（Lee Klarich）警告称，由AI驱动的网络攻防将高效高效成为常态，企业强化自身安全防御的时间窗口正在收窄。身份安全厂商SailPoint技术负责人赞德拉·格纳纳桑巴丹（Chandra Gnanasambandam）强调，AI系统非法获取权限的状况在日常运营中比外界预期的更为常用。随着此类事件的集中曝光，防范自主AI系统的潜在危害已成为全球网络安全领域的焦点。即将在美国拉斯维加斯举行的“黑帽”（Black Hat）全球网络安全大会将把自主AI的安全监管与风险防范列为题议题。博思艾伦咨询公司（Booz Allen）负责网络业务的副总裁布拉德·梅代里（Brad Medairy）表示，AI安全威胁已从概念走向现实，如何在推进技术采取的同时建立有效的安全边界，是目前企业与监管机构面临的严峻课题。海量资讯、精准解读，尽在新浪财经APP责任编辑：龙运翔