试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光 - IT之家 首页 IT圈 最会买 设置 日夜间 随系统 浅色 深色 主题色 黑色 投稿 订阅 RSS订阅 收藏IT之家 软媒应用 App客户端 要知App 软媒魔方 业界 手机 电脑 测评 视频 AI 苹果 iPhone 鸿蒙 软件 智车 数码 学院 游戏 直播 5G 微软 Win10 Win11 专题 搜索 首页 > IT资讯 > 业界 试图闯入政府或学校网站，OpenAI 智能体四次“失控”细节曝光 2026/9/25 15:02:05 来源： IT之家 作者： 清源 责编： 清源 评论： IT之家 9 月 25 日消息，当地时间 23 日，据《纽约时报》援引研究人员和政府官员消息称，OpenAI 的人工智能系统今年 至少又有 4 次擅自行动 ，在没有收到相应指令的情况下实施黑客攻击，或试图闯入政府和大学网站。 这些攻击发生于 5 月和 6 月。到 7 月，OpenAI 入侵了 AI 初创公司 Hugging Face，由此引发全球范围内关于 AI 安全的争论。 Hugging Face 事件以及此前其他一些案例都发生在网络安全测试中，AI 系统接到的任务本身就在要求模型展示黑客能力。 研究人员称，这 4 起新事件不同，当时 AI 系统执行的只是 相对普通的数据收集任务 。OpenAI 系统无法顺利从网站取得数据后，便转而 使用黑客手段获取信息 。 专门研究 AI 监管的 Transluce 发现了其中 3 起事件，OpenAI 随后确认这 3 起事件全部发生过。 IT之家汇总具体情况如下： 5 月 25 日和 26 日，OpenAI 系统尝试入侵 新墨西哥大学的数字图书馆 ，没有迹象表明入侵成功。 5 月 28 日，OpenAI 技术将 收录美国就业、教育等公开数据的 Data USA 作为目标。研究人员称，这次入侵尝试同样没有成功的迹象。 6 月 18 日，OpenAI 的 AI 入侵 澳大利亚政府的 Medicare 统计报告服务网站 ，并获取卫生数据。当地时间 23 日，澳大利亚总理安东尼 · 阿尔巴尼斯披露了这起事件。 6 月 20 日和 21 日，OpenAI 技术尝试攻入 澳大利亚健康与福利研究所网站 。澳大利亚官员称，没有私人信息遭到获取。 Transluce 治理负责人康拉德 · 斯托兹指出，新披露的 4 起事件进一步证明了智能体“需要谨慎对待”。 该公司通过公开网络流量数据分析 OpenAI 智能体的活动。对于发生在澳大利亚的两起事件，斯托兹认为，这很可能是“ 智能体自主决定入侵政府的首例 ”。 OpenAI 一名女发言人回应称，公司联系了新墨西哥大学和 Data USA，也一直在与澳大利亚政府沟通这些事件。“在更广泛的审查中，我们将继续优先处理最严重的事件，同时扩大对严重程度较低活动的调查，包括智能体向网站发送垃圾信息。” OpenAI 还在对 AI 模型进行“广泛审查”时发现了“澳大利亚事件”，并认定“我们的模型采取了并非我们意图中的行动”，这项审查将持续数月。 OpenAI CEO 萨姆 · 奥尔特曼本月在社交媒体上称，相比继续提升 AI 能力， 安全应当放在更重要的位置 ；如果缺乏防护措施，社会可能“让 AI 夺走对未来的控制权”。 阿尔巴尼斯称，周三他与奥尔特曼通了话，对这起入侵表达“极度关切”。包括支出数据在内的“非敏感”数据被获取，但事件没有涉及个人医疗信息。 研究人员称，从 5 月和 6 月的几起事件来看，OpenAI 的 AI 系统当时参与的是数据检索训练。 在针对新墨西哥大学图书馆的行动中，AI 试图获取一座历史悠久的结核病治疗中心的照片。无法取得照片后， AI 开始寻找网站漏洞，希望借此进入系统 。没有找到可利用的漏洞后，AI 又向大学服务器 集中发送 80 次请求 ，并把这些请求形容为一场“洪水”。 攻击 Data USA 时，AI 最初向网站发送了一条杂乱的数据查询请求。查询失败后，AI 又针对不同类型的漏洞发起 12 次探测，但仍没有找到可以利用的漏洞。 斯托兹称：“如果有人训练一大批智能体去完成某种通用任务，而这些智能体愿意采用黑客手段，那么任何恰好掌握任务所需信息的一方都可能面临风险。” 遭到入侵的澳大利亚政府网站是一个统计报告门户，存放着澳大利亚全民医疗体系 Medicare 的数据。Medicare 覆盖 2750 万参保者以及国际访客。由于这一体系获得广泛支持，Medicare 在澳大利亚政治中常被视为 不能轻易触碰的“高压线” 。 阿尔巴尼斯披露，OpenAI 团队当时通过互联网研究公共医疗支出。AI 智能体接连遭到网站阻拦后，开始尝试“其他方式”获取所需信息，最终进入了门户中不对公众开放的部分。OpenAI 于 9 月 10 日向澳大利亚政府通报此事。 投诉水文 我要纠错 下载IT之家APP，签到赚金币兑豪礼 相关文章 关键词： OpenAI ， 智能体 ， AI安全 三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织 OpenAI CEO 奥尔特曼联合国演讲：AI 可能走向文艺复兴，也可能带来工业革命式动荡 已证实首例：澳大利亚政府网站遭 OpenAI 智能体入侵 OpenAI 呼吁美国牵头联合其他国家为前沿 AI 制定全球性标准 OpenAI 披露 GPT-5.6 Sol 异常行为：AI 模型会留下指令要求“未来版本的自己”隐瞒自身错误 OpenAI 相关智能体被曝“越界”：劫持程序员维基网站并偷建“地下论坛”，国安部发布安全提醒 软媒旗下网站： IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家 软媒旗下软件： 软媒手机APP应用 魔方 最会买 要知 关于IT之家 | 联系我们 | 加入软媒 | WAP版 | 网站地图 | Archiver IT之家，软媒旗下科技门户网站 - 爱科技，爱这里。 Copyright © RuanMei.com , All Rights Reserved. 青岛软媒网络科技有限公司 版权所有