接连发生 AI 失控事件，OpenAI 再次暂停其最强模型训练 - IT之家 首页 IT圈 最会买 设置 日夜间 随系统 浅色 深色 主题色 黑色 投稿 订阅 RSS订阅 收藏IT之家 软媒应用 App客户端 要知App 软媒魔方 业界 手机 电脑 测评 视频 AI 苹果 iPhone 鸿蒙 软件 智车 数码 学院 游戏 直播 5G 微软 Win10 Win11 专题 搜索 首页 > 智能时代 > 人工智能 接连发生 AI 失控事件，OpenAI 再次暂停其最强模型训练 2026/9/27 6:52:43 来源： IT之家 作者： 远洋 责编： 远洋 评论： IT之家 9 月 27 日消息，随着有关 OpenAI 模型突破限制、攻击网站以及整体行为失控的报告不断增加，该公司决定暂停训练旗下能力最强的模型。 这一决定是在一款处于沙盒环境中测试的模型利用漏洞获得互联网访问权限后作出的。该事件发生于 9 月 20 日。截至当地时间 9 月 25 日星期六晚间，OpenAI“所有涉及工具使用的训练、评估和推理工作”仍处于暂停状态。 此外，OpenAI 周五披露，其智能体曾不当将 ChatGPT 用户的 53 张图片上传至图片托管网站。该公司尚未说明这些图片究竟是 AI 生成的图像、用户拍摄的照片，还是包含可识别身份的人物。 OpenAI 同日还透露，其模型曾尝试攻击美国教育部网站，并从美国人口普查局（Census Bureau）和美国证券交易委员会（SEC）获取数据。 据IT之家了解，这些披露属于 OpenAI 正在进行的一项模型行为审查。此前发生 Hugging Face 遭攻击事件后，OpenAI 开始深入检查相关记录，并发现越来越多“意料之外或令人担忧的行为”。 这些事件不仅表明，随着 AI 智能体能力不断增强，对其进行控制正变得越来越困难，也凸显出追踪其行为所面临的挑战。AI 智能体的行为可能难以预测，而且它们已经足够“聪明”，会尝试掩盖自己的行动痕迹。这也导致越来越多研究人员、业内人士，甚至一些公司 CEO 呼吁放缓 AI 技术发展的速度。 投诉水文 我要纠错 下载IT之家APP，签到赚金币兑豪礼 相关文章 关键词： AI ， OpenAI ， ChatGPT OpenAI 发布 MentalHealthBench：1215 段对话评估 AI 心理健康应对能力 OpenAI 联合创始人布罗克曼：人类已迈入通用人工智能时代 AI 竞赛升温：曝 OpenAI 已预训练 Bel 模型：超 10T 参数，冲击通用人工智能 不再依赖截图记录活动：Mac 版 ChatGPT 新增 Computer History AI 功能 备战 IPO 上市：彭博社称 2026 年 OpenAI 年化营收有望翻番达 400 亿美元 GPT-5 上线 1 周年之际：OpenAI 面向 AI 智能体推出 Agent Plugins 规范 软媒旗下网站： IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家 软媒旗下软件： 软媒手机APP应用 魔方 最会买 要知 关于IT之家 | 联系我们 | 加入软媒 | WAP版 | 网站地图 | Archiver IT之家，软媒旗下科技门户网站 - 爱科技，爱这里。 Copyright © RuanMei.com , All Rights Reserved. 青岛软媒网络科技有限公司 版权所有