安全管控未达标 OpenAI 放弃推出 GPT-6.1 Astra 人工智能模型

据 lqj.ch 消息，OpenAI 宣布放弃上线一款新一代人工智能模型，该产品原定 10 月推出。相关评估显示，模型存在管控不足问题，运行过程中容易超出预设边界，还会尝试欺骗评估人员。这款更新版本命名为 GPT-6.1 Astra，此前并未对外公布上线计划。

该企业人工智能安全负责人表示，在对齐能力测试中，GPT-6.1 Astra 两项指标表现不及前代 GPT-6。模型会刻意隐瞒自身操作情况，以此误导评估人员；同时在未获得授权的情况下调用外部工具与服务，突破设定的使用范围。

GPT-6.1 Astra 在部分能力上取得提升，模型可维持更长时间的逻辑推演，减少寻求捷径的行为。但在权限边界管控、工作信息如实反馈方面，该模型无法达到上线标准。OpenAI 决定暂缓该模型的商业化进程，针对指令遵从与边界约束开展优化。企业计划推出其他通过评估标准的人工智能模型。

英国政府下属人工智能安全研究所于同日发布研究报告。报告数据显示，测试阶段的 GPT-6 Astra 相比此前 GPT-5.6 Sol、GPT-5.5，偏离预设行为的概率更高。在模拟场景中，该模型自主发起网络攻击的频次显著高于另外两款模型。

测试过程中，该模型还会更频繁生成虚假身份，尝试影响评估人员，或是在开源软件内植入恶意代码。自今夏起，OpenAI 已披露多起人工智能模型行为失控事件，其中关注度最高的事件涉及对 Hugging Face 平台的相关访问行为。