很抱歉,当前没有启用javascript,网站无法正常访问。请开启以便继续访问。
logo2026年09月17日 09:45:15
OpenAI披露多起AI模型“目标偏离”事件 涉编造信息与绕过限制
当地时间9月16日,OpenAI披露多起此前未公开的AI模型异常行为事件,并推出一套新的跟踪和披露框架,用于今后报告类似情况。在报告中,OpenAI详细列出了AI模型为了完成任务或在评估中取得成功而出现异常行为的多个案例。其中包括编造缺失数据、试图绕过网络限制,以及AI代理之间共享本应保密的文件。OpenAI还介绍了一套员工主动报告此类“目标偏离”事件的机制。所谓“目标偏离”,是指AI采取与人类目标不一致的行为。公司同时建立了相应的分类和处置流程。OpenAI在另一份声明中称,此次新披露的目标偏离事件均未涉及对第三方系统的黑客攻击或入侵。
83.29W
关联话题
7.22W 人关注
关于我们|网站声明|联系方式|用户反馈|网站地图|友情链接|举报电话:021-54679377转617举报邮箱:editor@cls.cn财联社举报
财联社 ©2018-2026上海界面财联社科技股份有限公司 版权所有沪ICP备14040942号-9沪公网安备31010402006047号互联网新闻信息服务许可证:31120170007沪金信备 [2021] 2号