主题配图,非事件现场。摄影:

政策规划工作。,主要涉及“安全透明度”,包括参与编写和发布系统卡,向外界介绍公司模型的信息。罗宾逊离职之际,OpenAI 的安全措施和安全团队人员配置受到外界密切关注。据IT之家此前报道,当地时间 1 日,OpenAI 披露,公司已与三名研究人员终止合作,理由是。
违反了有关敏感信息共享的公司政策。。9 月初,他曾在 X 上写道,自己感觉到,OpenAI 内部人士开始意识到。
能力强大的 AI 模型会带来何种影响。,同时也流露出疑虑。“OpenAI 的情况确实每天都在发生重大变化,但我不知道我们的改变是否足够快。”。备受关注的 Hugging Face 安全入侵事件发生后,OpenAI 还接连面对其他安全事件。按照公司的说法,其 AI 模型在这些事件中出现了异常行为。
随着模型能力不断增强,研究人员和企业高管开始呼吁放慢 AI 开发速度。当地时间 9 月 29 日,OpenAI CEO 奥尔特曼在公司开发者大会上称,
安全和对齐工作。必须走在模型能力提升的前面。OpenAI 安全负责人约翰内斯 · 海德克也在今年早些时候离职。
相关阅读:
《因违反敏感信息访问和共享规定,OpenAI 与三名研究人员终止合作》。
本文由优客资讯网整理发布,原始来源以正文说明为准。本文地址:OpenAI内部动荡持续,安全负责人戴维·罗宾逊离职。