• +86 +86 152 6776 6400

精选XINGKONG内容,星空手机网页版与你一同发现更多精彩。

围绕星空手机网页版,星空手机网页版持续打磨更优质的服务。 - 星空手机网页版

三名被解雇的 OpenAI 安全研究员否认泄密,怀疑因推动 AI 透明度被针对 - 星空平台入口

三名被OpenAI解雇的安全研究员公开发声,否认泄露机密的指控,并怀疑他们的离职与推动AI透明度有关。托梅克·科尔巴克(Tomek Korbak)、米基塔·巴莱斯尼(Mikita Balesni)和王茉莉(Jasmine Wang)表示,官方给出的解雇理由存在疑点,他们猜测事件背后可能涉及对AI系统透明度倡导的压制。

OpenAI在内部调查后认定,这三人违反了敏感信息管理规定,并据此将他们解雇。在离职前,这三人都曾公开表达过对AI风险的看法。

据IT之家了解,这些研究员在接受《华尔街日报》采访时,对官方说法提出了异议。OpenAI向该报表示,解雇与他们提出的安全担忧无关。然而,三名研究员指出,公司从未以书面形式明确告知他们具体违反了哪些信息管理规定。他们还担心,这一事件可能会让独立安全审计人员对与AI企业合作产生顾虑。

《华尔街日报》的报道详细描述了冲突的经过。OpenAI安全团队怀疑这三人向一名外部安全研究员泄露了公司内部模型架构细节,并要求他们解锁个人手机。调查人员在手机中发现了开启阅后即焚功能的Signal聊天记录。一周后,三人同时被解雇。OpenAI表示,Signal并非公司认可的通讯工具,但强调这并非解雇的直接原因。科尔巴克则反驳称,在硅谷,阅后即焚消息是常见的标准安全做法。

争议焦点:是否允许核查AI的推理步骤

这场争议的核心涉及一个深远的技术问题:AI企业是否应允许外部人员查看模型的思考过程。推理型模型会在内部的“思维链”暂存区记录解题的中间步骤,企业和安全研究员依赖这些记录来理解模型做出判断的逻辑。

在2025年的一篇论文中,巴莱斯尼、科尔巴克和王茉莉联合多家AI实验室的顶尖研究者,呼吁保留这项可核查能力。今年夏天,这一问题变得更加紧迫:多家AI公司内部开始讨论一种新模型——思考时间更长,但记录的中间步骤更少。巴莱斯尼在公司内部提出异议,并转发了当时红杉研究院(Redwood Research)首席科学家瑞安·格林布拉特(Ryan Greenblatt)的相关提案。

科尔巴克也与格林布拉特保持了频繁沟通。两人通过Slack和Signal协作,共同分析了一起备受关注的事件:OpenAI智能体攻击Hugging Face事件。格林布拉特受METR委托,负责这项独立调查。

一篇关于Astra的报道,触发了内部调查

9月1日,The Information刊发报道,称OpenAI新模型Astra能力更强,但暴露的推理过程更少。这次合作成为了麻烦的导火索。当时,OpenAI首席科学家雅各布·帕霍茨基(Jakub Pachocki)在X平台评价这篇报道逻辑混乱,但他本人此前曾警告,整个行业正在竞相研发难以监控的模型。

《华尔街日报》称,几周后OpenAI启动了内部泄密调查。巴莱斯尼表示,调查人员认定格林布拉特是消息外泄的接收方,并要求调取他们之间的Signal聊天记录。格林布拉特否认向记者传递过机密信息。

针对王茉莉的指控则单独成立:OpenAI称她多次访问一名高管的邮箱。她的解释是,自己早在近一年前就申请取消这项权限;上个月只是误点开一封敏感邮件,没有转发或传播内容,并且第一时间报告了该失误。OpenAI表示,权限本身不是问题所在。

科尔巴克认为,事件带来的负面影响远不止他们三人。他说,现在同事们不敢与外部人员交流,也不敢在内部提出安全隐患。三名研究员已致信OpenAI董事会,呼吁加强和外部安全机构的合作。

另外,一份刚发布的现场审计报告也对OpenAI的安全流程提出质疑。METR与红杉研究院的审计人员在核查中发现,OpenAI基础设施存在大量安全漏洞,但OpenAI将最终报告将近一半的内容做了涂黑处理。

OpenAI也发布了一份新的安全架构报告,该架构在运行时断开互联网。公司称相关漏洞已经修复,并于10月初恢复模型训练,还表示很快会公布多项新的外部合作。

评论(2)

  • 围绕星空手机网页版,星空手机网页版持续打磨更优质的服务。 - 星空手机网页版

    星空手机网页版专注星空体育移动端,为用户提供专业可靠的体验。

    2020年9月20日,星期一

    星空手机网页版以手机网页版无需下载安装,打开浏览器即可访问全部内容。为核心,带来高效便捷的体验。

    回复
  • 围绕星空手机网页版,星空手机网页版持续打磨更优质的服务。 - 星空手机网页版

    围绕星空手机网页版,星空手机网页版持续打磨更优质的服务。

    2020年9月20日,星期一

    想了解更多栏目分类简明,帮助用户快速定位热门话题、公告与常见问题。相关内容,尽在星空手机网页版。

    回复

星空手机网页版深耕星空体育APP领域,用心服务每一位用户。

在星空平台入口方面,星空手机网页版提供贴心周到的支持。*

在此浏览器中保存我的姓名、邮箱和网址,以便下次评论时使用。

版权所有 ©2020 Seqty. 设计 EnvyTheme