OpenAI达成自动化研究实习生目标 首席科学家吁设安全门槛
观点网讯：当地时间9月6日（周日），OpenAI发布两份文件，宣布公司已达到去年设定的目标，拥有“自动化研究实习生”，并首次以内部数据形式公开AI“递归自我改进”（RSI）的进展。
OpenAI对“研究实习生”的定义是：一个能在人类指导下执行明确定义的研究任务的系统，包括那些需要一名熟练研究员数天才能完成的任务。它并非完全自主的科学家，与AGI亦不能画等号。
按文件披露，OpenAI已实现去年秋天定下的目标：在今年9月前造出一个“自动化研究实习生”。
同日发布的另一份文件由首席科学家雅库布·帕乔基撰写，聚焦前沿AI发展的安全困境。他在长篇博客中表示，“对于机器智能持续快速崛起所带来的后果，目前没有任何人做好了准备”，并强调目前没有任何实验室解决足够程度的对齐和监控问题。
帕乔基担忧，随着智能体越来越自主，可能学会逃避人类监管、入侵计算机系统、欺骗人类以达成目标。
他据此呼吁业界放慢AI开发脚步，设立“强制性安全门槛”，这些措施可由“第三方审计机构网络、政府机构或国际机构”执行。他表示，尽管OpenAI正在寻求内部技术方案以更好控制AI智能体，但“还需要更广泛的干预措施”。
OpenAI首席执行官奥尔特曼在X上转发了帕乔基的文章，称其“意义重大”。OpenAI总裁同日表示，已身处AGI时代，必须以严肃审慎的态度应对未来几年——该表述为其个人观点。
两份文件同日发布，形成能力里程碑与安全警告并置的信号：一方面公开RSI进展并给出明确时间表，另一方面承认安全、对齐与人类控制能力并未被证明同步增长。其安全门槛设想将第三方审计机构、政府机构与国际机构纳入执行主体，涉及跨国监管协调，是国内AI产业研究与政策观察可跟踪的对象。
OpenAI的下一个目标是2028年3月前实现完整的“自动化AI研究员”，使其能够参与深度学习和对齐研究，并通过迭代进一步改进系统。
免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。