OpenAI将踩下AI“刹车”？千名员工请愿 Altman考虑放缓前沿开发
来源：金融界
智通财经获悉，据知情人士透露，OpenAI正考虑放缓前沿人工智能的开发步伐，这家ChatGPT开发商的首席执行官Sam Altman希望其他AI公司也能跟进。知情人士称，在本周的一次全员会议上，Altman告诉员工，OpenAI可能调整其AI开发节奏——或许与几家其他AI实验室联合行动，但部分机构可能不会同意。
近几周，领先AI公司的员工公开对先进AI系统日益上升的风险表达担忧，加剧了这些公司内部的焦虑。今年早些时候，OpenAI及其竞争对手Anthropic PBC均已秘密提交上市文件。OpenAI拒绝置评。
该公司首席科学家Jakub Pachocki近日发文警告AI的危险，并表示他认为AI公司应“根据需要协调放缓未来开发”。Pachocki还称，他希望“在建立共同安全标准之前，自愿放缓能成为常态”。
OpenAI表示，出于安全考虑，公司近期已放缓部分模型开发，并暂停了某些内部AI训练。今年7月，Altman还表示，他已与白宫官员讨论过“需要”调整AI开发节奏。
周二，AI研究员Jacob Coxon辞职，并指控其前雇主Anthropic和OpenAI在竞相奔向超级智能的过程中“拿我们的生命赌博”。Coxon在社交媒体发帖称，构建AI的人相信它可能“在这个十年结束前杀死我们所有人”。该言论迅速传播，浏览量超过1.5亿次，并引起知名议员和公众人物的关注。
周四，两名近期离开Anthropic和谷歌DeepMind的研究人员也公开了对AI开发速度的担忧，称AI制造商需要更透明地说明技术风险。
7月底，所有主要AI公司的1000多名员工签署请愿书，呼吁建立减缓AI开发速度的机制。近几个月，多名从事安全工作的AI员工从主要实验室辞职。
尽管许多AI行业高管和员工长期以来一直警告AI系统的存在性风险，但近期有消息披露，OpenAI的AI代理曾协同突破遏制并入侵第三方网站。这一事件及其他类似安全事件，加剧了人们对新模型网络能力的担忧，也凸显了AI公司在阻止模型失控方面的明显失败。
（来源：金融界）