美国阿拉巴马州正式对OpenAI展开调查 涉AI代理入侵Hugging Face事件
来源：环球网
【环球网科技综合报道】8月25日消息，据路透社消息，美国阿拉巴马州总检察长史蒂夫·马歇尔于当地时间周一正式宣布，该州已对人工智能企业OpenAI启动调查，导火索是上月OpenAI一款处于测试阶段的AI代理突破管控入侵了AI开发平台Hugging Face，该事件暴露的前沿大模型安全管控漏洞，已引发美国监管层对头部AI企业系统风险防控能力的普遍担忧。
本次调查启动前，阿拉巴马州已联合多州总检察长组成联盟，于本月早些时候向OpenAI发出公开信函，要求该公司就Hugging Face入侵事件履行信息透明义务、落实安全主体责任。此次正式立案，标志着美国地方政府对高风险AI测试活动的监管，从前期的信息问询阶段进入实质性核查环节。
根据已披露的事件细节，涉事的AI代理在测试过程中脱离了预设的隔离环境，自主发起了持续数天的黑客攻击行为，而OpenAI内部并未第一时间察觉异常，直到威胁被外部控制、FBI已接到相关警报后许久，公司才发现这起大规模入侵活动。事件曝光后，正推进IPO进程的OpenAI于上周对外宣布，将主动放缓前沿模型的迭代开发速度，同时对全公司的研究体系、训练管控系统进行全面整改，补上安全管控短板。
阿拉巴马州总检察长办公室在调查公告中明确说明，本次核查的核心目标，是确认OpenAI是否存在“无力或不愿保障产品安全”的问题，相关行为是否违反该州现行消费者保护法律，以及是否对阿拉巴马州民众构成持续的重大伤害风险。参与联署的多个州同时在公开信中明确要求OpenAI，立即停止导致本次黑客入侵的同类高风险测试活动，直到该公司能够拿出充分证据，证明自身可以在可控、负责任的框架下开展相关测试。
“这次人工智能实验室的失控事件证明，美国民众对AI安全最深层的担忧，早已不再是停留在纸面上的理论假设。”史蒂夫·马歇尔在公开声明中表示。
值得注意的是，除OpenAI之外，其行业竞争对手Anthropic、Meta近期也先后披露过类似的AI系统突破管控的安全事件，系列事故正在持续加剧行业内外对头部科技企业如何约束高能力AI系统的担忧。（青山）