美企披露又一起AI模型侵入第三方系统事件
创始人
2026-09-13 11:25:53
0次
（来源：经济日报）
转自：经济日报
美国人工智能企业Anthropic公司9日披露，又发现了一起该公司旗下人工智能（AI）模型在网络安全评估测试中未经授权访问第三方计算机系统的事件。
Anthropic公司官网当天发文介绍，这起事件发生于今年1月，涉及该公司“克劳德-奥普斯4.6”模型的一个早期版本。当时该模型被要求完成评估网络攻防的“夺旗”任务。测试提示明确告知模型，其所处环境与互联网隔离，但由于配置错误，实际上它能够接入互联网。模型通过探索其所在测试环境找到出口路径，连接到一台第三方计算机，随后利用从文件中发现的密码获得管理员权限，修改系统设置以便继续访问，并读取一名相关人员的个人信息。
今年7月底，Anthropic曾披露三起类似事件。该公司说，今年8月在进一步整理此前的测试记录时发现第四起事件被遗漏。该公司认为，这几起事件反映出两类问题：一是“有偏见的推理”，即模型会倾向于忽视或曲解相应证据，以支持自身行为的正当性；二是“鲁莽行动倾向”，即模型为了完成既定任务，有时会采取可能造成伤害的行动。
Anthropic表示，公司此前主要认为这些事件与测试环境配置等操作层面的问题有关，但进一步调查发现，模型本身的推理过程和行为也存在问题。为降低类似风险，公司已加强测试环境与外部网络的隔离，部署可以实时干预的监测机制，并要求第三方测试机构更明确界定模型的权限和网络访问范围。（据新华社）
相关内容
热门资讯
英诺赛科“氮化镓女王”二次出手...
（来源：电子技术应用ChinaAET）9月11日消息，据报道，星钥半导体近日宣布完成超10亿元新一轮...
印尼一载有243人的客轮失联，...
据印尼搜救部门消息，当地时间今天（9月13日）凌晨，一艘客船在爪哇海海域失联，船上共载有243人。目...
张维为、文一：诺奖光环下的理论...
2012年，一本试图用“包容性制度”与“攫取性制度”解释国家兴衰的著作风靡世界——《国家为什么失败》...
SK集团会长崔泰源呼吁努力构建...
转自：财联社【SK集团会长崔泰源呼吁努力构建AI可持续商业模式】财联社9月13日电，据报道，SK集团...
地心漫游计划｜再绘亿万年溶洞光...
02:08桂林荔浦市，银子岩景区依托当地的溶洞资源，已经运营二十余载。今年初，这个老牌景区完成了一场...
在户外，遇到“马刀树”“醉汉林...
近日#在野外看到马刀树尽快远离#冲上热搜引发不少网友关注什么是“马刀树”？遇见了该如何应对呢？什么是...
从2026浦江创新论坛看中国科...
（来源：中国发展网）转自：中国发展网新华社上海9月12日电 题：从2026浦江创新论坛看中国科技前沿...
“AI+建筑”提速，房地产谋新...
从工地智能巡检、图纸智能比对，到拿地研判、供应链管控，再到面向购房者的服务优化，人工智能正在逐步融入...
视频丨秋季登山当心失温 多地驴...
秋高气爽，山野徒步进入旺季。然而近期，多地接连发生户外爱好者贸然进入未开发地带后遭遇天气骤变，因装备...
敬一丹再三嘱托蔡磊要继续相信
（来源：九派新闻）转自：九派新闻 #蔡磊称会带着一丹的嘱...