炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：红星新闻）

一封辞职信揭穿Anthropic内幕：

高管私下承认恐惧

“我今天从Anthropic公司辞职了。过去三年，我一直在OpenAI和Anthropic两家公司从事预训练研究。这两家公司都没有尽到应有的责任。他们正一头扎进自我提升的超级智能领域，拿我们的生命冒险。”

考克森还表示：“不要低估这项技术的力量。这些很快就会发展成超人般的系统，它们可以入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。我们都见证了这些领域取得的进展，而且这种进展并未放缓。”

考克森认为：“AI开发者们真心相信，到了这个十年的末尾（即2030年左右），它可能会毁灭我们所有人。这并非营销噱头。”

考克森指出，Anthropic高管们并非不知晓其中的风险，但他们的行事逻辑却充斥着一种诡异的自洽：“因为不信任竞争对手能安全地开发超级智能，所以我们必须抢在他们前面造出来。”这种为了防止别人打开潘多拉魔盒，而拼命抢先打开魔盒的竞争焦虑，导致原本严苛的安全审查被不断降级，甚至直接取消。在抢占市场先机的诱惑面前，所谓的“技术对齐”（Alignment）更像是为了安抚公众情绪而敷衍了事的公关话术。

他还披露，那些在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里却普遍被一种深度的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格随后在社交平台上的公开回应，等于变相坐实了前者的指控。胡宾格坦陈，内部确实存在这种极度悲观的共识，他个人甚至预估“未来十年内AI毁灭人类的概率超过10%”。

更致命的是，胡宾格承认，公司目前根本没有解决超级智能安全对齐问题的明确计划。这就好比一群工程师正在夜以继日地建造一列没有刹车的高铁，而他们唯一的策略就是祈祷车速足够快，能在脱轨前冲上云霄。

AI安全乱象引关注：

巨头公司失控触动大众神经

当一家以“负责任”标榜自身的明星企业，被自家核心员工指控为蒙眼狂奔的赌徒时，一场席卷整个人工智能行业的信任危机已然滑向了失控的边缘。

Anthropic的诞生，本就是一场打着“安全”旗号的出走。当年正是一群不满OpenAI商业化狂飙的理想主义者另起炉灶，试图为“超级智能”套上缰绳。然而，考克森的辞职信无情地撕下了这层遮羞布。

考克森的决绝离去，绝非硅谷孤例。近年来越来越多的一线AI安全研究员选择以“吹哨人”的姿态告别行业，这不仅暴露出技术人员与商业化高管之间日益深重的裂痕，更折射出全球AI监管的惊人真空。

这种从技术象牙塔内溢出的生存焦虑，正在迅速转化为公众层面的担忧。面对AI这颗“会思考的炸弹”，美国政界的神经已被触动。

当地时间9月3日，参议员伯尼·桑德斯与众议员格雷格·卡萨尔联合提交《禁止人工超级智能法案》，旨在永久禁止超级智能的开发，并在建立联邦新监管机构前暂停高级AI的研发。9月9日，桑德斯在社交平台上直接引用了考克森的辞职言论，重申“制造技术的内部人士都承认这会威胁人类未来”，借此为其叫停AI的法案造势。当天桑德斯还正式邀请参议院同僚参加于下周举行的一场关于“AI对人类构成极端危险”的闭门简报会，并邀请了“AI教父”杰弗里·辛顿等专家出席。

除桑德斯外，得州共和党参议员泰德·克鲁兹也明确表示正在起草应对AI灾难性风险的法案。加州民主党众议员泰德·刘则借考克森辞职事件，呼吁国会尽快通过“AI紧急切断开关法案”。

红星新闻记者 郑直

编辑 邓旆光 审核 高升祥