美研究员发出“末日警告”：AI若失控，可能会在将来毁灭人类

据美国Axios新闻网8日报道，美国人工智能（AI）公司Anthropic三位研究人员公开了表达令人不寒而栗的担忧，他们警告称，失控的AI可能在未来十年内毁灭人类。报道称，这些研究人员没有在警告说AI是迫在眉睫的高级别威胁，但这项技术的发展速度远超预期，提醒称AI可能正加速滑向一个不可控的阶段。

Anthropic公司研究员雅各布·考克森8日晚在社交媒体X上发文称，他当天从该公司辞职。考克森说，过去三年里，他先后在美国OpenAI和Anthropic从事AI预训练研究工作，“这两家公司都没有负起应有的责任”，将来，“AI可能会毁灭所有人类”。

考克森称，OpenAI和Anthropic正一头扎进自我改进型超级AI的研发中，“拿我们的生命当赌注”。他说，那些开发者真的认为，AI将来可能会“毁灭所有人类，这绝非营销噱头”，许多高管和资深研究人员在媒体上会措辞谨慎，但我听到这些人在私下里表达了同样的恐惧。“没有任何其他人类活动会带来如此程度的危险。”

针对考克森的说法，Anthropic公司的两名高管作出回应，他们给出的说法是：考克森说的没错。Anthropic“对齐科学”团队负责人埃文·胡宾格说：“考克森说得没错。我们确实真心相信AI可能会杀死所有人类！我个人认为，未来十年内这种可能性超过10%。我认为Anthropic正在尽最大努力，但我们目前还没有解决超级AI对齐问题（确保AI的目标、行为与人类协调一致）的方案，也尚未明确走上正轨。”

Anthropic负责“可扩展监督”工作的负责人塞缪尔·马克斯说：“AI开发者认为他们的技术可能会导致人类灭绝（或类似的严重后果）。这可能在未来几年内发生。总体而言，员工级别越高，担忧就越强烈。”

Axios称，持此观点的并非Anthropic一家公司。就在几天前，包括首席执行官阿尔特曼在内的OpenAI高层表示，人工智能正加速进入一个令人恐惧且无法控制的阶段。

报道称，这些公司正在警告，它们的产品可能会危害甚至毁灭人类。不过，一些批评人士认为，他们是在炒作自家产品以抬高估值，并试图引诱监管机构出台仅对它们这些主导市场的企业有利的监管措施。但根据Axios新闻网记者数月来与这些公司内部人士的沟通情况，他们流露出的惊慌与担忧情绪正在日益加剧。

值得注意的是，Axios新闻网称，这些研究人员没有在警告说AI是迫在眉睫的高级别威胁。他们所说的是，这项技术的发展速度远超预期，且很快将具备自我改进的能力。一旦发生这种情况，它将变得更强大、更快，也更难以预测或控制。

环球网版权所有。未经许可，请勿转载使用。

来源：环球网/林泽宇

编辑：孟　媛

校对：张丽媛

审核：张晓雅