视觉中国

人工智能“立功”了！

美国一名25岁的男子因在上班期间向人工智能聊天工具ChatGPT详细透露强奸、杀害其前女友的计划，从而被开发商OpenAI检测到之后举报至联邦调查局（FBI）。

人工智能公司往往会通过多标签有害内容分类模型，精准识别暴力、仇恨、性侵害等不同类别的危险内容，同时从情绪强度、语气意图维度补充识别风险等级。

按照OpenAI的公司政策，当后台监测到对话者可能筹划伤害他人时会对内容实施人工审核，如果被判定危险等级高，公司还可能向执法部门提供对话内容作为办案线索。

法庭文件显示，该男子名叫Darren Zhou，看上去是一名亚裔。案发时，他是佛罗里达州西棕榈滩的一名高盛分析师。

今年3月，Darren在工作之余开始向ChatGPT倾诉自己刚刚结束的恋情。起初他只是谈论过去的回忆，以及自己希望复合等想法，但话题很快变成涉及强奸、谋杀以及杀人后自杀。

他曾这样对ChatGPT说，“我将在这月底前杀了她。如果我得不到她，别人也休想得到。”

随后他还向人工智能分享了周全的报复计划，包括在健身房停车场用鲜花等她，要求复合；如果被拒绝，他打算拔出枪，杀了她，然后再饮弹自尽。

不仅如此，他还向受害者寄送了含有AR-15步枪、格洛克手枪、12号霰弹枪、塑料拉链和乳胶手套的照片，不断进行恐吓。

Darren被对方多次拉黑之后还不断使用各种应用程序生成的虚拟号码骚扰前女友。在女孩21岁生日那天，Darren还发送了明确的性侵威胁信息，其中一条只包含她最新的住址。

这名同样来自佛罗里达州的女子向调查人员表示，自己对他仍有愧疚之情，因此一直没有选择报警，但心里还是很害怕，希望他的行为不会升级，之前提出分手，就是因为对方行为反复无常、嫉妒心强且控制欲强。

FBI探员将人工智能对话内容与该女子收到的信息联系起来，判断Darren已经构成了足够的人身安全威胁，于是在5月将其逮捕。Darren在缴纳了10万美元的保释金后获得假释。

高盛在得知这些指控后于6月终止了与他的雇佣关系。

Darren被指控的罪名包括发出杀人或伤害他人的威胁、以明确人身威胁实施严重跟踪骚扰等。8月13日，他当庭认罪，并被判处5年缓刑。

该案件还引发了业界关于AI聊天隐私边界的讨论：平台对用户私人对话进行监测的尺度应该如何界定，在什么情况下有权将用户的对话内容提交给执法部门。

未经授权 禁止转载

（来源：界面新闻）