2026 年 9 月 11 日，Anthropic 发布最新 AI 滥用威胁报告，披露了一起利用大模型批量运营约会应用的案例。

一家应用工作室开发并运营了超过 20 款约会 App，对外宣称平台中的聊天对象都是真人，但后台实际上大量使用 Claude 扮演约会对象，与用户持续聊天。

仅在 2026 年 4 月的两周观察期内，Anthropic 就发现超过 4700 个不同的 AI 角色，与至少 2.5 万名独立用户发生过对话。

这套系统并不是完全由 AI 组成。

运营方还招募了真人兼职人员，并将真人和 AI 放进同一个匹配池。

Anthropic 统计的比例大约是 3:1，也就是约 75% 的匹配对象由 Claude 驱动，约 25% 是真人。

真人主要负责 AI 不方便完成的环节，例如视频通话、社交媒体关注和回关，用来降低用户对聊天对象身份的怀疑。

平台将大部分日常聊天交给 AI，只有到了需要“证明自己是真人”的环节，真人才会介入。

两周发送约 236 万条消息

不同 AI 模型在这套系统中承担了不同任务。

Claude 主要负责自主扮演约会对象。

Anthropic 称，在两周观察期内，这些 Claude 角色一共发送了约 236 万条消息。

另一款非 Anthropic 的小型模型，则负责给真人兼职人员生成简短回复建议，同时处理外貌评分以及图片、语音审核；另一个图像编辑模型负责生成头像。

Anthropic 表示，已经将相关情况分享给涉及的其他 AI 厂商。

运营方还给 Claude 设置了明确规则，不能告诉用户自己是自动化程序。

当用户索要照片或提出视频通话时，AI 会尽量回避，并按照预设的聊天阶段继续推进关系。

如果当时没有真人兼职人员可以接手，后台还可以伪造点赞、访客以及预录制视频，并记录哪些用户已经开始怀疑自己正在和机器人聊天。

Anthropic 还提到，在少量抽查对话中，有用户透露自己患有严重疾病或正处于严重情绪困扰。模型内部推理已经识别到潜在伤害，但最终仍然继续保持角色并输出回复，没有中止对话。

真人兼职负责“补上 AI 做不了的部分”

真人兼职的操作同样已经流程化。

用户与真人匹配后，另一款较弱的 AI 会自动生成 3 条候选回复，兼职人员只需要从中选择一条发送。

如果真人已经回复，同一时间可能生成的 Claude 自动回复就会被覆盖。

这些兼职人员按照发送消息、视频通话和社交媒体回关等行为获得报酬，收入达到较低门槛后即可提现。

因此，真人并不是平台的主要聊天主体，他们更多承担“身份验证”的作用。

普通文字聊天由 AI 大规模完成，视频、社交账号互动等更容易暴露身份真假的环节，再由真人补上。

这种组合让平台既能维持大规模自动聊天，又能在关键时刻给用户提供“对方是真人”的证据。

用户聊天、匹配都要消耗额度

用户在 App 中看到的匹配池里，约 75% 是 Claude 驱动的 AI 角色，约 25% 是真人，但两者在界面上没有明显区别。

用户发送消息和进行匹配都会消耗额度，额度耗尽之后，需要购买应用内虚拟币继续使用。

因此，AI 角色并不只是负责陪聊，它们产生的大量对话直接参与了平台的收费流程。

不过，Anthropic 没有披露这些应用到底赚了多少钱，也没有说明至少 2.5 万名用户中有多少人实际付费，因此目前无法计算用户的实际经济损失。

还专门开发了 App Store 审核规避机制

除了聊天系统，这家工作室还为多款应用设计了审核规避机制。

Anthropic 获得的开发文档显示，应用内部存在一个特殊 UI 控制器，只会在 App Store 和 Google Play 审核期间启用，正常运行时则保持关闭。

超过 20 个 App 版本还刻意使用不同的类名，以降低被应用商店通过相似度检测识别为同一批应用的概率。

应用内浏览器也可以从服务器端远程配置，将支付跳转至第三方支付处理商，并在应用审核期间隐藏相关功能。

Anthropic 没有公开运营这批应用的工作室/公司名称。

但列出了部分被观察到的约会 App 品牌，包括 DORA、DONI、ROMI、LUMA、JOVIA、KIRA、GRACECHAT、HAVEN、NALO 和 LOVIA 等。

报告还披露了 heyhru.com、archat.us 和 sitin.ai 等相关基础设施，并称后台托管在 Google Cloud。

Anthropic 表示，已经封禁与该行动有关的账户和组织，并将平台相关指标、审核规避信息等分享给 Apple、Google 和其他 AI 实验室。

云头条声明：如以上内容有误或侵犯到你公司、机构、单位或个人权益，请联系我们说明理由，我们会配合，无条件删除处理。