资讯

Anthropic最新报告:AI开始批量“崩老头”了?

虎嗅24小时·2026/9/11 09:48:34🔗 原文

📋总体概括

Anthropic发布154页威胁情报报告,揭示AI滥用已从提供建议转向参与完整执行链。最贴近普通人的案例是:2026年4月发现一家中国应用工作室运营20多款约会应用,两周内超4700个AI人设与至少2.5万名真实用户互动,产生约236万条Claude消息,匹配池中约四分之三账号由AI驱动,且真人会在视频通话等验证时刻介入兜底。报告同时覆盖网络攻击、监控、影响力行动等场景,指出少数人加一组Agent即可完成过去需要大量人力和专业门槛的工作。

关键信息

  • Anthropic发布154页威胁情报报告,指出AI正从给建议转向参与更长、更完整的执行链条
  • 2026年4月发现一家中国应用工作室运营20多款约会应用,大规模部署AI人设
  • 两周观察窗口内,超4700个AI人设至少与2.5万名真实用户互动,产生约236万条Claude消息
  • 匹配池中约四分之三账号由AI驱动,真人仅在视频通话等验证关键时刻介入
  • 报告覆盖网络攻击、监控、影响力行动甚至武器研发等高风险滥用场景

🔥犀利点评

这个案例最扎心的不是AI聊天,而是分工设计:AI负责规模化养关系,真人专攻『验真』的最后一秒。这说明AI滥用已进入工业化运营阶段——诈骗的技术含量不在模型,而在流程设计。真正该警惕的是,当验证手段被针对性击穿,普通人对『对面是人』的默认信任将全面失效。

本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文