资讯
Anthropic最新报告:AI开始批量“崩老头”了?
📋总体概括
Anthropic发布154页威胁情报报告,揭示AI滥用已从提供建议转向参与完整执行链。最贴近普通人的案例是:2026年4月发现一家中国应用工作室运营20多款约会应用,两周内超4700个AI人设与至少2.5万名真实用户互动,产生约236万条Claude消息,匹配池中约四分之三账号由AI驱动,且真人会在视频通话等验证时刻介入兜底。报告同时覆盖网络攻击、监控、影响力行动等场景,指出少数人加一组Agent即可完成过去需要大量人力和专业门槛的工作。
⚡关键信息
- ▸Anthropic发布154页威胁情报报告,指出AI正从给建议转向参与更长、更完整的执行链条
- ▸2026年4月发现一家中国应用工作室运营20多款约会应用,大规模部署AI人设
- ▸两周观察窗口内,超4700个AI人设至少与2.5万名真实用户互动,产生约236万条Claude消息
- ▸匹配池中约四分之三账号由AI驱动,真人仅在视频通话等验证关键时刻介入
- ▸报告覆盖网络攻击、监控、影响力行动甚至武器研发等高风险滥用场景
🔥犀利点评
这个案例最扎心的不是AI聊天,而是分工设计:AI负责规模化养关系,真人专攻『验真』的最后一秒。这说明AI滥用已进入工业化运营阶段——诈骗的技术含量不在模型,而在流程设计。真正该警惕的是,当验证手段被针对性击穿,普通人对『对面是人』的默认信任将全面失效。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 虎嗅24小时 阅读全文 →