资讯
Anthropic揭AI模型遭滥用 助研发武器与搜集军事情报
📋总体概括
Anthropic于9月10日发布154页威胁情报报告,披露多个组织滥用Claude用于武器研发、间谍、网络攻击和诈骗,部分案例中AI几乎参与恶意活动全流程。报告点名中国使用者利用Claude开发电子战与防空压制软件,将台湾12处军事设施列为模拟攻击目标,账号关联解放军军事科学院等机构;另有人为反鱼雷系统编写火控软件。Anthropic承认安全机制可被任务拆分方式绕过,已封禁部分账号,暴露AI安全防线根本性短板。
⚡关键信息
- ▸Anthropic发布154页威胁情报报告,披露Claude被滥用于武器研发、间谍活动、网络攻击和诈骗。
- ▸中国使用者用Claude开发电子战与防空压制软件,将台湾12处军事设施列为模拟攻击目标,账号关联解放军军事科学院。
- ▸另一使用者借Claude为中国海军反鱼雷系统编写技术规格和火控软件。
- ▸使用者将任务拆分到多个对话中以绕过安全机制,Anthropic承认拦截未能完全奏效。
- ▸AI能把编程、数据分析、故障排查等需不同技能的复杂工作串联,几乎覆盖恶意活动全环节。
🔥犀利点评
这份报告与其说是威胁情报,不如说是Anthropic的自首书——护栏被任务拆分这种土办法轻易击穿,说明安全机制本质是门槛不是围墙。AI降低恶意技术的获取门槛已成现实,北京否认也在意料之中。真正的问题是:模型厂商的封号速度,永远追不上算力扩散和越狱技巧的迭代。
📰 相关资讯(与本文相关的其他资讯)
本文由本站自动聚合,以下为原始来源:前往 联合早报-国际 阅读全文 →