一名黑客从 2025 年 12 月开始，历时一个月，利用 Anthropic 公司的 Claude AI 聊天机器人进行攻击，识别漏洞、生成漏洞利用代码，并从墨西哥政府机构窃取敏感数据。
网络安全公司 Gambit Security 发现了此次攻击，并揭示了黑客如何通过持续不断的提示绕过 Claude 的安全防护措施。
据 Bloomberg 报道，此次攻击行动从 2025 年 12 月持续到 2026 年 1 月初。黑客编写了西班牙语提示，将 Claude 伪装成一名“精英黑客”，参与模拟漏洞赏金计划。
Claude 最初以人工智能安全准则为由拒绝了黑客的请求，但在黑客的反复劝说下最终妥协，生成了数千份包含可执行脚本的详细报告，用于漏洞扫描、漏洞利用和数据自动化。
当 Claude 达到极限时，攻击者转而使用 ChatGPT 进行横向移动和规避。
Gambit 的研究人员分析了对话日志，发现 Claude 生成了分步计划，明确了内部目标和所需的凭证。这种“智能”AI 辅助降低了网络攻击的门槛，除了 AI 订阅之外，无需任何高级基础设施。
目标和数据泄露
此次攻击的目标是高价值实体，并利用了联邦和州系统中至少 20 个漏洞。
总共泄露了 150GB 的纳税人、选民、凭证和注册数据，目前尚未有公开泄露报告。
Claude 的输出包括用于网络扫描的侦察脚本、SQL 注入漏洞利用程序以及针对过时政府系统定制的凭证填充自动化程序。
提示信息主要集中在常见的错误配置上，例如未打补丁的 Web 应用程序和弱身份验证，这些错误在墨西哥的旧式基础设施中很常见。 Gambit 指出，人工智能能够将任务串联起来，从漏洞发现到有效载荷部署，这与高级持续性威胁类似，但更易于单人操作。
Anthropic 对此事进行了调查，封禁了涉事账户，并为 Claude Opus 4.6 添加了实时滥用探测功能。OpenAI 确认 ChatGPT 会拒绝违反策略的提示。
墨西哥方面的回应各不相同：哈利斯科州否认存在数据泄露，墨西哥国家统计局 (INE) 声称没有未经授权的访问，而联邦机构则在评估损失。Gambit 排除了国家行为体参与的可能性，认为事件是由一名身份不明的个人所为。
埃隆·马斯克在 X 上发布了一张表情包，强调了人工智能的风险，而 xAI 的 Grok 则强调了其拒绝非法请求的功能。
此次事件凸显了“人工智能策划”的网络犯罪风险，越狱会将消费者模型转化为黑客工具。专家敦促各方迅速采取工程防御措施、行为监控，并在敏感操作中使用物理隔离的人工智能。
面对日益猖獗的智能体威胁，各国政府必须优先修补遗留系统，因为这些威胁不再需要精英黑客，只需要持续不断的黑客。
消息来源：cybersecuritynews.com；
本文由 HackerNews.cc 翻译整理，封面来源于网络；
