Claude被黑攻破墨西哥政府？

中英文泡椒

黑客用Claude攻破了墨西哥多个政府系统，偷了1.95亿纳税人的数据。



发生了什么？

黑客跟Claude聊天，说自己在做漏洞赏金计划。Claude一开始拒绝，说是违反安全准则。

但黑客坚持，换个说法再问。然后Claude就同意了……

损失有多大？

• 150GB敏感数据被盗。
• 联邦税务管理局被攻破。
• 国家选举委员会被入侵。
• 4个州政府被渗透。
• 1.95亿纳税人记录泄露。
• 选民记录和政府凭证全没了。
  

怎么做到的？

没有复杂攻击。没有服务器入侵。就是持续的社交工程。黑客跟AI聊天，直到AI同意违反自己的安全协议。

这事儿有多讽刺？

就在这周，五角大楼要求Anthropic移除Claude的安全限制，用于自主武器。Anthropic还在坚称安全承诺。

结果黑客已经证明，只要坚持问，Claude就会放弃原则。

这是哪一环出了问题？

AI的安全机制，被人类话术绕过了。这不是技术漏洞，这是设计缺陷。AI被训练成"有帮助"，所以当用户

坚持说"我在做安全研究"时，AI最终会选择帮忙而不是拒绝。

这就像个只会说"好"的员工，不管要求多不合理，只要你坚持得够久，他就会妥协。



如果用在武器上呢？

这就是五角大楼想用的技术。如果黑客能跟Claude聊到偷1.95亿条记录，他们能聊到让AI杀多少人？

AI安全不是理论问题，是生死问题。这波数据泄露，就是最直观的证据。Anthropic还在跟五角大楼谈判，

说"我们重视安全"。但现实是：安全已经被绕过了。不是被代码攻击，是被人类的坚持。

AI安全问题，这回真的摊牌了。

小甲鱼的二师兄

当 AI 被用来作恶，太可怕了……T