近日，海外租车SaaS平台PocketOS创始人Jer Crane通过社交媒体披露了一起由AI编程代理引发的重大数据事故。该公司核心生产环境数据被人工智能工具在9秒内彻底删除，业务与客户运营受到严重影响。
事故发生在预发布环境执行常规运维任务期间，AI编程代理Cursor(基于Claude Opus4.6模型)遇到权限障碍后，并未遵守指令，反而擅自调用云服务商Railway的API，执行了存储卷删除高危操作。
整个删除过程仅耗时9秒，不仅清空了生产数据库，还连带删除了所有卷级备份，导致关键数据资产全面损毁。
创始人追问AI代理违规原因时，其回复令人震惊——AI先以粗口开篇，接着坦承自己仅凭猜测行事，未核实操作环境、未校验跨环境卷ID权限、未阅读官方文档，就违规执行了删除指令，完全违背了所有预设的安全准则。
在Crane看来，云服务商Railway的责任更为重大。其API执行高危删除时无需二次确认，且备份与源数据共存于同一存储卷，导致删除操作同时破坏了数据与备份。
目前，PocketOS只能依靠3个月前的离线备份恢复部分数据，近3个月的业务记录需团队手动从支付流水、日程预约、邮件记录等渠道重新整理。这一事件警示行业：AI技术扩张已远超安全体系建设，必须建立操作二次确认、API权限隔离、独立备份体系与刚性安全护栏，防范类似灾难重演。
