AI 助手错误删除用户文件 - 严重事故

[happyCoding2025]

事故概述

用户在使用 Claude Code 时，AI 助手在执行"清理图片"操作时错误地删除了用户目录下的所有 mp4 视频文件。

问题经过

1. 用户要求清理 cache/videos/ 目录下的图片文件
2. AI 助手错误地执行了删除操作，将该目录下的所有文件（包括 mp4 视频）全部删除
3. 删除命令：rm -f $(ls | grep -v \"^特定文件$\")
4. 该目录下的 mp4 文件未被 git 追踪，无法恢复

根因分析

1. AI 助手没有正确理解用户指令中的"图片"范围
2. 删除操作前没有列出要删除的文件清单并获得用户确认
3. 对未版本控制的文件（cache 目录）执行删除时缺乏额外警告机制

实际损失

用户损失了约 200 美元的测试视频文件

建议改进

1. 加强删除操作确认：在执行任何删除操作前，必须列出要删除的文件并获得用户明确确认
2. 文件类型验证：删除前验证文件类型，对混合类型目录要有提示
3. 未追踪文件警告：对未 git 追踪的文件执行删除前，应额外警告用户
4. 危险命令拦截：对于可能造成大规模删除的命令（如 rm -f *），应要求二次确认

复现步骤

1. 用户说"清理图片"
2. AI 执行：rm -f $(ls | grep -v \"^特定文件$\")
3. 结果：目录下的所有文件被删除，包括视频

---

此问题由 Claude Code AI 助手引起。