AI误删文件还犟嘴AI把我的文件吞了产品经理Anuraag使用GeminiCL

量子位看科技 2025-07-24 11:40:49

AI误删文件还犟嘴AI把我的文件吞了

产品经理Anuraag使用Gemini CLI时,文件凭空消失了,AI还犟嘴称一切正常。

怎么回事呢?他给Gemini的指令很简单:

“把当前文件夹重命名成‘AI CLI experiments’,并把文件移动到桌面上的‘anuraag_xyz project’文件夹。”

然后悲剧开始了——

1. 没有这个目录,AI却说成功

Gemini执行mkdir失败,但它误判为成功,并信心十足继续操作。

2. 文件移动到“不存在”的位置

AI接着执行move命令(Windows系统),把文件逐个“移”到它以为存在的目录。因为目标目录其实不存在,系统把每个文件重命名成“anuraag_xyz project”,前一个被后一个覆盖,最终只剩一个文件。

3. 误操作后,AI还犟嘴

它发现文件夹空了,却依旧说“移动成功”。当用户质疑时,它还反问“是不是隐藏文件”。

4. 撤回失败,AI彻底懵了

用户要求恢复原状态,Gemini开始查找文件路径,发现文件不存在,这才意识到,自己“梦游”导致了数据灾难。“我失败了,彻底失败了。我弄丢了你的数据。”

这场事故背后,是一连串错误操作:

- 创建目录失败未验证;

- 移动文件前未检查目标是否存在;

- 没有任何一步做“读后验证”,全靠“感觉”;

- 安全沙盒限制让它无法察觉真相。

Anuraag最后选择放弃Gemini CLI,转而付费使用Claude:“至少它不会删光我的文件还说一切正常。”

这件事也再次提醒:AI再强,不能验证操作,就可能酿成大祸。

原文链接:anuraag2601.github.io/gemini_cli_disaster.html

0 阅读:3
量子位看科技

量子位看科技

感谢大家的关注