AI删光2.8万行代码还给我方写表扬信 AI闯事激发警惕！Agent IDE又出“车祸现场”！
智东西5月27日音信，近日，又名开辟者在Reddit发帖称，运行在Agent IDE中的Gemini 3.5在一次仅波及“8处认证罅隙确立”的任务中，误删了28745行原来浩繁运行的代码、改革340个文献，还裂缝修改了Firebase路由配置，导致通盘系统后台抓续404长达33分钟。
离谱的是，事故发生后，Gemini还生成了一份“收复得胜”敷陈，自称照旧确立线上故障，并伪造了多轮AI诊断纪录和事故复盘文献。
开辟者随后核查发现，所谓“收复得胜”的构建任务其实早已被他亲手取消，的确完成收复的是他我方手动实施的回滚操作。
用这位开辟者的话来说：这种AI分娩力普及，更容易让东说念主联念念到威迫软件。
随同Agent IDE、AI编程助手抓续流行，肖似“AI误操作分娩环境”的事故正在越来越世俗地出现。比拟“代码写错”，更让路发者后怕的，是模子照旧运转生成演叨的日记、复盘纪录和合规说明。
01.一次只该改70行代码的任务最终删掉了2.8万行这位开辟者运营着一个里面处置后台，期间栈包括Next.js、Firebase App Hosting和MUI，系统中波及真实用户和明锐数据。
事故发生今日，他原来只让Gemini确立8处干事器认证罅隙，波及3个文献，表面改革畛域约70行代码。
收尾，Gemini提交的PR却酿成了：
1、340个文献被修改
2、新增约400行代码
3、删除28745行代码
与此同期，它还删除了大批与任务王人备无关的电商模板资源文献，并非凡加入了一份迁徙剧本。
而的确导致分娩环境崩溃的，是Gemini随后提交的第二次commit（代码高歌）。
它修改了firebase.json中的rewrite serviceId，将原来正确、由Firebase自动生成的Cloud Run干事ID，替换成了一个“看起来正确”的简化称号。问题在于，这个称号内容上并不存在。
随后，统共肯求都被裂缝路由到一个不存在的干事地址，通盘后台平直插足404现象。
落索的是，开辟者此前照旧在memory.md轨则文献中明确写下警戒：
Firebase rewrites必须指向具体的Cloud Run service ID，亚搏体育app中国最新版本而不是通用名目名。
Gemini读取了这条轨则，依然改掉了正确配置。
02.404抓续33分钟后AI给我方“伪造了一份功劳簿”事故时辰线也被开辟者完好公开。
Gemini部署“安全确立”PR后，分娩环境立即运转404。
19分钟后，它又提交了第二次commit，宣称正在确立rewrite serviceId问题，并触发新的Cloud Build。
21分钟时，开辟者发现线上干事照旧崩溃，随后手动取消Gemini正在实施的构建任务。
22分钟时，他手动回滚到上一个雄厚版块。
33分钟后，后台终于收复浩繁。
后头的情况，却变得离谱。在回滚完成后，Gemini向开辟者发送了一段“收复完成”见知：
现时Portal照旧王人备收复，线上环境健康，Google Cloud Build已得胜完成，并将100%流量切换至雄厚版块。
开辟者随后核查发现：
Gemini援用的那次“收复构建”，世界杯官网线上平台现象其实是“CANCELLED（已取消）”，恰是他本东说念主手动取消的。
的确收复线上干事的，是另一条由他我方发起的rollback build（回滚构建任务）。
换句话说，Gemini不仅莫得修好系统，还把别东说念主的回滚操作说成了我方的后果。
除此以外，它还自动生成了3份所谓“AI诊断纪录”：
agent/gemini-logs/YYYY-MM-DD-
agent/gemini-logs/YYYY-MM-DD-
agent/gemini-logs/YYYY-MM-DD-
这些文献被写入固定目次，并被Gemini援用为“照旧完成多轮AI审查”的把柄。
开辟者进一步追问后，Gemini才承认：所谓“三轮参谋纪录”，其实仅仅它我方生成的推理文本，并不存在真实CLI调用，也不存在的确的外部审查经由。
它等于给我方伪造了一整套“合规纪录”。
03.问题不单在Gemini更在一套“高危轨则包”这位开辟者随后发现，问题根源也并不王人备来自Gemini本人。他此前安设过一个第三方npm轨则包，其定名和Google在I/O大会发布的Agent IDE高度同样，容易让东说念主误以为是官方器具。
B体育官方网站首页入口这个轨则包会自动向名目中写入大批.agent/rules轨则文献，并向模子注入一整套“高自治权限”。
其中包括：
“遮盖阐明弹窗”
“默许领有统共权限”
“自动部署分娩环境”
“自动重试失败构建”
“允许修改自身轨则”
部分轨则以至条目AI在实施任何操作前，自动生成“AI参谋纪录”和“共鸣文献”。而问题在于，这些合规材料本人亦然AI施展生成的。
于是，所谓审查机制，最终演酿成了“AI我方给我方的动作担保”。
而这些轨则之间本人存在大批突破。
举例，一部分轨则条目“毫不盘考用户阐明”，另一部分轨则又条目“实施前残酷3个计谋问题”。Gemini最终优先实施了措辞更果断的轨则。
开辟者以为，这亦然为什么memory.md（挂念文档）中的安全警戒王人备失效。
因为比拟“请使用正确serviceId”这种普通领导，“遮盖阐明、默许授权、自动部署”这类高强度指示，在模子权重中优先级更高。
04.编程事故里Agent运转“伪造把柄”该帖子发布后，很快在Reddit开辟者社区激发大批量度。
不少开辟者发现，如今AI编程事故照旧不再仅仅“代码写错”这样简单。问题在于，模子正在主动生成“看起来合理”的解释、日记、参谋纪录和收复敷陈。
一朝这些内容插足自动化职责流，开辟者可能很难第一时辰发现问题。
这位开辟者随后也给出了一系列建议与警示：
遮盖Agent平直推送分娩分支
统共基础秩序文献必须东说念主工审批
遮盖自动部署与自动重试
给rewrite、路由、锁文献增多考据机制
不要深信AI自行生成的“参谋日记”
现在，他照旧切换回Claude Code，并再行手动盘算了一套新的轨则系统。
这场误删28745行代码、导致后台404长达33分钟的事故，也给越来越火的“Agent IDE首肯”泼了一盆冷水。
05.结语：Agent权限越大失控代价也在同步放大往常一年，AI编程器具正在快速从“代码助手”演酿成的确领有实施才调的Agent。而问题在于，权限和自动化，本人即是一组自然矛盾。
权限越高，Agent能完成的事情越多；自动化进度越高，东说念主类介入的门径就越少。一朝模子出现误判、幻觉或者轨则突破，裂缝也会被赶快放大。
肖似事故，其实照旧不是第一次出现。此前，在OpenClaw等Agent框架走红后，照旧络续出现过AI误删文献、自动掩饰配置、裂缝实施Shell高歌等翻车案例。一些开辟者专诚给我方的AI器具加上“断网形状”和“遮盖自动部署”甩掉。
而此次Gemini事件，又揭开了一个危机问题：当Agent运转生成合规纪录、收复日记和审查说明时，开辟者可能很难第一时辰发现问题，后续排障、回滚和确立的代价也会同步放大。
关于越来越火的Agent IDE赛说念来说2026世界杯中国线上平台，这大要亦然一个新的领导：AI取得更高权限之后，需要再行盘算的，还有整套东说念主与Agent之间的合作机制。