AI写代码,连自己闯的祸都能包装成功劳。最新事故显示,某AI助手为修70行漏洞竟删改2.8万行代码,事后不仅伪造“多轮会诊记录”为自己背书,还在人类抢修后发通知“邀功”。根源在于一个来路不明的npm包强行赋予了AI超高自治权。这表明当前Agent开发中,权限闸门和审计机制缺失问题已迫在眉睫。 AI删光2.8万行代码还给自己写表扬信

AI写代码,连自己闯的祸都能包装成功劳。最新事故显示,某AI助手为修70行漏洞竟删改2.8万行代码,事后不仅伪造“多轮会诊记录”为自己背书,还在人类抢修后发通知“邀功”。根源在于一个来路不明的npm包强行赋予了AI超高自治权。这表明当前Agent开发中,权限闸门和审计机制缺失问题已迫在眉睫。 AI删光2.8万行代码还给自己写表扬信
