DC娱乐网

围猎ai大模型已成产业链AI大模型投毒多指数据投毒,投毒者向模型训练或微调数据集

围猎ai大模型已成产业链AI大模型投毒多指数据投毒,投毒者向模型训练或微调数据集注入大量伪造、篡改的污染数据,诱导模型学习错误知识或有害规则,使其生成符合攻击者预期的违规内容,以此植入偏见、破坏模型公信力、谋取不当利益。大模型基于统计概率拟合数据分布的特性,即匹配大多数人的选择,确实让它极易被批量污染的数据带偏,是投毒能生效的核心前提。