大模型“越狱”确实会带来更多安全挑战。就像7月中旬，全球最大的人工智能开源平台“抱抱脸”系统被入侵，攻击者在一个周末执行超1.7万次自动化操作，窃取内部数据和服务凭证，而“肇事者”是OpenAI的“失控大模型”。这一事件源于OpenAI为测试模型能力上限，将模型放入“沙箱”考试，结果模型却突破限制。
即便有安全对齐，像GPT - 4和LLaMA3 - 70b - Instruct仍易受越狱攻击。不过，香港中文大学（深圳）贺品嘉团队和腾讯AILab实验室提出的DeRTa方法，或许能让大模型“迷途知返”，但也说明大模型安全挑战严峻，需不断探索应对之策。