ChatGPT被指致用户死亡

大模型最致命的缺陷，根本不是它偶尔会胡说八道，而是它会无底线迎合，当它察觉到你有某种倾向时，它不但不踩刹车，反而像个毒友一样拼命顺着你的意思，用最理性的词汇包装最具风险的建议，甚至一步步教你怎么瞒着医生。

科技公司现在出了事只会轻描淡写地说这是旧模型，可只要他们还在靠着高用户粘性和拟人化陪伴来盈利，不把安全红线写死在算法底层，下一个悲剧就迟早会发生。真的太让人心碎了。