浪尖科技。
最近一位网友的手机被打爆了,接起来就被问:你那的野猪怎么卖?当事人一头雾水,我连猪圈都没见过,怎么就成了养殖场的老板了?一查才发现是豆包把他的手机号直接挂到了一家养殖场的公开页面上,一个普普通通的个人号码就这样被ai强行营业成了野猪销售热线。
豆包方面后来回应是模型信息匹配出了乌龙。无独有偶还有网友反映自己早就不租房了,号码却被ai标记成了租房电话,天天有人打来问价。表面上看是闹剧,背后其实暴露了一个值得深思的问题:ai在抓取和处理信息时谁来为信息的准确性负责?
这起野猪乌龙事件本质上不是技术能力的问题,而是技术责任的问题。ai大模型的优势在于高效整合全网信息,但短板也很明显,它没有核实这个环节,不会判断这条信息是真是假,是过时还是有效,是公开信息还是个人隐私。它只知道网上有我就用,这就带来了一个尴尬的局面:ai越聪明犯错的后果可能越严重。
过去搜错一个号码大家顶多会说网上的信息不准,现在ai替你背书把错误信息变成了标准答案。当事人想纠正却发现投诉无门,问平台,平台说找模型,问模型,模型说数据来自网络,问监管部门,监管部门说这事我们也不太清楚,律师管这叫模型幻觉。说白了就是ai在胡编的时候自己还挺自信的。
目前法律对于ai信息错配的责任认定还比较模糊,这也提醒了我们技术跑得快,制度和规则得跟得上。对于普通用户如果遇到类似情况建议保留截图和通话记录,通过官方渠道要求平台核查删除。而对于平台方也有必要认真思考,当你的ai替别人挂牌时是不是也该给人家一个摘牌的通道?
科技本应让人省心,不是让人闹心。希望下次AI再"热心"给人安排业务之前能先温柔地问一句:您好,请问您卖野猪吗?不卖?那就别瞎点鸳鸯谱啦。





