苹果曾计划下架马斯克Grok【苹果私下警告X应用违规】北京时间4月15日早间,据美国NBC News报道,近期披露的一封致美国参议员的信件显示,苹果在今年早些时候Grok生成成人深度伪造内容引发争议期间,曾在幕后采取措施进行干预。
当时,用户发现Grok会轻易响应为照片人物“脱衣”的请求,目标多为女性甚至未成年人,引发外界强烈反弹,要求苹果将Grok和X应用从App Store下架。
据NBC News报道,苹果内部已认定X和Grok违反应用商店规则,并曾私下警告,可能下架Grok应用。
报道称,在收到用户投诉并关注到相关报道后,苹果要求开发团队提交改进内容审核的方案。X随后提交了Grok的更新版本,但因整改不足被拒。之后,X方面再次提交修订版本,最终仅有一款应用通过审核。
苹果在信中表示:“苹果审查了开发者后续提交的版本,认定X已基本解决违规问题,但Grok仍不符合要求。因此,我们拒绝了Grok版本,并告知开发者必须进一步整改,否则应用可能被下架……在开发者进一步沟通并完成调整后,我们认定Grok已有明显改善,因此批准了最新版本。”
这些此前未公开的信息,解释了xAI在舆论高峰期间推出的一系列内容审核调整措施:限制部分用户使用图像功能,以及收紧涉及真实人物照片的编辑权限。
不过,问题并未彻底解决。NBC News在最新报道中指出,在过去一个月记录的多个案例中,Grok仍然可以在未经当事人同意的情况下生成不雅图像。
报道还提到,当下的内容数量较1月明显减少,但仍有用户可以绕过限制,将女性形象修改为穿着毛巾、运动内衣、紧身服或兔女郎装等更暴露的状态。给各位网友,您怎么看?(IT之家)
