当用户在社交媒体上搜索泰勒·斯威夫特时，X的搜索功能遇到了错误信息，因为这位歌手的显性和性暗示的AI生成图片在社交媒体上传播。这些图片主要在X上分享，并在被删除之前获得了数百万次的观看。虽然X的搜索功能只在“媒体”和“列表”标签下显示斯威夫特的结果，但用户仍然可以使用特定的搜索操作符，如引号或“AND”操作符来找到她的内容。

这一事件凸显了人们对AI生成图片及其在虚假信息活动中的潜在危害日益增长的担忧。随着主流人工智能软件的崛起，创造逼真且有害的图片的能力也大大增强。这引发了人们对误导性的AI生成图片和视频可能被用于虚假信息活动的担忧，特别是在美国即将进入总统选举年之际。受到攻击的不仅仅是具有较大在线影响力的公众人物，还包括普通人，正如一个高中学生及其同学的照片被篡改和可能被公开分享的案例所示。

为了解决非自愿深度伪造摄影问题，即涉及创建和分享模仿某人形象的合成图片，美国有九个州实施了相关法律。这些法律旨在保护个人免受篡改图片的有害影响，并追究肇事者的责任。随着人工智能和技术的不断发展，学区和政府官员也在应对这些进展所带来的挑战和影响，强调需要采取积极的措施确保安全和隐私。