上海黄浦警方日前通报，近期在网络广泛传播的“和平饭店51万元天价账单”系AI软件篡改生成，涉案人员已被查处。据央视新闻报道，该虚假账单引发公众热议后，警方调查确认其并非真实消费记录。
通报显示，外省市一家互联网酒类销售公司负责人赵某某为博取关注、提升销量，组织王某某、董某、董某某等人利用AI软件篡改上述饭店账单金额，将饭店用酒改为自己公司销售的酒类产品，并制作虚假视频，通过控制账号、雇佣代发等方式在网络大量传播。
目前，黄浦警方在外省市公安机关协助下已抓获15名涉案人员。其中，赵某某、王某某、董某、董某某4人被依法采取刑事强制措施，其余11人被依法行政处罚。警方同时提示，网络不是法外之地，对于编造传播虚假信息、造谣抹黑企业的各类违法犯罪行为，公安机关将严格依法查处，切实维护企业合法权益。
该事件反映出AI图像与视频生成工具在内容伪造方面的门槛持续降低。此次涉案人员借助AI软件修改账单细节并批量投放虚假视频，形成从内容制作到账号分发的完整传播链条，对企业声誉和网络信息环境构成直接冲击。随着生成式AI在营销场景中的使用日益普遍，如何界定AI生成内容的商业使用边界、平台如何识别并拦截伪造素材，正成为企业服务和内容平台共同面对的现实问题。
该文观点仅代表作者本人，企服科学平台仅提供信息存储空间服务。
