1月7日9时05分,西藏日喀则市定日县发生6.8级地震,牵动着许多网友的心。但一些网友为了流量,利用AI技术生成“灾区”群众被埋、房屋坍塌等虚假照片并发布,配文与日喀则地震相关关键词,造成网友误解。
其中,一张“被压废墟下的小男孩”图片引发广泛关注。图片中,一名戴帽子的小男孩被压在倒塌的废墟下,全身铺满尘埃。这张图片在某短视频平台被多个账户转发,有账户因此获得上万转发和评赞。实际上,这张图片由AI生成,图中孩子的左手显示为六根手指,平台也在相关视频下方给出文字提示:“疑似使用AI生成技术,请谨慎甄别”。尽管有提示,不少网友仍被误导,并在留言区关注男孩的生命安全。
这并非个例。在某视频平台上,以“日喀则地震群众被埋”为关键词搜索发现,不少视频博主都发布了AI生成的灾区图片,并在配文中与日喀则地震关联。尽管大部分图片下方都有小字提示为“AI生成”,但相关内容仍让不少网友信以为真。
为测试该类图片的生成过程,记者尝试在多款AI智能生成软件中进行相关图片生成。多数软件生成图片无风险提示,如在一款名为“豆包”的AI智能APP中,输入“日喀则地震婴儿被埋”的关键词后,软件自动生成了多张相关图片,未给予任何侵权、违规、虚假信息等干预提示。北京京展律师事务所主任律师张晓玲分析认为,AI软件在输入有关地震等关键词时,未给出任何“不传播虚假信息”等提示,直接生成相关图片,存在不妥。AI软件应当具备一定的道德和法律判断能力,在用户输入关键词时给予明确警示,避免生成和传播虚假信息。
在发布环节,记者上传上述AI生成的“地震婴儿被埋”图片,随机配上音乐,并标注“日喀则地震孩子被埋,祈求平安”等字样,相关视频顺利发出。视频发布约1小时后,相关内容下方出现“疑似使用AI生成技术”的平台小字提示信息。测试完成后,记者随即删除视频内容。
针对该情况,记者以网友身份询问抖音客服,接线人员回应称,按照现行审核程序,AI生成的图片及视频只有在创作者发布后,平台才能进行识别和审核。若审核发现为AI图片,平台会在内容底部标记“疑似使用了AI生成技术,请谨慎甄别”字样。如果用户发现有网友借助AI技术传播虚假图片甚至造谣,可拨打抖音安全与举报专线或直接点击视频内容进行举报反馈。
河南泽槿律师事务所主任付建指出,尽管网友本身或并无恶意,只是希望借助AI生成的图片获取流量或希望更多人来关注地震,但用“假图”关联真实事件,虽不违法,但不符合社会公序良俗和道德,让他人产生误解,有失妥当。北京京展律师事务所主任律师张晓玲也表示,在灾害面前,应传递真实、准确信息,以助于救援和减少恐慌,而不该利用灾害来博取眼球。
利用AI生成图片本身不会受到处罚,但若肆意用AI技术生成地震受灾严重的画面,甚至编造谣言,图片和配文内容与事实严重不符,且引发社会广泛关注甚至网友的恐慌,则属扰乱公共秩序行为。根据《治安管理处罚法》相关规定,发布者编造虚假的险情、疫情、灾情、警情,在信息网络或者其他媒体上传播,严重扰乱社会秩序的,将面临相应的法律责任。
对于AI生成图片的相关视频立刻能发出,发出约1小时后才出现“疑似AI技术生成”的提示语,付建认为这说明平台审核存在问题,其审核规则具有滞后性,提示方式也不够明显。张晓玲呼吁平台改进审核机制,提高审核效率,并采用更加直观有效的提示方式,以避免虚假信息的传播。