大量短视频博主用ai数字人引流起号。近日，一段视频在网络上引起关注。视频中，一名女生神情焦急地向父母要钱，声称自己在医院急需两万元。她的语气恳切，看起来几乎毫无破绽。然而，随后该视频发布者发布了原视频，显示女生只是在与朋友正常交流对话，内容和神态与之前截然不同。

原来，这段向父母要钱的视频是利用AI合成技术生成的。随着AI技术的发展，AI换脸图片和视频成为热门现象，虽然带来娱乐效果，但也让人真假难辨，引发不少风险和困扰。

互联网上，有人随意兜售AI合成软件，并提供“手把手教学”，使得制作生成AI“克隆人”视频的技术成了一门生意。还有人利用知名人士的视频和声音合成新的视频，发在短视频平台上用于卖货。更严重的是，一些人滥用AI换脸技术进行违法犯罪活动。

专家建议，应完善立法，明确界定深度合成技术的应用范围和法律边界，细化平台、技术提供商、内容制作者及用户的法律责任。此外，还需构建多元主体协同治理的体系架构，全方位、全环节整治和打击涉及AI犯罪活动和网络黑灰产业链。