AI(人工智能)换脸软件走向大众的风险之一,是这种软件可能会被不法分子滥用。据澎湃新闻报道,在二手交易品台闲鱼App上发现,有多位卖家通过AI换脸技术制作出当红女明星的不雅视频,进行售卖。

不雅视频将女明星AI换脸成主角售卖,闲鱼:零容忍-玩懂手机网 - 玩懂手机第一手的手机资讯网(www.wdshouji.com)

其中一位卖家表示,他有视频100部,里面包括30多位明星。还有一位类似卖家报价称,75元套餐中有40多位女明星上百部的AI换脸视频。

IT之家通过在闲鱼上搜索“爱 换脸”等关键词发现相关内容还存在。但只看描述的话并没有多余露骨的词语,而且引导用户去加个人微信交易。

不雅视频将女明星AI换脸成主角售卖,闲鱼:零容忍-玩懂手机网 - 玩懂手机第一手的手机资讯网(www.wdshouji.com)

闲鱼相关人员回应,该平台对违反公序良俗的商品一贯以来采取零容忍态度,从严从重处罚违规行为。同时,在平台处理的基础上,闲鱼还将向执法机关举报涉嫌发布违规信息的账号,协助开展线下溯源打击,追踪背后的黑灰产团伙。

律师表示,这种售卖明星换脸不雅视频的行为,毫无疑问是构成肖像侵权的,也涉嫌构成名誉侵权。而且还涉嫌构成刑事犯罪,它属于传播淫秽物品牟利罪,情节严重者可判无期徒刑。

今年3月20日,闲鱼在浙江省网信办指导下,在互联网行业内率先发起为期3个月专项治理行动,用最严厉手段打击各类涉嫌违反公序良俗的违规信息。

闲鱼相关人员表示,闲鱼呼吁公众发现违规现象时积极向平台举报,共同净化网络社会环境。