刷爆朋友圈的AI换脸来了 别换丢了个人信息安全
2019-09-02 08:39:18
来源: 嘉兴日报 江德斌

  我们还没有习惯“刷脸”时代,更颠覆性的“换脸”技术就来了。近日,一款名为“ZAO”的软件在社交网络刷屏,这款APP利用AI技术,将视频素材中的主人公替换成用户上传的个人头像,做出融合度非常高的视频产品在社交媒体分享传播。随即,该APP涉嫌泄露用户隐私以及用户协议中的部分霸王条款引起舆论广泛质疑。

  “仅需一张照片,出演天下好戏”,ZAO使用AI换脸技术,圆了普通人一个明星梦。用户上传个人照片,置入ZAO平台上的影视片段之中,即可与莱昂纳多、佟丽娅、李现、王俊凯等明星换脸,“一键切换”变成影视剧主角。操作简单快捷,娱乐味十足,一夜之间就成为爆款,在朋友圈迅速刷屏。

  AI换脸技术近年来逐渐成熟,技术门槛随之降低,已被应用于影视、娱乐等各个方面,但也存在非法滥用的情况。此前,媒体曾曝光不法分子利用AI换脸软件合成色情、淫秽视频,诸多女明星的肖像惨遭毒手,在百度贴吧、闲鱼等平台上,还有卖家提供“定制换脸”服务。如今,ZAO打破技术门槛限制,帮助普通用户轻松实现一键换脸,可与年初“杨幂替换朱茵”的效果媲美,使得AI换脸技术得以大范围普及。不过,ZAO强制用户输入隐私信息,以及利用协议滥用隐私数据、泄露个人隐私等问题,不免引起公众焦虑与质疑。

  ZAO通过霸王条款获取用户的隐私信息,包括手机号码、面部信息、视频片段等,潜藏着巨大的数据安全隐患,存在被非法滥用的风险。目前人脸识别技术逐步被普遍应用,诸如打卡、购物、支付、手机解锁等,假如有人利用AI换脸技术弄虚作假,而人脸识别技术又无法辨识真伪的话,那么个人隐私、财产安全将无法保障,后果不堪设想。譬如,如果犯罪分子盗用了当事人的照片,利用换脸技术制作视频,以此向当事人的家人或亲朋好友实施诈骗,成功率必然大增。

  此外,ZAO此举还涉及影视剧著作权问题。2018年3月,原国家新闻出版广电总局下发的相关通知规定:“坚决禁止非法抓取、剪拼改编视听节目的行为,并严格管理包括网民上传的类似重编节目,不给存在版权问题、内容问题等的剪拼改编视听节目提供传播渠道。”可见,无论是网友通过换脸变成影视剧主角,还是ZAO为此提供技术支持,都有违反禁令之嫌。

  8月31日晚,面对舆论质疑,ZAO修改了此前的用户协议,“免费使用户肖像权”内容被删,并增加了一段特别提示,称用户上传的短视频及人脸等相关内容将严格按相关法律法规的规定保留在ZAO上。同时,用户可以依据ZAO平台规则撤回或删除上述内容,ZAO也将依据相关法律法规在服务器上予以删除。

  这一改进值得肯定,但数据安全以及版权问题并未彻底解决。AI换脸技术进步神速,如果不加以控制,将给社会带来巨大冲击,造成严重的信任危机以及个人信息安全风险。监管部门需要深入调研,对AI换脸技术进行评估,尽快建章立制,以免其走上歪路。


标签:视频;霸王条款;用户协议;质疑;个人头像;社交媒体;社交网络;视频产品;用户隐私;影视剧
编辑:方涛
精彩推荐
浙江在线地方中心版权所有
  您当前的位置 : 浙江在线  >  城市频道 > 浙江本地 > 嘉兴  正文

刷爆朋友圈的AI换脸来了 别换丢了个人信息安全
2019-09-02 08:39:18 来源: 嘉兴日报 江德斌

  我们还没有习惯“刷脸”时代,更颠覆性的“换脸”技术就来了。近日,一款名为“ZAO”的软件在社交网络刷屏,这款APP利用AI技术,将视频素材中的主人公替换成用户上传的个人头像,做出融合度非常高的视频产品在社交媒体分享传播。随即,该APP涉嫌泄露用户隐私以及用户协议中的部分霸王条款引起舆论广泛质疑。

  “仅需一张照片,出演天下好戏”,ZAO使用AI换脸技术,圆了普通人一个明星梦。用户上传个人照片,置入ZAO平台上的影视片段之中,即可与莱昂纳多、佟丽娅、李现、王俊凯等明星换脸,“一键切换”变成影视剧主角。操作简单快捷,娱乐味十足,一夜之间就成为爆款,在朋友圈迅速刷屏。

  AI换脸技术近年来逐渐成熟,技术门槛随之降低,已被应用于影视、娱乐等各个方面,但也存在非法滥用的情况。此前,媒体曾曝光不法分子利用AI换脸软件合成色情、淫秽视频,诸多女明星的肖像惨遭毒手,在百度贴吧、闲鱼等平台上,还有卖家提供“定制换脸”服务。如今,ZAO打破技术门槛限制,帮助普通用户轻松实现一键换脸,可与年初“杨幂替换朱茵”的效果媲美,使得AI换脸技术得以大范围普及。不过,ZAO强制用户输入隐私信息,以及利用协议滥用隐私数据、泄露个人隐私等问题,不免引起公众焦虑与质疑。

  ZAO通过霸王条款获取用户的隐私信息,包括手机号码、面部信息、视频片段等,潜藏着巨大的数据安全隐患,存在被非法滥用的风险。目前人脸识别技术逐步被普遍应用,诸如打卡、购物、支付、手机解锁等,假如有人利用AI换脸技术弄虚作假,而人脸识别技术又无法辨识真伪的话,那么个人隐私、财产安全将无法保障,后果不堪设想。譬如,如果犯罪分子盗用了当事人的照片,利用换脸技术制作视频,以此向当事人的家人或亲朋好友实施诈骗,成功率必然大增。

  此外,ZAO此举还涉及影视剧著作权问题。2018年3月,原国家新闻出版广电总局下发的相关通知规定:“坚决禁止非法抓取、剪拼改编视听节目的行为,并严格管理包括网民上传的类似重编节目,不给存在版权问题、内容问题等的剪拼改编视听节目提供传播渠道。”可见,无论是网友通过换脸变成影视剧主角,还是ZAO为此提供技术支持,都有违反禁令之嫌。

  8月31日晚,面对舆论质疑,ZAO修改了此前的用户协议,“免费使用户肖像权”内容被删,并增加了一段特别提示,称用户上传的短视频及人脸等相关内容将严格按相关法律法规的规定保留在ZAO上。同时,用户可以依据ZAO平台规则撤回或删除上述内容,ZAO也将依据相关法律法规在服务器上予以删除。

  这一改进值得肯定,但数据安全以及版权问题并未彻底解决。AI换脸技术进步神速,如果不加以控制,将给社会带来巨大冲击,造成严重的信任危机以及个人信息安全风险。监管部门需要深入调研,对AI换脸技术进行评估,尽快建章立制,以免其走上歪路。


标签: 视频;霸王条款;用户协议;质疑;个人头像;社交媒体;社交网络;视频产品;用户隐私;影视剧
编辑: 方涛
Copyright © 1999-2022 Zjol. All Rights Reserved 浙江在线版权所有