设为首页收藏本站

BC Morning Updates

 找回密码
 注册

QQ登录

只需一步,快速开始

查看: 21|回复: 0

胡ZAO非为与IT伦理

[复制链接]
发表于 2019-9-5 06:17:31 | 显示全部楼层 |阅读模式
你ZAO吗?

一夜“成”明星不再是梦。

从上周末开始,一个名为“ZAO”的AI换脸App忽然火爆全网,用这款App制作的换脸视频在微博、朋友圈随处可见。

只要一张照片,想附体谁就附体谁!▼

ZAO在第一个公开版本发布不到24个小时里迅速蹿红,不仅在社交媒体上刷屏,更登上苹果iOS免费榜第二,微博热搜话题榜前十,堪称“现象级”。

而这个刷屏的背后,其实与我们每一个人的生活都息息相关。


01 陌陌打造,技术用于情色视频

ZAO最大的噱头是和明星“换脸”,并且嵌入短视频中,可下载后传播,用于社交娱乐。

而“ZAO”是由著名线上交友软件“陌陌”团队打造,两位实际控股股东都是陌陌公司的高管。

值得一提的是,ZAO的开发商显示为“长沙深度融合网络科技有限公司”,而陌陌创始人兼CEO唐岩本人就是湖南人。

不过,其实AI换脸视频并不是新鲜事了。

换脸技术七八年前就有了,比如电影《速度与激情7》里,保罗沃克就是用AI技术合成的,花费了千万美金。

但民间的换脸软件,因为逼真程度较差,反响一般。直到2017年12月,一名ID为Deepfakes的码农大牛,在Reddit网站上上传了一段“名人AV”视频。

当时,“deepfakes”把情色电影里的女主角换成了盖尔·加朵等好莱坞明星,这也是世界上所有人们第一次公开见识到AI换脸的强大。

而他随后也制作了一系列“明星AV”合成视频。



但是很快就出现了问题。

比如DeepFakes把希拉里和特朗普做成夫妻的,把他俩脸做在一起的,把他俩做到色情片里的,玩法多种多样。

人们的智慧是无限的,只要有工具出来,就一定会给玩出花样来,而且早期的花样一定不够高尚而且低俗色情的。

由于尺度过大,Reddit论坛迫于压力封杀了“deepfakes”的账号,不过这次封杀却让“deepfakes”直接开源了其AI换脸项目的代码——完全免费公开。

在代码开源后,AI换脸技术已经有如普罗米修斯盗来的火种,一瞬间撒遍了世界各地。

一下子人人都成了AI换脸专家。

▲景甜换脸AV

只要稍微懂一点技术的人,都可以使用他们的技术来套层壳来玩儿,ZAO也是诸多衍生APP之一。

ZAO运用的是Deepfake技术,但是Deepfake的相关App在国外因为道德、伦理和隐私问题已经被禁用;

但在我们国内,在这个色情网站都不敢触碰的AI禁区,ZAO却可以大张旗鼓的商业应用。

不知道玩ZAO的用户知不知道,在你玩这款APP的时候,自己脸部数据已经上传到企业服务器,可以卖钱的。

02 吃相难看的用户协议

因此,这款APP看似有一张有趣的皮囊,但其灵魂并不好看。

我们平时并不会多看上一眼的用户协议中的隐藏着巨大猫腻,以及让人无法接受的法律风险。

为什么我会这么说,首先我们先来看看ZAO的用户协议。

用户协议第6条第1款是这样规定的:

这密密麻麻一大段话是什么意思呢?

意思是,当你选择使用这个app以后,根据协议内容,该app除了可免费使用并修改你的肖像,还可以将它任意授权给自己想授权的第三方,当做信息进行贩卖。

所以当有一天,你在ZAO或者其它关联平台上发现你的脸被随意变换、不再属于自己的时候,你想起诉ZAO,不好意思,它会拿出这个协议来堵你的嘴,告诉你你自己早已同意。

其次,我们再来看看关于侵权的规定。第6条第2款明确规定:
这又是什么意思呢?

比如现在你将杨幂的脸换成自己的脸,你除了要保证自己永久、不可撤销地把自己的肖像免费给ZAO使用,还要保证杨幂同意ZAO及关联公司使用她的肖像...

但是问题来了,你又不认识杨幂,你怎么能确保?这不是在搞笑吗?

而它这么写,说白了,就是因为自己没钱拿到明星们的授权,为了日后侵权的问题,它通过这个协议,可以将锅甩给你们。

而在此情形下,协议第七条第7款规定:

这条意思就是延续上一条,如果杨幂状告ZAO,主张自己的肖像权被ZAO平台滥用,那ZAO完全可能说这不怪我,技术无罪,要怪就怪这些换你脸的用户,并且,即使ZAO承担了平台责任,其也完全可以起诉具体用户进行追偿。

对于这样的用户协议,我只能说吃相未免太难看了点,他们把自己的屁股擦得非常干净,将侵权的苦果全部甩给了用户。

所以,现在你们明白了吗?

你今天在网上换脸,觉得很开心,其实你在无形中,已经成了一名你最不齿的侵权人。

更惨的是,你的脸,也不再只属于你自己,它也归ZAO,及它想授权的所有人。

更感到后怕的是,截至我发这篇文章,已经不知有多少用户同意了这份吃相难看的协议,丧失了自己的肖像自主权。

而我选择将用户协议分析给你们,也只是希望你们能将这篇文章转发给所有对这个app感兴趣的人。

因为他们很有可能在不明所以的情况下,就对app进行了使用,同意了协议。

你可能以为只是在用户协议那点了个小小的勾,但你在点确定的一刹那,你已经无形之中丧失了很多本属于你自己的东西。

而这些东西,其实是你无比珍视的“脸面”。


03 AI技术的“潘多拉魔盒”

除了利用协议进行漂亮的肖像权风险的转嫁外,还有一个值得我们探讨的就是——

技术真的是无罪的,中立的吗?

似乎是,至少很多技术的开发者自己是这么认为的。

快播的王欣在法庭上那句“技术是无罪的”言犹在耳,谷歌的态度更具代表性和普遍性:重视道德责任,但如果对新技术严加限制,可能会让延缓开发出一些对人类有益的用途。

而DeepFakes的开源,更是打开了“人脸识别技术”的潘多拉魔盒。

这种无缝替换人脸的技术,在黑产可以玩出无数的花样。

例如诈骗,使用这项技术无缝把老人子女的脸融入视频中,不管是生病要钱,还是绑架,还是转账,都很容易骗到老人。

例如敲诈,使用这项技术把受害人脸加到一些黄色视频中,然后威胁不给钱就群发散布,实际上很多高利贷的催收就喜欢这么玩,只不过过去的P图不够震撼。

在这种情形下,如果研发人员说,他们不对技术的伦理负责,只想赚钱;如果使用者说,他们不想检讨技术的阴暗影响,只为好玩。

那么我们指望谁来促成技术、法规和使用需求的良性耦合呢?

2019年6月13日,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术对国家、社会和个人的风险及防范和应对措施。

这是美国众议院首次举办专门讨论深度伪造及其他类型的AI合成技术的听证会。

而未来,AI深度伪造会发展成什么样,给我们的生活造成什么影响,AI究竟是普罗米修斯的火种还是潘多拉的魔盒。

我们目前不得而知。

04 不容忽视的AI伦理

百度李彦宏曾经“大无畏”地说了实话——中国的互联网用户们“愿用隐私换方便”,而被口诛笔伐。

但是现在想想又何尝不是呢?

我们一边吐槽条款,一边抱着“反正这么多人用,暴露隐私也轮不到我”的心态,享受着软件带来的朋友圈流量、点赞、虚荣。

我们正在渐渐的,忍受着各种APP窃取我们的短信、通讯录、照片,甚至是我们的位置。

我们允许它们偷听我们的谈话,偷偷的打开我们的摄像头,看看我们是否裸睡或者甜言蜜语。

我们更允许这款ZAO,要了我们的“脸面”,然后,满足我们意淫的快感,和所谓的“李现”进行虚拟对戏。

然后,在图了各种便利和爽快后,我们的“脸面”也被廉价的搜集了。我们在悄然不断的把我们所有的隐私都泄漏了。

你的一次次放纵和贪图方便,已经把你自己的“脸面”、“指纹”、“声波”、“心率”、“视网膜”、“基因”等等,都被廉价的贩卖给了大数据。

然后大数据比你自己还懂你。

它引导你每次冲动的消费行为。

它控制你每次兴高采烈的点击购买。

它驱使你悄悄的贩卖自己一切可以贩卖的东西。

《天龙八部》里的扫地僧说,少林七十二绝技每练一技都需要相应的佛法才能化解,而要把七十二绝技学成于一身需要极高深的心法修为,萧峰和慕容复的老爸都因为偷学绝技但心法没跟上而深受其害。

技术发展日新月异,对人性的反噬潜移默化,人的修为跟得上AI吗?

昨天还是一键美颜,今天就能一键换脸,明天会不会一键生成个人虚拟形象?

现在,我们要为分辨色情视频中的明星的脸是不是合成的。

未来某刻,我们可能就得分辨眼前的人究竟是不是自己,究竟是不是亲人,而不是一个虚拟的合成。

看着朋友圈那一张张被换掉的脸,浮现出福柯在《词与物》结尾的话,“人将被抹去,如同海边沙滩上一张脸的形象那样被抹去。

在未来的AI年代,我们每个人最大的问题或许会是——

你是谁?
我又是谁?


本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?注册

x
您需要登录后才可以回帖 登录 | 注册

本版积分规则

QQ|手机版|BC Morning Website ( Best Deal Inc. 001 )  

GMT-8, 2019-9-21 10:08 , Processed in 0.083778 second(s), 23 queries .

Supported by Bestdeal Online

© 2008-2019 BestDeal Online Inc.

快速回复 返回顶部 返回列表