🔥 热搜 🔥
上海习近平新疆鄂州父女瓜乌鲁木齐疫情H工口小学生赛高习明泽芊川一笑图包印尼排华
分类
社会娱乐国际人权科技经济其它
🔥 热搜 🔥
上海习近平新疆鄂州父女瓜乌鲁木齐疫情H工口小学生赛高习明泽芊川一笑图包印尼排华
分类
社会娱乐国际人权科技经济其它
查看原文
其他

让杨幂“下海”的AI换脸，要彻底凉了！

chokst 熊猫人运营社
2024-09-06


来源：小雷哔哔



英特尔又在AI领域重拳出击，推出了一个叫做FakeCatcher的软件。
中文意思是“虚假捕猎者”，名字听着倒是挺帅气。
不过它的主要用途是检测和封杀那些AI换脸视频，英特尔表示这工具准确率能达到96%，效果立竿见影。
图源： 英特尔官网
但小伙伴们肯定很纳闷，英特尔调动那么多工程师，费事费力搞出来这软件，到底是为了干嘛？
按照因特尔实验室的大佬Ilke Demir的话来说，是因为AI换脸视频过于泛滥了，已经到了不得不出手制止的地步。
图源： 英特尔官网


进击的AI换脸
仔细想想，也确实是那么一回事儿。
随着一些流程小白化的AI换脸工具面世，专门制作针对某个人的AI换脸视频，已经成为新型灰色产业。
AI换脸视频最泛滥的地带，无疑是成人视频这一块...
图源： 网络
前两年DeepFace软件出炉，有不少网友用这软件，将一些女明星的脸换到了成人电影上。
和以往那些“拙劣的P图”不同，这次的AI换脸效果几乎能以假乱真。
So，一些身材姣好的好莱坞女星，如盖尔·加朵和斯嘉丽·约翰逊，就成为了AI色情片的热门换脸对象。
图源： 量子位
刚开始时，这种AI换脸女星成人电影，还只是由Reddit论坛的@deepfakes 网友自制而成的，按本人的话来说，就是图一乐。
但随着它制作的换脸视频越来越多，AI换脸的影响力也在逐渐扩大。
越来越多网友聚集在@deepfakes的专栏里，期待他的下一部女星换脸作品。
这也造成了一种奇怪的“盛况”，Reddit明明不是色情论坛，却因为deepfakes栏目的存在变得乌烟瘴气。
在里面时不时有网友提出逆天需求：
“能不能给我身边一个女性朋友做一个AI换脸视频？ ”
“有老哥可以把我老妈的脸换到这个视频上？ ”
图源： unite.ai
总之，在AI换脸野蛮生长的时期，只要点进deepfakes专栏，有90%以上都是换上女星脸部的色情内容。
就连标注着“SFW”（工作环境下浏览安全）的栏目，也被涩涩视频入侵。
图源： reddit
最后deepfake的事情越闹越大，Reddit论坛也不得不宣布封杀全站所有AI换脸内容。
图源： 网络
不过当时AI换脸技术的门槛还算高，普通人是做不出换脸程度那么高的视频的。
想要把换脸视频的效果做到以假乱真，需要大量人脸原素材。
除此以外，还得自己编程，调用生成式对抗网络算法（GAN），把明星的人脸换到视频里。
咳咳，GAN也是AI领域最常用的算法之一了。
原理是让鉴别器和生成器打架，直到鉴别器觉得 “诶，这次我都分不出来哪个是真的了” 。
那整个换脸计算过程，就大概完成了。
图源： jonathan-hui.medium.com
而AI换脸泛滥的转折点，是在2018年1月。
一个名为FakeApp的软件横空出世，彻底打开了AI换脸的潘多拉魔盒。
说白了，这软件是把deepfake换脸算法给打包套壳了，简化了很多操作步骤。
用户只需准备好换脸所需视频和一些人脸素材，再按下“换脸”按钮，等待几个小时就能验收换脸成果。
有一位完全不懂代码的网友，用上面的软件，花了5个小时的渲染时间，就生成了一个能以假乱真的明星换脸视频。
这换脸效率，得让多少做影视后期的老哥沉默啊...
图源： Vice
当然啦，作为是市面上第一个“小白化”换脸工具，Fakeapp是不够完善的。
它的换脸效果大多数情况下都不错，但要是翻起车来，那画面就显得很恐怖了...
图源： Vice
但这并不妨碍AI换脸技术的快速发展。
后面新出的Faceswap和DeepFaceLab，已经在技术上完全能碾压这位“先驱者”。


科技巨头们又是如何应对的？
AI换脸所引出的问题和风险，并不只存在于成人领域上。
它那逼真的换脸表现，还能用于网络勒索、制造谣言，甚至是影响某些地区的政治大选。
想象一下，要是没看过星际穿越的人，看到这副图，可能真会以为主角是马斯克呢...
图源： DeepFaceLab
更别说这玩意儿，还能用于政治领域。
在几年前国外的导演Jordan Peele就用FakeApp整了个活儿。
他在推特上发布了“奥巴马发言视频”，内容是奥巴马公开吐槽特朗普是傻子。
你猜怎么着，还真有不少网友信以为真，得亏后来导演揭晓了答案，不然节奏得被带得飞起。
图源： 推特
看到这里，AI换脸的危害有多深，大伙都有一定体会了。
现在咱们再把目光放到科技巨头们身上，他们是用啥方法来检测AI换脸的呢？
英特尔前两天推出的FakeCatcher，用的是“血液流动检测”大法...
当咱们心脏泵血时，身上的静脉是会变色的，而英特尔能用算法来实时捕捉脸部的血液流动，并转化为信号图。
就比如下面这张图，左边是未换脸视频，可以看到底部的信号走向是一致的。
但经过AI换脸后的视频，在FakeCatcher的信号图里凌乱无比，因为软件压根检测不到血液流动。

图源： 英特尔官网
至于其余几家科技巨头，Meta、微软和谷歌，也用上了各种方式来检测AI换脸视频。
Meta简单粗暴，直接拿出1000万美元举办AI换脸检测挑战赛，让广大网友参与其中，提供打假数据参考。
而谷歌也把收集了好几年的deepfake数据集给开源了，属于是不参与打架，但又提供弹药。
微软则是研发了Face X-Ray人脸检测算法。
图源： 雷锋网
就连腾讯也有ATDF换脸检测算法。
反正科技巨头们的行动是一致的，都要打击AI换脸视频的传播。
图源： 腾讯
当然，科技巨头们集体打击换脸视频的底层逻辑，是为了让自家平台的违法乱象得到有效管控，以免被查水表。
总之当AI换脸便捷化，它就已经不可阻挡了。
大厂们能做的，也只是做好审核这一块工作，让AI换脸色情视频能被快速封杀。
效果咱们也看得见，前几年国内外女星的换脸视频真的很泛滥，*幂、*巴被换脸，并在网络上大肆盗卖。
图源： 微博@新京报我们视频
在众多平台的共同打击下，现在已经很难再见到此类违法视频了。
只希望AI换脸这把火，不会烧到咱们普通人身上吧。

微信「状态」改版，可设置 Emoji 表情

2022-11-15

疯狂小杨哥花 1 亿买楼的真相

2022-11-15

朋友圈变了！微信新版本发布！

2022-11-14


继续滑动看下一个
熊猫人运营社
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题？点此查看未经处理的缓存