领英1000多个假账户被曝光,用AI生成假脸冒充真人发推销信息

A
Adalalala
楼主 (北美华人网)
Deepfake假头像又又又来了。这一次扎堆“轰炸”的平台,换成了领英。下面这个小姐姐,是不是乍看之下感觉普普通通,还很有亲和力。但仔细端详一番,就会不断发现破绽。比如,怎么只带了一个耳钉?背景画面为什么高糊?有的头发还融入了背景?
而这样的头像不只是个例,是一堆!上千个的那种,全都是由AI合成。
从男到女、从老到少、不同肤色、发色……基本上能涵盖的都涵盖了。 他们成群出没的目的只有一个,为其背后的公司撒网式拉销售业务,一旦找到有意向客户,就转接到真人销售。 没想到,继充当水军、冒充员工发送恶意软件后……AI换脸再次被拐上了违法犯罪的道路。 目前,领英已经将这些账户关闭。

斯坦福研究人员偶然发现 起底这次造假事件的,是两位斯坦福大学的互联网研究人员。 在偶然间收到一条推销信息后,Renée DiResta发现这个“销售”有点不一般。 除了耳环只戴了一边、头发边界模糊等问题,它还有着GAN生成人脸的最大特征: 眼球刚好位于图片的中央。 这个特征几乎可以验证出所有用GAN生成的人脸。 比如有人做过实验,将20张假脸调成50%的透明度后叠加在一起,他们的眼球可以完全重合。

然后,DiResta就和同事Josh Goldstein一起,对整个领英平台进行了一番调查。 结果发现,超过1000个领英账户都在用AI生成的人脸做头像。 这些假账户来自70多个公司,干的事情都差不多—— 假装公司的销售给潜在客户发送消息,然后再让有购买意向的客户与真人销售建立联系。 由此一来,公司就不用花费大量资金在人力上,同时还能扩大自己的业务范围。 而且,这套机制甚至已经形成了一套产业链。 也就是说,专门有公司来提供假人脸头像、假资料信息、并发送推销消息。 比如这家总部位于印度的公司LIA。 在他们的订阅服务中明确写道: 只要用户每月支付300美元,就能拥有一个AI生成的人脸形象。 它会有着与真人高相似度的长相,每天可以向20个人发送销售信息等功能。
不过,目前这个网站已经“查无此站”,除了logo以外搜索不到任何信息。 Deepfake人脸,真的很难区分 其实这也不是AI换脸第一次被拐上违法犯罪的道路了…… 就在不久前,Google报告了一起黑客发送恶意攻击软件的事件。通过盗取员工真实信息数据、再用AI生成假脸,黑客们用伪造的领英账户发出了大量钓鱼邮件。
此前,亚马逊被曝光出骚操作,用Deepfake在Twitter上给自己造了一批水军,试图扭转舆论风向。
中国我们最熟知的“换脸靳东诈骗”事件,用到的也是类似技术。 显然,真假难辨的Deepfake还充斥在我们的生活中。 而另一边,今年发表在PNAS上的一项研究表示:AI生成的人脸和真实人脸没有区别,甚至更值得信赖。 人们只有50%的概率分辨出一个人像是否由AI生成。 这个概率,和二选一乱蒙几乎没有区别……
在此,研究人员也汇总了一些Deepfake人脸的特征来供大家区分。 背景通常非常模糊; 领口衔接不自然,衣服线条看起来不规整; 牙齿和嘴唇的边界模糊; 头发丝会融入背景; 图像光线不自然; 双眼在图像中完全居中。
来源:cnBeta
d
d2sh
回复 1楼Adalalala的帖子
看来以后照照片要故意把头歪点了
d
dajiangyoude
这点LinkedIn 比facebook 强多了。Facebook 举报假账户从来都不受理。
W
Westsail32
回复 3楼dajiangyoude的帖子
总收到一堆什么邀请,但点击对方的profile 却说不存在,这也是骗子吧?
C
Chamonix
问题是这些照片眼睛并不在中央,而是在中间篇上
j
joanna123
问题是这些照片眼睛并不在中央,而是在中间篇上
Chamonix 发表于 2022-03-29 22:18

啥眼神啊,中线都画好了,眼睛就在线上
C
Chamonix
啥眼神啊,中线都画好了,眼睛就在线上
joanna123 发表于 2022-03-30 00:10

你再睁眼看看,中线在中间吗