24岁女子被AI篡改成色情片主角,她用科技之剑反击!

今日头条
Toutiao
最新回复:2024年5月21日 11点38分 PT
  返回列表
51417 阅读
18 评论
追着大事跑的人

Breeze Liu的故事激励了全世界。

面对网络上的深度伪造色情片,Breeze Liu女士并未选择沉默。“除非我彻底改变这一现状,否则我无法实现正义,”她坚定地说。

据美媒报道,24岁那年,Breeze Liu发现自己成为了网络上不实色情内容的受害者。在经历了报警、寻求删除内容却屡屡受阻的困境后,她决定自己动手,寻找解决方案。

Breeze Liu的公司Alecto AI正在研发一款面部识别软件,旨在帮助受害者识别并删除那些被滥用和篡改的内容。2020年4月的一个下午,当朋友告知她网上出现了她的色情视频时,她立即否定了这一说法:“这不可能,一定是弄错了。”

然而,不久之后,她在一个知名成人网站上亲眼看到了那张熟悉的脸庞被恶意篡改的视频,强烈的恶心感涌上心头。“那一刻,我感到了前所未有的崩溃。”她回忆道,“我感到极度羞辱,仿佛被世界遗弃。”

2023 年,Breeze Liu 女士和参议员 Amy Klobuchar 在华盛顿特区举行的 Reclaim Coalition x Panorama x Bumble 活动中,以结束基于图像的在线性暴力。

面对绝望,Breeze Liu曾一度站在父母公寓楼的屋顶,思索着是否结束这一切。但她最终选择了坚强,决定与这不公抗争到底。

她向加州伯克利警方报案,并提供了嫌疑人的线索——一名她曾在加州大学伯克利分校就读时认识的学生。但警方的回应让她失望:“他们告诉我,他们无能为力。”

这激发了Breeze Liu的斗志。她在加密货币领域多年的经验让她对技术有着深入的了解。于是,她开始着手研发一款能够识别并删除虚假色情内容的面部识别软件。“我必须改变这个系统,才能为受害者伸张正义,”她坚定地表示。

这场突如其来的风暴彻底改变了Breeze Liu的生活。从2013年17岁从中国移民至今,她眼睁睁地看着自己的生活因这段内容的传播而陷入混乱。短短10天内,她瘦了12磅。“我试图保持正常的生活,但内心却时刻在尖叫。”她说,“每当有人从我身边经过,我都会想,他们是不是看过那段视频?”

Breeze Liu勇敢地与嫌疑人交涉,成功让他从最初的成人网站上删除了视频。但不久后,类似的帖子又在数百个网站上泛滥。她拒绝了他的羞辱和挑衅,决心要为自己讨回公道。

在报警的过程中,她遭遇了更多的打击。警方甚至质疑她是否曾经从事不法交易。三个月的调查无果而终,执法部门对此事也未曾作出回应。

Breeze Liu最终发现了800多个包含她深度伪造材料的链接。但由于官僚主义的阻碍,她无法将它们全部删除。这让她意识到,这样的遭遇并非个例,而是普遍存在的问题。

Breeze Liu女士以科技之剑斩断AI色情魔爪。

因此,到了2022年,Breeze Liu利用自己的积蓄在旧金山创办了Alecto AI公司。这家公司利用面部识别技术帮助用户找到并删除深度伪造的视频和其他内容,然后与各大平台合作进行删除。

在全面推出之前,Alecto AI仍在等待新一轮的融资。但Liu的合资企业无疑为解决这一影响深远的问题提供了急需的工具。

“这种行为给受害者带来的心理和情感创伤是巨大的,”布法罗大学的计算机科学家Siwei Lyu指出。目前,针对深度伪造色情内容的制作和传播尚无法律约束,而这些内容可以在几分钟内借助日益先进且易于获取的人工智能工具轻松创建。

“我无法控制国会或执法部门的行动,”Breeze Liu坦言,“但有一件事是我们可以控制的——那就是我们自己在网络上的形象主权。我正在构建的这款软件是受害者夺回权力的第一道防线。”“我曾想过逃避、躲藏,”她接着说,“但现在,我不会再这样做了。”

文学之剑长
1 楼
为拿融资什么故事都敢讲,某些国人出来后也是挣钱不择手段
4
401.king
2 楼
没搞懂,伪造视频是咋弄的?那会儿不是还没有AI吗?
r
rainman_123
3 楼
好样的。一楼心理不要太阴暗。
k
kdgirl
4 楼
女孩的公司会越来越好的,AI发展需要这样的公司,中国人的骄傲!
初心依旧
5 楼
"在报警的过程中,她遭遇了更多的打击。警方甚至质疑她是否曾经从事不法交易." 感觉怪怪的。 她成为目标的原因是?
z
zhongguoren8
6 楼
这脸看着就别扭。
青羊宫
7 楼
这种东西还得靠司法。罚P站一两亿问题就解决了。
F
FollowNature
8 楼
不论从法理,版权,形象权及因私各方面考虑,随便用别人的形象及身份都是严重的问题。应该立法,加重判罚。用科技判别解决不了根本问题。人工智能的发展会越来越被动犯罪分子利用。
r
r41866
9 楼
搞不懂它这个工具如何能反击呢?最多就帮助找到那些视频或者照片,接下去能不能删还是要靠各个网站平台帮忙。如果那些网站不合作怎么办?
t
testmobile
10 楼
是有点奇怪,那么多名人和更漂亮的不模仿,模仿这张脸, AI 也不是很容易操作的, 需要人手和算力,模仿她的需求这么高吗?
p
pandali
11 楼
不信
5
5AGDG
12 楼
100%自己干的,否则既不漂亮,又不有名,谁愿意花大力气去改她啊
争争日上
13 楼
动机?
a
aquestion
14 楼
好恶毒的坎坷,这种事情发生在非名人身上,一般是身边的爱慕者暗恋者干的。比自己做的可能性的的多。
b
bluetag
15 楼
确实,没理由选她。
L
LaBrisa
16 楼
Brava!
h
hyperyan
17 楼
AI左右开弓,造视频,又删视频,凭空GDP,做得好生意!
臭老王
18 楼
Alecto AI 的融资广告。