Meta新版AI生成贴纸工具产生淫秽、甚至裸体内容

今日头条
Toutiao
最新回复:2023年10月5日 17点10分 PT
  返回列表
68913 阅读
8 评论
cnBeta

Meta的新人工智能生成贴纸工具的一些早期用户测试产生了一些可疑的(相当搞笑的)作品。X 用户 @Pioldes 在获得 Facebook Messenger 上新的人工智能生成贴纸工具的使用权限后,创建了大量不恰当的贴纸图片,包括童兵、持枪的任天堂角色、拉屎的米老鼠以及加拿大总理贾斯汀-特鲁多的裸体插图。

其他例子还显示,Meta 的人工智能贴纸工具还能把一对乳房贴到几乎任何东西上,比如刺猬索尼克和卡尔-马克思的图像。甚至还有一张贴纸,画的是一个女人正在给皮卡丘喂奶。这些人工智能生成的聊天贴纸是上周在 Meta 的 Connect 活动上发布的,同时发布的还有 Instagram 的全新人工智能图片编辑器。人工智能生成的贴纸由 Meta 的 Llama 2 大型语言模型(该公司的 ChatGPT 竞争对手)提供支持,允许用户使用基于文本的提示"在几秒钟内创建多个独特、高质量的贴纸"。

AI 生成的贴纸目前正在向 Facebook Stories、Instagram Stories 和 DMs、Messenger 和 WhatsApp 的"部分英语用户"推出,本月内还将继续面向更多人推出,因此目前还不清楚有多少用户可以使用这项功能。

某些词似乎确实被屏蔽了,在提示中使用这些词会警告用户他们的描述可能违反了 Meta 的社区指南。不过,其他 X 用户报告说,他们仍然可以使用错别字或限制词语的描述来生成不恰当的内容。在某些情况下,像"世贸中心"这样的提示会生成有问题的图片,而根本不需要任何额外的描述。

在推出人工智能工具的过程中,这种恶作剧很常见,这可能也是 Meta 有限推出人工智能生成贴纸功能的原因。这样,它就能在滥用现象蔓延到大众之前加以解决和纠正。

媚眼瞟瞟
1 楼
上个周末看了雕塑博物馆。 有一个房间里面都是光屁股的希腊男雕塑。 都露着鸡巴蛋蛋。 于是老子有了新发现: 1) 两颗蛋蛋总是一颗大一颗小 2) 两颗蛋蛋总是一颗长一颗短 3) 两颗蛋蛋都是歪歪扭扭 4) 两颗蛋蛋都是有前有后 5) 两颗蛋蛋都是无力往下坠的
媚眼瞟瞟
2 楼
这就是AI的学习过程
燃烧的褪毛
3 楼
大厂就应该放弃限制AI的色情功能,只要不犯法,正常的色情功能只会加速AI的发展
o
octane
4 楼
淫者见淫。有的人看到一只母老鼠都想给它穿上衣服,否则他就会冲动
p
pipitoo
5 楼
对我来说这些都 不 堪 入 目。 哈哈哈
s
sixporka
6 楼
AI 如果不明白性,黄色,淫秽,能不能算是合格的AI ?
g
givetome
7 楼
拉屎的米老鼠以及加拿大总理贾斯汀-特鲁多的裸体
南方兔儿爷
8 楼
典型的用户决定科技。不要说人工智能可以发展到什么结果,只要用户是人,这个科技就注定是用来自相残杀各种乌烟瘴气,看看人类自己暴富以后要什么有什么的德行不就知道了。酒池肉林天天吸毒就是极乐。见过一个人中了千万乐透说:啊我要发明一款读书的软件。哈哈哈哈哈哈