Meta新版AI生成贴纸工具产生淫秽、甚至裸体内容

Meta的新人工智能生成贴纸工具的一些早期用户测试产生了一些可疑的（相当搞笑的）作品。X 用户 @Pioldes 在获得 Facebook Messenger 上新的人工智能生成贴纸工具的使用权限后，创建了大量不恰当的贴纸图片，包括童兵、持枪的任天堂角色、拉屎的米老鼠以及加拿大总理贾斯汀-特鲁多的裸体插图。

其他例子还显示，Meta 的人工智能贴纸工具还能把一对乳房贴到几乎任何东西上，比如刺猬索尼克和卡尔-马克思的图像。甚至还有一张贴纸，画的是一个女人正在给皮卡丘喂奶。这些人工智能生成的聊天贴纸是上周在 Meta 的 Connect 活动上发布的，同时发布的还有 Instagram 的全新人工智能图片编辑器。人工智能生成的贴纸由 Meta 的 Llama 2 大型语言模型（该公司的 ChatGPT 竞争对手）提供支持，允许用户使用基于文本的提示"在几秒钟内创建多个独特、高质量的贴纸"。

AI 生成的贴纸目前正在向 Facebook Stories、Instagram Stories 和 DMs、Messenger 和 WhatsApp 的"部分英语用户"推出，本月内还将继续面向更多人推出，因此目前还不清楚有多少用户可以使用这项功能。
某些词似乎确实被屏蔽了，在提示中使用这些词会警告用户他们的描述可能违反了 Meta 的社区指南。不过，其他 X 用户报告说，他们仍然可以使用错别字或限制词语的描述来生成不恰当的内容。在某些情况下，像"世贸中心"这样的提示会生成有问题的图片，而根本不需要任何额外的描述。
在推出人工智能工具的过程中，这种恶作剧很常见，这可能也是 Meta 有限推出人工智能生成贴纸功能的原因。这样，它就能在滥用现象蔓延到大众之前加以解决和纠正。 来源：cnBeta