IT之家 8 月 6 日消息，Grok 新推出的生成式 AI 视频工具 Grok Imagine 拥有一个“辣”（spicy）模式，被认为存在潜在的法律风险。据 TheVerge 报道，与谷歌的 Veo 和 OpenAI 的 Sora 等其他视频生成工具不同，Grok Imagine 似乎对生成成人内容和名人换脸视频毫无顾忌。在首次使用该工具时，其甚至在未被明确要求的情况下，直接生成了泰勒・斯威夫特（Taylor Swift）赤裸上身的视频片段。
据IT之家了解，Grok Imagine 的 iOS 版本允许用户通过文本提示词生成图片，并通过“自定义”“正常”“有趣”和“辣”四种预设模式，快速将图片转化为视频片段。尽管许多图像生成器通常会避免生成名人形象，但当被要求生成“泰勒・斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具却提供了超过 30 张可供选择的图像，其中不少图片中斯威夫特穿着暴露。
用户只需打开一张斯威夫特穿着银色短裙和露肩上衣的图片，点击右下角的“制作视频”选项，从下拉菜单中选择“辣”模式，并确认自己的出生年份（尽管在英国已实行年龄限制，但下载该应用时并未要求进行年龄验证），视频便会立即生成。在视频中，斯威夫特脱掉衣服，仅穿着丁字裤在一群冷漠的 AI 生成观众面前跳舞。
尽管 Grok 生成的斯威夫特形象并不完美，大多数图像都带有一种“恐怖谷”般的不自然感，但仍可被识别为她本人。
此外，该图像生成器还可以根据要求生成儿童的逼真照片，但值得庆幸的是，尽管“辣”选项仍然可用，其拒绝以不适当的方式对儿童图像进行动画处理。在所有测试中，只是添加了一些普通的动作。
xAI 的可接受使用政策确实禁止“以色情方式描绘人物形象”，但 Grok Imagine 似乎并未采取任何措施来阻止用户生成像斯威夫特这样的名人形象，同时提供了一项专门用于制作包含部分裸体的暗示性视频的服务。而且年龄验证仅出现了一次，且极易被绕过，无需任何证明用户所声称年龄的证据。
据 xAI 首席执行官埃隆・马斯克（Elon Musk）透露，自周一以来，已有超过 3400 万张图片通过 Grok Imagine 生成，其使用量正在“像野火般蔓延”。
IT之家 8 月 6 日消息，Grok 新推出的生成式 AI 视频工具 Grok Imagine 拥有一个“辣”（spicy）模式，被认为存在潜在的法律风险。据 TheVerge 报道，与谷歌的 Veo 和 OpenAI 的 Sora 等其他视频生成工具不同，Grok Imagine 似乎对生成成人内容和名人换脸视频毫无顾忌。在首次使用该工具时，其甚至在未被明确要求的情况下，直接生成了泰勒・斯威夫特（Taylor Swift）赤裸上身的视频片段。
据IT之家了解，Grok Imagine 的 iOS 版本允许用户通过文本提示词生成图片，并通过“自定义”“正常”“有趣”和“辣”四种预设模式，快速将图片转化为视频片段。尽管许多图像生成器通常会避免生成名人形象，但当被要求生成“泰勒・斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具却提供了超过 30 张可供选择的图像，其中不少图片中斯威夫特穿着暴露。
用户只需打开一张斯威夫特穿着银色短裙和露肩上衣的图片，点击右下角的“制作视频”选项，从下拉菜单中选择“辣”模式，并确认自己的出生年份（尽管在英国已实行年龄限制，但下载该应用时并未要求进行年龄验证），视频便会立即生成。在视频中，斯威夫特脱掉衣服，仅穿着丁字裤在一群冷漠的 AI 生成观众面前跳舞。
尽管 Grok 生成的斯威夫特形象并不完美，大多数图像都带有一种“恐怖谷”般的不自然感，但仍可被识别为她本人。
此外，该图像生成器还可以根据要求生成儿童的逼真照片，但值得庆幸的是，尽管“辣”选项仍然可用，其拒绝以不适当的方式对儿童图像进行动画处理。在所有测试中，只是添加了一些普通的动作。
xAI 的可接受使用政策确实禁止“以色情方式描绘人物形象”，但 Grok Imagine 似乎并未采取任何措施来阻止用户生成像斯威夫特这样的名人形象，同时提供了一项专门用于制作包含部分裸体的暗示性视频的服务。而且年龄验证仅出现了一次，且极易被绕过，无需任何证明用户所声称年龄的证据。
据 xAI 首席执行官埃隆・马斯克（Elon Musk）透露，自周一以来，已有超过 3400 万张图片通过 Grok Imagine 生成，其使用量正在“像野火般蔓延”。