近日，一款名为Grok Imagine的生成式AI视频工具引发了广泛关注，特别是其内置的“辣”（spicy）模式，被指存在法律风险。据有关媒体报道，与其他视频生成工具如谷歌的Veo和OpenAI的Sora不同，Grok Imagine在生成成人内容和名人换脸视频方面显得毫无限制。
在使用Grok Imagine的过程中，用户甚至无需明确提出要求，该工具就自动生成了泰勒·斯威夫特（Taylor Swift）赤裸上身的视频片段。这一行为引发了公众对隐私保护和道德伦理的担忧。
Grok Imagine的iOS版本提供了四种预设模式，包括“自定义”、“正常”、“有趣”和“辣”，用户可以通过简单的文本提示词生成图片，并迅速将这些图片转化为视频片段。当被要求生成“泰勒·斯威夫特与男孩们一起庆祝科切拉音乐节”的图片时，该工具提供了大量可供选择的图像，其中不少图像中斯威夫特的穿着相当暴露。
进一步测试中，用户只需选择一张斯威夫特的图片，点击“制作视频”选项，并从下拉菜单中选择“辣”模式，即可生成一段视频。在这段视频中，斯威夫特脱掉衣服，仅穿着丁字裤在一群冷漠的AI生成观众面前跳舞。尽管生成的斯威夫特形象并不完美，带有一种“恐怖谷”般的不自然感，但仍可被轻易识别。
值得注意的是，Grok Imagine还可以根据要求生成逼真的儿童照片。然而，尽管“辣”选项仍然可用，该工具拒绝以不适当的方式对儿童图像进行动画处理，在所有测试中只是添加了一些普通的动作。这一行为在一定程度上缓解了公众对儿童保护的担忧。
尽管xAI的可接受使用政策明确禁止“以色情方式描绘人物形象”，但Grok Imagine似乎并未采取有效措施来阻止用户生成名人形象，并提供了一项专门用于制作包含部分裸体的暗示性视频的服务。年龄验证机制在该工具中仅出现了一次，且极易被绕过，无需任何证明用户年龄的证据。
据xAI首席执行官透露，自推出以来，Grok Imagine已生成了超过3400万张图片，其使用量正在迅速增长。这一数据无疑加剧了公众对AI技术滥用和道德伦理的担忧。
