在科技界的聚光灯下，一场关于人工智能（AI）伦理与创新的争议正愈演愈烈。焦点人物，莫过于特斯拉与SpaceX的掌门人——埃隆·马斯克，及其旗下公司X推出的最新AI功能Grok Imagine。
一年前，X平台因深陷泰勒·斯威夫特深度伪造不雅照风波而备受争议。一年后，马斯克亲自操刀，为用户带来了一款能够生产这类内容的工具——Grok Imagine，并大肆宣扬其“火辣”模式（Spicy Mode）。这一举动，无疑在用户群中和科技圈内引发了轩然大波。
使用Grok Imagine生成的Taylor Swift照片
据The Verge记者亲身体验，Grok Imagine能够根据简单的文本提示，快速生成图像乃至视频。当输入“泰勒·斯威夫特在科切拉音乐节和朋友们庆祝”的提示词后，软件不仅迅速生成了相关图片，还能进一步转换为视频，视频中泰勒·斯威夫特甚至扯掉了上衣开始跳舞。而这一切，都是在用户未明确提出任何不当要求的情况下发生的。
与其他主流AI视频生成工具如Google Veo、OpenAI Sora对名人伪造和色情内容的严格封锁不同，Grok Imagine在产品设计上就放开了这些限制。用户只需支付30美元的订阅费，即可在无任何监管的情况下，生成各种名人色情深度伪造视频。这一行为，无疑是对现有AI伦理边界的一次大胆挑战。
Grok Imagine界面
面对外界的质疑与批评，马斯克似乎并不在意。他高调宣布，Grok Imagine的使用量如野火般蔓延，生成的图片数量在短短一天内就从1400万张飙升至2000万张。这一数据，无疑是对其“突破边界”理念的最好回应。马斯克坚信，在AI功能日益趋同的今天，突破性的内容才是吸引用户、引爆话题的最快方式。
然而，Grok Imagine的“火辣”模式也引发了巨大的法律风险。尽管xAI的可接受使用政策中明确禁止以色情方式描绘人物肖像，但Grok Imagine的实际表现却似乎并未严格遵守这一规定。其审核机制存在诸多漏洞，如直接使用文本提示词索要裸体图片无法生成，但使用正常图片再通过“火辣”视频模式却能轻松绕过限制等。
英国互联网实施年龄限制
在经历了媒体的广泛报道和用户的实际测试后，xAI似乎紧急收紧了审核策略。现在使用“火辣”模式生成视频时，如有可能涉及不当内容，就会直接提示“视频已审核”而无法查看。同样，生成的图片如果不合时宜，也会被直接虚化处理并提示“图片已被审核”。
尽管Grok Imagine在用户体验和生成速度上表现不俗，但其公然提供名人深度伪造工具的做法仍饱受争议。媒体称其为“一个等待被起诉的功能”，并将其置于巨大的法律风险之下。马斯克用追求流量和最大乐趣的逻辑看似天衣无缝，但法律监管和伦理边界的考验却不容忽视。
社交媒体平台X上用户分享使用Grok Imagine制作的“火辣”视频
在AI技术日新月异的今天，我们不禁要问：为了追求创新和用户增长，是否真的需要牺牲伦理和底线？当AI正在高效地接管我们的生产力时，它是否也应该试图占据我们最人性的部分——欲望和陪伴？在拥抱AI带来的便利的同时，我们或许应该给自己留点时间和空间，有些空白不需要被填满，有些欲望也值得我们自己去理解和探索。
