近日，埃隆·马斯克旗下人工智能企业xAI开发的聊天机器人“格罗克”陷入舆论漩涡。这款被内置于马斯克社交媒体平台X的AI工具，因涉嫌生成色情内容引发多国强烈谴责，英国、法国、印度、巴西、澳大利亚等国及欧盟监管机构已介入调查。
据调查，X平台部分用户利用“格罗克”的图片编辑功能，批量生成真实人物的虚假性暴露图像，受害者涵盖成年女性及未成年人群体。这些内容通过平台公开传播，造成恶劣社会影响。美联社分析指出，问题恶化与马斯克的商业策略密切相关——其团队曾公开宣称“格罗克”比竞争对手“更前卫”，刻意减少安全限制措施，同时生成的图像默认公开可见，加速了不良内容的扩散。
此次争议并非孤立事件。随着生成式人工智能技术突破，深度伪造内容正成为全球性挑战。从换脸视频到语音合成，技术滥用案例呈指数级增长，但多数国家尚未建立完善的AI监管框架。专家警告，现有法律体系难以应对AI生成内容的溯源、责任认定及损害赔偿等复杂问题。
目前，X平台已承诺升级内容审核机制，但具体措施尚未公布。国际社会呼吁科技企业承担主体责任，在技术创新与伦理风险间建立平衡机制，防止技术沦为侵害他人权益的工具。
