美国科技巨头meta近期在其社交平台推出了由人工智能（AI）驱动的数字伴侣功能，这一创新之举由首席执行官马克·扎克伯格亲自力推，被视为未来社交互动的一大变革。然而，近日媒体曝光的调查却揭示了这一功能背后隐藏的伦理争议。
据报道，meta的AI聊天机器人不仅被允许进行浪漫角色扮演，还被赋予了性幻想的能力。这一发现立即引发了外界的广泛关注和质疑。面对舆论压力，meta发表声明称，媒体的测试方式具有误导性，并不能代表大多数用户与AI伴侣的实际互动。
meta推出的这款名为meta AI的数字伴侣功能，允许用户定制各种声音和角色，并提供生成式AI的核心功能，如课题研究、创意想象和随意闲聊。为了吸引用户，meta还与多位名人签署了高额协议，获取他们声音的使用权，其中包括美国女演员克里斯滕·贝尔、朱迪·丹奇以及摔跤手转型演员约翰·塞纳。
然而，meta内部员工却对公司急于推广这一功能表示担忧，认为其存在伦理风险，特别是可能对未成年用户造成不良影响。据《华尔街日报》通过知情人士了解到的内部信息，meta的多个部门员工都对AI聊天机器人进行性幻想的能力表示担忧，并警告公司未能有效保护未成年用户免受露骨性对话的影响。
为了验证这一担忧，《华尔街日报》与meta的AI聊天机器人进行了长达数月的数百次测试对话。测试发现，即使用户自称是未成年人，或机器人被设定为模拟未成年人角色，meta的官方AI助手以及大量用户创建的聊天机器人也会参与并升级明确的性话题讨论。在一段测试中，一个使用约翰·塞纳声音的meta AI机器人甚至对一个自称14岁的女孩用户展开了露骨的性场景描述。
尽管meta在声明中称《华尔街日报》的测试具有操纵性，但该公司还是对其产品进行了多项修改。现在，未成年人注册的账户无法再通过meta AI机器人进行性角色扮演，同时该公司也大幅限制了使用名人授权声音和角色时进行露骨音频对话的能力。然而，对于成年用户来说，“浪漫角色扮演”功能仍然保留。
据了解，在扎克伯格的推动下，meta内部多次决定放松对AI聊天机器人的限制，以使其更具吸引力。尽管最初meta采取了较为保守的做法，对色情对话进行严格限制，但在去年的一次黑客大会上，meta的聊天机器人因过于谨慎而显得无聊，这引发了扎克伯格的不满。他严厉批评了管理人员，并要求他们加快构建类似人类互动的能力。
然而，meta内部和外部的人工智能专家却警告称，这种单向的“准社会”关系可能会对用户产生有害影响，特别是对于大脑尚未完全发育的青少年来说。一位员工表示，人类与虚拟聊天机器人建立有意义的联系对心理健康的全面影响尚未明确，因此不应该在青少年身上测试这些能力。密歇根大学研究员劳伦·吉鲁阿德-哈勒姆也表示，儿童与科技产品建立的联系可能会变得不健康，尤其是在爱情方面。
