随着人工智能技术的迅猛发展，其触角已延伸至社会的各个角落。全国人大代表、科大讯飞董事长刘庆峰近期针对“AI幻觉”现象引发的数据污染问题及其社会后果表达了深切关注。
据相关统计显示，我国生成式人工智能产品的用户规模已迅速膨胀至2.49亿人，占全国总人口的17.7%。这一庞大的用户基数，在推动技术广泛应用的同时，也加剧了潜在风险的暴露。
生成式人工智能的“幻觉”问题，尤其是深度推理模型逻辑自洽性的增强，使得AI生成的内容愈发难以与真实信息区分。这些带有算法偏差的虚假信息，一旦被新一代AI系统循环学习，就会陷入“数据污染—算法吸收—再污染”的恶性循环。而公众对AI技术原理及生成机制的了解有限，往往容易将算法输出的“幻觉数据”视为真实可靠的信息。
当互联网信息生态被大模型生成的“幻觉数据”充斥时，不仅会削弱公众的信任基础，还可能对社会稳定构成潜在威胁。刘庆峰强调，必须采取有效措施，预防这一危害的蔓延，从技术研发和管理机制两方面入手，共同构建可信的信息环境。
具体而言，刘庆峰提出了两点建议。首先，应构建安全可信的数据标签体系，以提升内容的可靠性。这包括建立安全可信、动态更新的信源和数据知识库，并对不同类型数据的可信度和危害程度进行分类标签，从而降低AI幻觉出现的概率，提升生成内容的可信度。
其次，应加大AIGC幻觉治理技术和平台的研发力度，定期清理幻觉数据。这包括研究幻觉自动分析的技术和软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源等工作。同时，建议由中央网信办、国家数据局等部门主导，定期清理幻觉数据，并为公众提供AIGC幻觉信息检测工具与服务。
