人工智能技术的迅猛发展正深刻改变着社会的各个角落。近期，全国人大代表、科大讯飞董事长刘庆峰针对“AI幻觉”现象引发的数据污染及其潜在社会危害表达了深切关注。
据中国互联网络信息中心发布的最新报告《生成式人工智能应用发展报告（2024）》显示，我国生成式人工智能产品的用户规模已经突破2.49亿，占据了整体人口的17.7%。这一快速增长的用户基数，虽彰显了技术的广泛普及，但背后隐藏的风险也不容忽视。
尤其是生成式人工智能存在的“幻觉”问题，尤其是随着深度推理模型逻辑自洽性的不断提升，AI生成的内容愈发难以分辨真伪。这种带有算法偏差的虚假信息一旦被新一代AI系统循环学习，便可能陷入“数据污染—算法吸收—再污染”的恶性循环。由于普通大众对AI技术原理及其生成机制缺乏深入了解，他们往往容易将这些由算法输出的“幻觉数据”误认为是真实可靠的信息。
当互联网上充斥着由大型AI模型生成的“幻觉数据”时，这不仅会严重削弱公众的信任感，还可能对社会稳定构成潜在威胁。针对这一现状，刘庆峰强调，必须采取积极措施，从技术研发和管理机制两方面入手，共同构建一个可信的信息环境。
首先，他建议构建一套安全可信的数据标签体系，以此提升内容的可靠性。具体而言，应建立一个安全、可信且能够动态更新的信源和数据知识库，并为不同类型的数据根据其可信度和潜在危害程度打上标签。这样做可以有效降低人工智能产生“幻觉”的概率，从而提升生成内容的可靠性。
其次，刘庆峰还呼吁研发AIGC幻觉治理技术和平台，定期对幻觉数据进行清理。这包括研究幻觉自动分析技术和开发相应的软件平台，开展幻觉自动分析、AIGC深度鉴伪、虚假信息检测、有害内容识别以及互联网传播溯源等工作。他建议由中央网信办、国家数据局等相关部门主导，定期清理幻觉数据，并向公众提供AIGC幻觉信息检测工具与服务，以维护一个健康、可信的网络信息生态。
