标题：认知战争：内容平台如何迎战AI生成的虚假信息
随着生成式AI技术的快速发展，制造标题党、小编体和擦边内容的门槛急剧降低，这些低质内容、谣言的传播力、说服力和伪装性得到了前所未有的增强。在这场无声却影响深远的认知战争中，每个人都可能成为受害者。
为了应对这一挑战，今日头条在《2024年度治理报告》中披露，该平台在过去一年拦截了超过500万条不实信息，封禁了4.77万个造谣、传谣的违规账号，处理了93万多条低质量AI内容，并对相关账号实施了封禁或禁言措施。还处罚了781万多篇同质化发文，封禁、禁言违规账号6.3万个。
今日头条内容策划负责人刘姗姗表示：“作为内容资讯平台，我们有责任和义务确保用户看到真实、有用的信息。”低质和虚假内容不仅破坏了平台生态，降低了优质创作者的积极性，还可能误导用户，影响他们的深度思考能力和道德价值判断。
为了在这场认知战争中占据主动，今日头条推出了谣言库、权威信源库和专业审核团队组成的“治谣套餐”。谣言库利用大模型，通过关键词抓取和内容比对快速验证信息真伪；权威信源库则帮助谣言库和审核人员判定信息，精准辟谣；人工审核团队与AI审核机制相结合，让平台的治理流程更加高效可靠。
今日头条还推出了《头条讲真的》项目，与医学、法律等领域专家合作，主动出击不实信息和劣质信息，与辟谣系统共同构成了认知战争中的“双轮驱动体系”。
同样，抖音也在积极应对虚假信息的挑战。抖音发布的2024年平台治理报告显示，去年该平台累计删除了452万条谣言，提前拦截了340万条谣言，并处理了4.8万条涉企谣言视频。针对老年人易受骗的问题，抖音日均下架违规视频5000余条，每日成功劝阻约1万人。
抖音集团副总裁李亮指出，识别摆拍是治理难点，一些媒体有时会误将段子当作新闻报道。为此，抖音采取了专项核实措施，对达到一定热度阈值或收到举报的事件进行真实性核查，在调查结果明确前暂停相关内容的推荐。
抖音CEO梁汝波在字节跳动全员会上强调，要做好虚假信息和谣言的治理，打击无底线博流量的行为。抖音不仅设立了安全与信任中心，推动算法和平台治理透明化，还针对不同问题推出了多种治理方案。
在认知战争中，除了平台加强审核外，用户自身的信息甄别能力也至关重要。例如，近期网络上流传的“80后死亡率突破5.2%”等谣言，经溯源发现，这些错误信息的源头可能是AI对话。AI在互动过程中，往往会根据提示词和对话历史进行延伸搜索，并在数据库中抓取内容回复，但有时会因数据库无法锚定而出现“幻觉效应”，或受到非权威信源的误导。
AI的“词语接龙Plus版”特性，使其在缺乏意识和判断力的情况下，可能生成错误或误导性的内容。恶意分子还可以利用AI截图传播谣言，通过角色扮演、复读游戏等方式混淆视听。
这提醒我们，在日益复杂的网络生态中，每个人都应成为认知战争的参与者和捍卫者。除了内容平台强化审核机制外，用户也应建立自己的“信息防火墙”，在转发信息前学会冷静思考，让子弹再飞一会。
